Gesichtserkennung

Im Tages-Anzeiger von heute (08.09.2017) wird unter dem Titel Wir erkennen euch! (Biblionetz:t19958) über den aktuellen Stand der Gesichtserkennung (Biblionetz:w2266) als biometrische Erkennungsmethode (Biblionetz:w1245) berichtet. Die Gesichtserkennung hat in den letzten Jahren massive Fortschritte gemacht und wird an immer mehr Orten eingesetzt (Terror- und Kriminalitätsprävention, Authentisierungsmethode für Flughäfen und Computer (z.B. iPhone 7) etc. Der Artikel erwähnt auch die problematischen Aspekte von false positives und der Gefahr massenhafter Präventiv-Überwachung sowie der Tendenz, mit "Terrorgefahr" eine zunehmende Überwachung zu rechtfertigen (Stichwort: Sicherheit statt Privatsphäre ).

Soweit, so bekannt. Ebenfalls heute bin ich über einen Preprint eines wissenschaftlichen Papers gestossen, das - wenn es denn kein Fake ist und wissenschaftlicher Überprüfung standhält - aus meiner Sicht noch einiges beunruhigender ist. Unter dem Titel Deep neural networks are more accurate than humans at detecting sexual orientation from facial images (Biblionetz:t19959) berichten die beiden Wissenschaftler Michal Kosinski und Yilun Wang von der Universität Stanford, dass sie ein neuronales Netzwerk mit Fotos einer Datingplattform zusammen mit der sexuellen Orientierung der Fotografierten gefüttert hätten. Danach sei das neuronale Netzwerk besser als Menschen fähig gewesen, anhand von Fotos heterosexuelle von homosexzuellen Menschen zu unterscheiden.

futurezone.at schreibt:

Lässt sich die in diesem Preprint gemachte Behauptung tatsächlich wissenschaftlich belegen, so hätte dies weitreichende Konsequenzen:

• Gesichtserkennung würde nicht bloss zur Identifikation von Menschen dienen, sondern wäre fähig, teilweise hochprivate Vorlieben zu prognostizieren (mit sehr weitreichenden Folgen bei falschen Zuordnungen)
• Das Verfahren zur Zuordnung der sexuellen Präferenz von Menschen anhand von Fotos mittels neuronaler Netze (letztendlich mathematischer Verfahren) würde zeigen, dass Computer immer mehr Dinge tun können, die ihnen bis vor kurzem niemand zugetraut hätte. Dies dürfte die Diskussion um big data (Biblionetz:w2425) und künstliche Intelligenz (Biblionetz:w39) weiter anfachen.
• Drittens würde dieses Verfahren zeigen, dass mit Hilfe von Computern neues Wissen gewonnen und bisherige Hypothesen umgestossen werden könnten. Im vorliegenden Fall wäre dies besonders brisant: Methoden, die behaupten, aus den Gesichtszügen von Menschen deren Charaktereigenschaften ablesen zu können, sind aktuell sehr verpönt und werden als kompletter Unsinn bezeichnet (u.a. weil sie zur Nazi-Zeit in Deutschland zur Begründung von menschenverachtenden Rassentheorien verwendet wurden, siehe dazu z.B. WikipediaDeutsch:Physiognomik).
  Würde sich nun mit algorithmischen Methoden zeigen lassen, dass doch eine gewisse Korrelation feststellbar ist, würde dies sowohl die Bedeutung von Computational Science als auch eine entsprechende ethische Debatte befeuern.

Ich bin betriebsblind: Für mich ist dies wieder ein Beleg dafür, dass wir in der Bildung digitale Themen unter den Perspektiven des Dagstuhl-Dreiecks Biblionetz:w2886) betrachten sollten. Schülerinnen und Schüler sollten wissen:

Wie funktioniert das?	Was sind die Potenziale und Grenzen neuronaler Netzwerke?
Wie wirkt das?	Welche Konsequenzen hat diese technische Möglichkeit auf die Gesellschaft? Wie sollen wir als Individuen und als Gesellschaft juristisch und ethisch darauf reagieren?
Wie nutze ich das?	Wie kann ich diese Technik sinnvoll nutzen und wie schütze ich mich vor unerwünschten Nebenwirkungen? Geht das überhaupt?

Es bleibt spannend.

Mediale Berichterstattung:

• heise.de
• futurezone.at

---