KI: Gesichtserkennung ist systematisch rassistisch
Von der Ausgabe von Toilettenpapier bis zur Polizeifahndung: China zeigt, wie Gesichtserkennung das Leben verändert. In einem Rechtsstaat ist das ein Problem.
Deborah Raji kämpft gegen rassistische Systeme zur Gesichtserkennung.
(Bild: David Vintiner)
- Karen Hao
- Boris Hänßler
Wer unter Reisedurchfall leidet, sollte einen weiten Bogen um die chinesische Insel Guangzhou machen. Das beliebte Touristenziel hat öffentliche Toiletten mit einer Gesichtserkennungs-Technologie ausgestattet. Wer eine benötigt, muss sich zunächst vor einem Ausgabegerät scannen lassen und bekommt dann etwa einen Meter Toilettenpapier zur Verfügung gestellt – mehr gibt das System zumindest für die nächsten zehn Minuten nicht heraus, auch nicht an einem anderen Schalter. Inzwischen sind etwa 700 Städte im ganzen Land dabei, solche Toilettenpapier-Wächter einzuführen.
Die Technik soll Papier sparen und Zeit. Das aber ist nur die skurrile Seite der Entwicklung. Wie ernst China es beim Thema Gesichtserkennung meint, machen die anderen Beispiele klar. Ant Financial, ein Unternehmen der Alibaba-Gruppe, bietet eine Technologie zum Bezahlen an. Für seinen "Smile to Pay"-Service müssen Kunden zwar nicht wirklich lächeln, aber ihr Gesicht in eine 3D-Kamera halten und nach dem Scan ihre Mobilnummer zur Verifizierung eingeben. Auch der Fahrtendienstleister Didi Chuxing nutzt Gesichtserkennung zur Bestätigung der Identität der Fahrer. Und einige Wohn- und Gewerbeimmobilien in China kann man gar nicht mehr betreten, ohne sich scannen zu lassen.
China verfügt inzwischen über ein ausuferndes Überwachungsnetz mit laut staatlichen Planungen bald etwa 600 Millionen Kameras – bei nur etwa doppelt so vielen Einwohnern. Einer der führenden Anbieter für Gesichtserkennung ist das chinesische Unternehmen Megvii Technology. Dessen System Face++ erregte öffentliche Aufmerksamkeit, als es die chinesische Regierung zur Verfolgung von Straftätern einsetzte. Laut offiziellen Berichten hat die Polizei zum Beispiel bei einer Großveranstaltung alle 2,3 Millionen Besucher gescannt und dabei 15 gesuchte Personen gefunden.
Das war die Leseprobe unseres heise-Plus-Artikels "KI: Gesichtserkennung ist systematisch rassistisch". Mit einem heise-Plus-Abo können sie den ganzen Artikel lesen und anhören.Immer mehr Wissen. Das digitale Abo für IT und Technik.
Videos verlustfrei mit VLC konvertieren
ChatGPT: Was der Sprachbot alles kann und wann sich ein Abo lohnt
Mit der Apple Watch im Schlaflabor: So gut zeichnet sie Schlaf auf
Apple iPad Air 2024 mit 13"-Display im Test: Das bezahlbare Pro
Kamerasensoren erklärt: So wird aus Licht ein Bild
LED-Matrizes mit MicroPython steuern
Immer mehr Wissen. Das digitale Abo für IT und Technik.
Videos verlustfrei mit VLC konvertieren
ChatGPT: Was der Sprachbot alles kann und wann sich ein Abo lohnt
Mit der Apple Watch im Schlaflabor: So gut zeichnet sie Schlaf auf
Apple iPad Air 2024 mit 13"-Display im Test: Das bezahlbare Pro
Kamerasensoren erklärt: So wird aus Licht ein Bild