Von der Entwicklung bis zur Anwendung ist die Gesichtserkennungsindustrie voller fragwürdiger Praktiken. Aber es geht immer noch fragwürdiger. In Milwaukee erwägt die Polizei nun einen geradezu karikaturhaft bösen Deal: 2,5 Millionen Fahndungsfotos an ein privates Unternehmen zu übergeben, im Gegenzug für kostenlosen Zugang zu Gesichtserkennungssoftware.
Am Freitag berichtete der Milwaukee Journal Sentinel, dass Polizeibeamte den möglichen Deal bei einer Sitzung der Fire and Police Commission der Stadt bekannt gaben. Dem Bericht zufolge hatte die Polizei von Milwaukee zuvor Zugriff auf Gesichtserkennungstechnologie über benachbarte Behörden erhalten. Mit diesem Deal würde das Department zwei kostenlose Suchlizenzen von Biometrica, einem Softwareunternehmen, das bereits mit US-Strafverfolgungsbehörden zusammenarbeitet, erhalten – im Austausch für jahrzehntealte Fahndungsfotos und Gefängnisakten.
Wofür Biometrica die Fahndungsfotos verwenden könnte
Obwohl Biometricas Pläne für diese Fotos nicht bestätigt sind, wird vermutet, dass sie zur Schulung der Software verwendet werden. Biometrica reagierte nicht auf Gizmodos Anfrage. Gesichtserkennungstechnologien werden jedoch regelmäßig mit gestohlenen oder ausgeliehenen Datensätzen trainiert. Beispielsweise sammelte Clearview AI Millionen von Fotos aus sozialen Netzwerken, und PimEyes nutzte Bilder Verstorbener für seine Algorithmen. Auch das National Institute of Standards and Technology unterhält eigene Datenbanken mit Fahndungsfotos und Bildern schutzbedürftiger Personen.
In einer E-Mail an Gizmodo bestätigte die Polizei von Milwaukee, dass noch kein Vertrag abgeschlossen wurde. Man plane, die Diskussion bei weiteren städtischen Sitzungen fortzusetzen. Ein Sprecher schrieb, dass „Transparenz gegenüber der Gemeinschaft, der wir dienen, wichtiger ist als die Dringlichkeit der Beschaffung.“ Doch schon der bloße Vorschlag sorgt für große Besorgnis.
Gesichtserkennung und systematische Fehler
Die Ungenauigkeit der Gesichtserkennung bei der Identifikation von dunkelhäutigen Menschen – insbesondere Frauen und nicht-binären Personen – ist gut dokumentiert. Laut David Gwidt von der American Civil Liberties Union (ACLU) von Wisconsin führte dies bereits zu zahlreichen falschen Verhaftungen, bei denen fast immer schwarze Personen betroffen waren.
Doch das ist nicht das einzige Problem dieses Deals. Der vorgeschlagene Vertrag enthält keinerlei Bestimmungen darüber, Einzelpersonen zu informieren, deren Einwilligung einzuholen oder ihnen eine Ablehnungsmöglichkeit zu bieten. Wisconsin hat, wie die meisten US-Bundesstaaten, keine speziellen Gesetze zum Schutz biometrischer Daten. Lediglich Illinois hat umfassendere Vorschriften.
Rechtliche Lücken und ethische Bedenken
Obwohl Fahndungsfotos in Wisconsin grundsätzlich als öffentliche Aufzeichnungen gelten, bleiben ethische Bedenken bestehen. Die Verwendung biometrischer Daten birgt enorme Risiken. Biometrische Datenlecks, wie sie Forbes beschreibt, können zu Identitätsdiebstahl führen oder Sicherheitssysteme kompromittieren – und im Gegensatz zu Passwörtern lässt sich ein Gesicht nicht einfach ändern.
Daraus ergibt sich eine zentrale Frage: Sollten Polizeibehörden das Risiko auf Kosten der Bürger eingehen dürfen?
Ein gefährliches historisches Muster
Die USA haben eine lange Geschichte, marginalisierte Gemeinschaften zugunsten technologischer Fortschritte auszubeuten – man denke nur an das Tuskegee-Experiment. Dieser Deal würde diese Tradition im digitalen Zeitalter fortsetzen. Wie Jeramie Scott von EPIC betont, würden die Milwaukee-Polizei mit dem Einsatz der überwiegend von People of Color stammenden Fotos eine Überwachungstechnologie trainieren, die wiederum unverhältnismäßig stark gegen diese Bevölkerungsgruppen eingesetzt wird.
Fehlende gesetzliche Regulierung und Aufrufe zum Handeln
Eine umfassende bundesweite Regulierung der Gesichtserkennung ist nicht in Sicht. Während Madison die Technologie 2020 verboten hat, existieren auf Landesebene keine derartigen Gesetze. Auch Milwaukee reguliert bisher nicht den Einsatz bestehender Überwachungstechnologien durch die Polizei.
Die ACLU von Wisconsin forderte vergangene Woche ein zweijähriges Moratorium für neue Überwachungstechnologien und die Entwicklung klarer Regeln für bestehende Systeme. Zwar verspricht die Polizei, niemanden allein aufgrund eines Gesichtserkennungstreffers zu verhaften, aber es fehlen verbindliche Kontrollmechanismen.
