Im Januar 2020 verbrachte Robert Williams 30 Stunden in einem Gefängnis in Detroit, weil ihn die Gesichtserkennungstechnologie als Schwerverbrecher identifizierte. Das Match war falsch und Mr. Williams verklagte.
Am Freitag im Rahmen von Rechtliche Einigung Nach seiner rechtswidrigen Festnahme erhielt Herr Williams von der Detroit Police Department die Zusage, ihre Leistung zu verbessern. Die Stadt hat neue Regeln für den Einsatz von Gesichtserkennungstechnologie durch die Polizei verabschiedet, die nach Ansicht der American Civil Liberties Union, die Herrn Williams vertrat, der neue nationale Standard sein sollten.
„Hoffentlich bewegt sich das in die richtige Richtung“, sagte Herr Williams.
Herr Williams war die erste bekannte Person Zu Unrecht verhaftet Aber es war nicht das letzte Mal. Die Polizei von Detroit hat aufgrund fehlgeschlagener Gesichtserkennungssuchen mindestens zwei weitere Personen festgenommen, darunter eine Frau, die im Alter von 14 Jahren wegen Autodiebstahls angeklagt wurde. Im achten Monat schwanger.
Strafverfolgungsbehörden im ganzen Land nutzen Gesichtserkennungstechnologie, um Kriminelle zu identifizieren, deren Verbrechen mit der Kamera festgehalten wurden. In Michigan vergleicht das Programm ein anonymes Gesicht mit denen in einer Fotodatenbank oder mit Führerscheinfotos. In anderen Gerichtsbarkeiten nutzt die Polizei Tools wie Clearview AI, die Bilder durchsuchen, die von Social-Media-Websites und dem öffentlichen Internet stammen.
Eine der wichtigsten neuen Regeln, die in Detroit verabschiedet wurden, besteht darin, dass Fotos von Personen, die durch Gesichtserkennungstechnologie identifiziert wurden, einem Augenzeugen in der Fotosammlung nicht mehr gezeigt werden dürfen, es sei denn, es gibt andere Beweise, die sie mit der Straftat in Verbindung bringen.
„Der Spruch ‚Machen Sie sich ein Foto und legen Sie es hintereinander‘ wird enden“, sagte Phil Mayor, ein Anwalt der American Civil Liberties Union of Michigan. „Diese Einigung macht das Detroit Police Department vom am besten dokumentierten Missbrauch von Gesichtserkennungstechnologie zu einem landesweit führenden Anbieter bei der Verwendung von Leitplanken.“
Die Polizei sagt, Gesichtserkennungstechnologie sei ein wirksames Instrument zur Aufklärung von Verbrechen, doch einige Städte und Bundesstaaten, darunter San Francisco, Austin (Texas) und Portland (Oregon), haben ihren Einsatz aufgrund von Bedenken hinsichtlich der Privatsphäre und rassistischer Voreingenommenheit vorübergehend verboten. Stephen Lamoureux, Chief Information Officer der Kriminalpolizei von Detroit, sagte, die Polizei sei „sehr bestrebt, Technologie so einzusetzen, dass sie der öffentlichen Sicherheit zugute kommt“. Er behauptete, dass Detroit „derzeit die stärkste Politik im Land“ habe.
Wie Dinge schiefgehen
Herr Williams wurde nach einem Verbrechen im Jahr 2018 verhaftet. Ein Mann stahl fünf Uhren aus einem Geschäft in der Innenstadt von Detroit, während dies von einer Überwachungskamera aufgezeichnet wurde. Das Schadenverhütungsunternehmen stellte das Filmmaterial der Polizei von Detroit zur Verfügung.
Eine Suche nach dem Gesicht des Mannes auf Führerscheinfotos und Fahndungsfotos ergab 243 Bilder, sortiert nach der Überzeugung des Systems, dass es sich bei ihm um dieselbe Person im Überwachungsvideo handelt, wie aus Dokumenten hervorgeht, die im Rahmen der Klage von Herrn Williams entsiegelt wurden. Ein Foto von Herrn Williams‘ altem Führerschein landete auf Platz neun der Liste. Die Person, die die Suche durchführte, hielt es für die beste Übereinstimmung und schickte einen Bericht an einen Detektiv der Polizei in Detroit.
Der Ermittler fügte das Foto von Herrn Williams einem „Sixpack“ bei – Fotos von sechs Personen in einem Raster –, das er dem Sicherheitsunternehmer zeigte, der das Überwachungsvideo des Geschäfts zur Verfügung gestellt hatte. Sie stimmte zu, dass Herr Williams dem Mann im Laden am nächsten kam, was dazu führte, dass ein Haftbefehl gegen ihn ausgestellt wurde. Herr Williams, der sich zum Zeitpunkt des Diebstahls der Uhren in seinem Büro bei einem Autozulieferer befand, verbrachte die Nacht im Gefängnis und seine Fingerabdrücke und DNA wurden gesammelt. Ihm wurde Einzelhandelsbetrug vorgeworfen und er musste einen Anwalt engagieren, um sich zu verteidigen. Die Staatsanwälte ließen den Fall schließlich fallen.
Er reichte 2021 eine Klage gegen Detroit ein, in der Hoffnung, ein Verbot der Technologie durchzusetzen, damit andere nicht sein Schicksal erleiden. Er sagte, er sei letztes Jahr verärgert gewesen, als er erfahren habe, dass die Polizei von Detroit Porsha Woodruff wegen Autodiebstahls und Diebstahls angeklagt habe, nachdem eine schlechte Gesichtserkennungsübereinstimmung stattgefunden habe. Die Polizei verhaftete Frau Woodruff, als sie ihre Kinder für die Schule fertig machte. Außerdem reichte sie Klage gegen die Stadt ein. Die Klage ist noch nicht abgeschlossen.
„Es ist sehr gefährlich“, sagte Williams und bezog sich dabei auf die Gesichtserkennungstechnologie. „Ich sehe darin keinen positiven Nutzen.“
Neue Regeln
Die Polizei von Detroit ist für drei der sieben bekannten Fälle verantwortlich, in denen Gesichtserkennung zu einer unrechtmäßigen Festnahme führte. (Die anderen waren in Louisiana, New Jersey, Maryland und Texas). Aber Beamte aus Detroit sagten, neue Kontrollen würden weitere Verstöße verhindern. Sie bleiben optimistisch, was das Potenzial der Technologie zur Aufklärung von Verbrechen angeht, das sie derzeit nur noch bei schweren Straftaten wie Körperverletzung, Mord und Hauseinbruch einsetzen.
James White, Polizeichef von Detroit, machte „menschliches Versagen“ für die unrechtmäßigen Festnahmen verantwortlich. Er sagte, seine Beamten hätten sich zu sehr auf durch Technologie gewonnene Beweise verlassen. Der Fehler lag in ihrem Urteil, nicht im Urteil der Maschine.
Abhilfe soll dabei die neue Richtlinie schaffen, die ab diesem Monat in Kraft tritt. Nach den neuen Regeln darf die Polizei einem Augenzeugen das Gesicht einer Person nicht mehr allein auf der Grundlage einer Gesichtserkennungsübereinstimmung zeigen.
„Es muss irgendeine Art unterstützender Sekundärbeweis vorliegen, der nichts mit der Angelegenheit zu tun hat, bevor es eine ausreichende Rechtfertigung dafür gibt, in die Liste aufgenommen zu werden“, sagte er. Herr Lamoureux von der Detroit Crime Intelligence Unit. Die Polizei benötigt beispielsweise Standortinformationen vom Telefon einer Person oder DNA-Beweise – also mehr als nur eine physische Ähnlichkeit.
Der Abschnitt ändert auch die Art und Weise, wie Fotomenüs erstellt werden. Dabei kommt die sogenannte Doppelblind-Sequenzierung zum Einsatz, die als fairere Methode zur Identifizierung einer Person gilt. Anstatt die „Six Six“ einem Zeugen vorzulegen, präsentiert der Beamte – der nicht weiß, wer der Hauptverdächtige ist – die Fotos einzeln. Das Set enthält ein anderes Foto der Person als das, das das Gesichtserkennungssystem anzeigt.
Die Polizei muss außerdem offenlegen, dass eine Gesichtsdurchsuchung stattgefunden hat, sowie die Qualität des Bildes des durchsuchten Gesichts – wie grobkörnig war die Überwachungskamera? Wie klar ist das Gesicht des Verdächtigen? – Weil ein Bild von schlechter Qualität wahrscheinlich keine zuverlässigen Ergebnisse liefert. Sie müssen auch das Alter des vom automatisierten System angezeigten Fotos offenlegen und ob es in der Datenbank andere Fotos der Person gibt, die nicht als Übereinstimmung angezeigt wurden.
Franklin Hayes, stellvertretender Polizeichef von Detroit, sagte, er sei zuversichtlich, dass die neuen Praktiken künftige Fälle von Verwechslungen verhindern würden.
„Es gibt immer noch einige Dinge, die schief gehen könnten, zum Beispiel eineiige Zwillinge. Wir können nie nie sagen, aber wir glauben, dass dies die beste Politik ist, die wir bisher haben“, sagte Hayes.
Aaron Ross, Informatikprofessor an der Michigan State University und Experte für Gesichtserkennungstechnologie, sagte, die Politik von Detroit sei ein guter Ausgangspunkt, den andere Behörden übernehmen sollten.
„Wir wollen die Rechte und die Privatsphäre des Einzelnen nicht verletzen, aber wir wollen auch nicht, dass sich die Kriminalität ausbreitet“, sagte Ross.
Wie viel Hilfe?
Die Identifizierung von Augenzeugen ist eine Vollgestopft Bei diesem Unterfangen hat die Polizei Kameras und Gesichtserkennung als zuverlässigere Werkzeuge eingesetzt als das mangelhafte menschliche Gedächtnis.
Weißer Präsident Erzählen Letztes Jahr sagten örtliche Gesetzgeber, Gesichtserkennungstechnologie habe dazu beigetragen, „16 Mörder von der Straße fernzuhalten“. Als die Polizeibeamten um weitere Informationen gebeten wurden, machten sie keine Angaben zu diesen Fällen.
Stattdessen spielten Polizeibeamte eine Rolle, um die technologischen Erfolge der Regierung zu demonstrieren Überwachungsvideo Ein Mann versprühte Kraftstoff in einer Tankstelle und setzte diese in Brand. Sie sagten, er sei mittels Gesichtserkennungstechnologie identifiziert und noch in der Nacht festgenommen worden. Später Schuld anerkennen.
Das Detroit Police Department ist eines der wenigen, das Gesichtserkennungsdurchsuchungen überwacht und… Wöchentliche Berichte Über seine Verwendung für das Oversight Board. In den vergangenen Jahren haben wir durchschnittlich mehr als 100 Suchanfragen pro Jahr durchgeführt, wobei etwa die Hälfte dieser Suchanfragen potenzielle Übereinstimmungen ergab.
Das Management zeichnet lediglich auf, wie oft es einen Lead erhält, nicht jedoch, ob der Lead erfolgreich ist. Aber im Rahmen der Einigung mit Herrn Williams – der laut einem Polizeisprecher ebenfalls 300.000 US-Dollar erhalten hat – muss das Unternehmen eine Prüfung der Gesichtserkennungsdurchsuchungen durchführen, die bis zu dem Zeitpunkt zurückreichen, als es 2017 mit der ersten Nutzung der Technologie begann. Wenn es weitere Fälle identifiziert Wenn Personen mit wenigen oder keinen weiteren Beweisen außer einer Übereinstimmung im Gesicht festgenommen werden, soll die Abteilung den zuständigen Staatsanwalt alarmieren.
Molly Kleinman, Direktorin des Technology Research Center an der University of Michigan, sagte, die neuen Schutzmaßnahmen sahen vielversprechend aus, sie blieb jedoch skeptisch.
„Detroit ist eine außerordentlich überwachte Stadt.“ „Überall gibt es Kameras“, sagte sie. „Wenn all diese Überwachungstechnologie wirklich das tun würde, was sie verspricht, wäre Detroit eine der sichersten Städte des Landes.“
Willie Burton, Mitglied des Board of Police Commissioners, einer Aufsichtsgruppe, die die neuen Richtlinien genehmigt hat, nannte sie „einen Schritt in die richtige Richtung“, obwohl er weiterhin gegen den Einsatz von Gesichtserkennungstechnologie durch die Polizei ist.
„Die Technologie ist noch nicht fertig“, sagte Burton. „Eine falsche Festnahme ist eine zu viel, und die Festnahme von drei Personen in Detroit sollte Alarm schlagen, um dies zu verhindern.“