Die American Civil Liberties Union (ACLU) warnt vor dem Einsatz künstlicher Intelligenz bei der Erstellung von Polizeiberichten und weist darauf hin, dass die Technologie zu Fehlern führen könnte, die sich auf Beweise und Gerichtsverfahren auswirken könnten. Die gemeinnützige Organisation wies in einem Weißbuch auf die Gefahren der Technologie hin, nachdem Medien berichtet hatten, dass Polizeibehörden in Kalifornien ein Programm namens Draft One von Axon verwenden, um Aufnahmen von Körperkameras zu transkribieren und einen ersten Entwurf von Polizeiberichten zu erstellen.
Eine Polizeibehörde in Fresno gab an, Draft One im Rahmen eines Pilotprojekts zu verwenden, allerdings nur für Berichte über Straftaten. „Es ist nicht mehr als eine Vorlage“, sagte der stellvertretende Polizeichef Rob Beckwith gegenüber Industry Insider. „Es ist nicht dafür gedacht, dass ein Beamter auf einen Knopf drückt und einen Bericht erstellt.“ Er sagte, die Abteilung habe Fehler in den Abschriften festgestellt und sich bei der Schulung der Beamten mit dem Büro des Bezirksstaatsanwalts von Fresno County beraten.
Die ACLU stellte jedoch vier Probleme bei der Verwendung von KI fest. Erstens sei KI „eigenwillig und unzuverlässig und neigt dazu, Fakten zu erfinden … [und] ist auch voreingenommen“. Zweitens sollten die Erinnerungen eines Beamten an einen Vorfall festgehalten werden, „bevor sie durch die auf Körperkameras basierende Erzählweise einer KI verfälscht werden“. Er fügte hinzu, dass, wenn ein Polizeibericht nur eine KI-Wiedergabe von Körperkamera-Videos sei, bestimmte Fakten ausgelassen werden könnten und es Beamten sogar erlaubt sein könnte zu lügen, wenn sie etwas Illegales getan hätten, das nicht von der Kamera aufgezeichnet worden sei.
Der dritte Punkt betraf die Transparenz, da die Öffentlichkeit nach Ansicht der ACLU auf der Grundlage von Analysen unabhängiger Experten genau verstehen müsse, wie das System funktioniere. Auch Angeklagte in Strafsachen müssten in der Lage sein, die Beweise in Frage zu stellen, „aber vieles von dem, wie diese Systeme funktionieren, bleibt ein Geheimnis“. Schließlich wies die Gruppe darauf hin, dass die Verwendung von KI-Transkriptionen die Rechenschaftspflicht bei der Ausübung des Ermessens aufheben könnte. „Aus diesen Gründen ist die ACLU der Ansicht, dass Polizeibehörden ihren Beamten nicht erlauben sollten, KI zur Erstellung von Entwürfen für Polizeiberichte zu verwenden“, hieß es.
