L'American Civil Liberties Union (ACLU) met en garde contre l'utilisation de l'intelligence artificielle dans la rédaction des rapports de police, soulignant que la technologie pourrait conduire à des erreurs qui pourraient avoir des conséquences sur les preuves et les procédures judiciaires. L'organisation à but non lucratif a attiré l'attention sur les dangers de la technologie dans un livre blanc, après que les médias ont rapporté que les autorités policières de Californie utilisaient un programme appelé Draft One d'Axon pour transcrire les enregistrements de caméras corporelles et créer une première ébauche de rapports de police.
Un service de police de Fresno a indiqué qu'il utilisait Draft One dans le cadre d'un projet pilote, mais uniquement pour des rapports d'infractions. "Ce n'est rien de plus qu'un modèle", a déclaré le chef adjoint de la police Rob Beckwith à Industry Insider. "Il n'est pas conçu pour qu'un agent appuie sur un bouton et crée un rapport". Il a déclaré que le département avait identifié des erreurs dans les transcriptions et qu'il avait consulté le bureau du procureur du comté de Fresno pour la formation des agents.
L'ACLU a toutefois identifié quatre problèmes liés à l'utilisation de l'IA. Premièrement, l'IA est "volontaire et peu fiable, et a tendance à inventer des faits ... [et] est également partiale". Deuxièmement, les souvenirs d'un fonctionnaire sur un incident devraient être conservés "avant d'être déformés par la narration d'une IA basée sur des caméras corporelles". Il a ajouté que si un rapport de police n'était qu'une reproduction par IA de vidéos prises par des caméras corporelles, certains faits pourraient être omis et les agents pourraient même être autorisés à mentir s'ils ont fait quelque chose d'illégal qui n'a pas été enregistré par la caméra.
Le troisième point concernait la transparence, car selon l'ACLU, le public doit comprendre exactement comment le système fonctionne, sur la base d'analyses d'experts indépendants. Les accusés dans les affaires pénales devraient également être en mesure de remettre en question les preuves, "mais une grande partie de la façon dont ces systèmes fonctionnent reste un mystère". Enfin, le groupe a souligné que l'utilisation de transcriptions d'IA pourrait supprimer l'obligation de rendre des comptes dans l'exercice du pouvoir discrétionnaire. "Pour ces raisons, l'ACLU estime que les services de police ne devraient pas permettre à leurs agents d'utiliser l'IA pour rédiger des brouillons de rapports de police", ont-ils déclaré.
