Le Nevada a un nouvel assistant pour traiter l'arriéré des demandes de chômage : Google AI. Gizmodo rapporte que dans le cadre de cette initiative, l'un des modèles d'IA basés sur le cloud de l'entreprise sera chargé d'analyser les procès-verbaux des audiences d'appel et de faire des suggestions sur l'opportunité d'approuver les cas. Bienvenue dans le futur, où un robot décidera si vous recevez l'aide gouvernementale que vous avez demandée.
Le Nevada Independent a écrit en juin que le modèle d'IA, formé aux lois et politiques de l'État en matière de chômage, analysera des transcriptions d'audiences d'appel virtuelles. Il crachera ensuite une décision qu'un fonctionnaire de l'État vérifiera pour voir s'il n'y a pas d'erreurs et décidera si elle est acceptée.
Le système remplace la procédure actuelle du Nevada Department of Employment, Training and Rehabilitation (DETR), qui prend en moyenne trois heures pour être complétée par une personne réelle. Carl Stanfield, l'administrateur informatique du DETR, a expliqué au Nevada Independent que l'IA de Google (qui utilise le système cloud Vertex de l'entreprise) peut prendre des décisions en cinq minutes. "Le gain de temps est assez phénoménal", a déclaré Stanfield.
Il est facile de comprendre pourquoi le Nevada tient à utiliser cette technologie émergente. En juin encore, l'État aurait accumulé un retard de plus de 10.000 demandes non traitées, dont environ 1.500 étaient dues à la pandémie. Si la vérification par la technologie est correcte - ou si les vérificateurs humains détectent les erreurs - cela pourrait représenter un gain de temps énorme.
Cependant, les examinateurs pourraient subir une pression psychologique pour accepter les conclusions de l'IA. "Quand un robot vous fait une recommandation et que vous n'avez plus qu'une case à cocher et que vous êtes sous pression pour rattraper un retard, c'est un peu inquiétant", a déclaré à Gizmodo Michele Evermore, ancienne directrice adjointe de la modernisation de la politique du chômage au ministère du Travail.
Stanfield a expliqué à Gizmodo qu'un comité de pilotage se réunirait chaque semaine pendant que le gouvernement travaillera à affiner le modèle, et chaque trimestre lorsqu'il sera opérationnel, afin de vérifier qu'il n'y a pas d'hallucinations ou de distorsions.
L'enjeu pourrait être important pour les demandeurs, car le système basé sur l'IA pourrait limiter leur capacité à faire appel des décisions erronées. "Dans les cas où des questions de fait sont en jeu, le tribunal de district ne peut pas substituer son propre jugement à celui du juge d'appel", a expliqué à Gizmodo Elizabeth Carmona, avocate principale chez Nevada Legal Services. En d'autres termes : Si l'humain qui examine la décision passe à côté des erreurs de l'IA, un tribunal pourrait ne pas avoir les moyens juridiques d'annuler la décision.
Un homme politique du Nevada l'a exprimé de manière encore plus abrupte. "Avons-nous perdu la raison ?", a déclaré le sénateur du Nevada, Skip Daly (D-Reno), au Nevada Independent cet été. "Je suis simplement sceptique quant à l'ensemble du concept consistant à trop compter sur les algorithmes et les ordinateurs. J'espère que nous serons prudents avec cela et que nous réfléchirons avant de simplement dire : 'Nous devons être plus rapides ou meilleurs que le prochain'".
