Nevada hat einen neuen Helfer, um den Rückstau an Arbeitslosenanträgen abzuarbeiten: Google AI. Gizmodo berichtet, dass im Rahmen der Initiative eines der cloudbasierten KI-Modelle des Unternehmens damit beauftragt wird, die Protokolle von Berufungsverhandlungen zu analysieren und Vorschläge zu machen, ob die Fälle genehmigt werden sollten. Willkommen in der Zukunft, in der ein Roboter darüber entscheidet, ob man die staatliche Unterstützung erhält, die man beantragt hat.
Der Nevada Independent schrieb im Juni, dass das KI-Modell, das auf die Arbeitslosengesetze und -richtlinien des Bundesstaates trainiert wurde, Abschriften von virtuellen Berufungsverhandlungen analysieren wird. Anschließend wird es eine Entscheidung ausspucken, die ein Staatsbeamter auf Fehler überprüft und entscheidet, ob sie anerkannt wird.
Das System ersetzt das derzeitige Verfahren des Nevada Department of Employment, Training and Rehabilitation (DETR), das durchschnittlich drei Stunden dauert, bis ein echter Mensch es abgeschlossen hat. Carl Stanfield, der IT-Administrator des DETR, erklärte gegenüber dem Nevada Independent, dass die KI von Google (die das Cloud-System Vertex des Unternehmens nutzt) Entscheidungen innerhalb von fünf Minuten treffen kann. „Die Zeitersparnis ist ziemlich phänomenal“, so Stanfield.
Es ist leicht zu verstehen, warum Nevada diese aufstrebende Technologie unbedingt nutzen will. Noch im Juni hatte der Staat Berichten zufolge einen Rückstand von mehr als 10.000 unbearbeiteten Anträgen, von denen etwa 1.500 auf die Pandemie zurückzuführen waren. Wenn die Überprüfung durch die Technologie korrekt ist – oder wenn die menschlichen Prüfer die Fehler erkennen – könnte dies eine enorme Zeitersparnis bedeuten.
Allerdings könnten die Prüfer unter psychologischen Druck geraten, die Schlussfolgerungen der KI zu akzeptieren. „Wenn ein Roboter einem eine Empfehlung gibt und man nur noch ein Kästchen ankreuzen muss und unter Druck steht, einen Rückstand aufzuholen, ist das schon ein bisschen beunruhigend“, sagte Michele Evermore, ehemalige stellvertretende Direktorin für die Modernisierung der Arbeitslosenpolitik im Arbeitsministerium, gegenüber Gizmodo.
Stanfield erklärte gegenüber Gizmodo, dass ein Lenkungsausschuss wöchentlich zusammentreten werde, während die Regierung an der Feinabstimmung des Modells arbeitet, und vierteljährlich, wenn es in Betrieb ist, um es auf Halluzinationen und Verzerrungen zu überprüfen.
Für die Antragsteller könnte viel auf dem Spiel stehen, denn das KI-gestützte System könnte ihre Möglichkeiten einschränken, gegen Fehlentscheidungen Berufung einzulegen. „In Fällen, in denen es um Tatsachenfragen geht, kann das Bezirksgericht nicht sein eigenes Urteil an die Stelle des Urteils des Berufungsrichters setzen“, erklärte Elizabeth Carmona, eine leitende Anwältin bei Nevada Legal Services, gegenüber Gizmodo. Mit anderen Worten: Wenn der Mensch, der die Entscheidung überprüft, die Fehler der KI übersieht, hat ein Gericht möglicherweise keine rechtliche Handhabe, die Entscheidung aufzuheben.
Ein Politiker aus Nevada drückte es noch unverblümter aus. „Haben wir den Verstand verloren?“, sagte der Senator von Nevada, Skip Daly (D-Reno), im Sommer dem Nevada Independent. „Ich bin einfach skeptisch gegenüber dem ganzen Konzept, sich zu sehr auf Algorithmen und Computer zu verlassen. Ich hoffe, dass wir vorsichtig damit umgehen und nachdenken, bevor wir einfach sagen: ‘Wir müssen schneller oder besser sein als der Nächste.’“
