Selon un rapport du Time, des employés de Google DeepMind ont signé une lettre demandant à l'entreprise de renoncer à des contrats avec des organisations militaires. Le document a été rédigé le 16 mai dernier. Environ 200 personnes ont signé le document, ce qui représente cinq pour cent de l'ensemble du personnel de DeepMind.
Pour les non-initiés, DeepMind est l'un des départements d'IA de Google, et la lettre indique que l'acceptation de contrats militaires est contraire à la politique d'IA de l'entreprise. La lettre a été envoyée lorsque des préoccupations internes au laboratoire d'IA ont été soulevées concernant la vente présumée de la technologie à des organisations militaires par le biais de contrats de cloud computing.
Selon le Time, les contrats de Googles avec l'armée américaine et l'armée israélienne permettent d'accéder à des services de cloud computing, qui comprendraient la technologie d'IA développée par DeepMind. La lettre ne mentionne aucune organisation militaire en particulier, et les collaborateurs soulignent qu'il ne s'agit "pas de la géopolitique d'un conflit particulier".
La couverture médiatique depuis 2021 a progressivement révélé l'étendue de la technologie fournie par Google (et Amazon) au gouvernement israélien dans le cadre d'un partenariat connu sous le nom de Projet Nimbus. C'est loin d'être le premier cas où des employés de Google protestent ouvertement contre le fait que leur travail soit utilisé pour soutenir des objectifs militaires politiquement douteux - l'entreprise a licencié des dizaines d'employés qui s'étaient opposés au projet Nimbus au début de l'année.
"Toute participation à la production militaire et d'armes sape notre position de leader dans le domaine de l'IA éthique et responsable et va à l'encontre de notre mission et de nos principes déclarés en matière d'IA", peut-on lire dans la lettre de DeepMind. Il est intéressant de noter que le slogan de Google était auparavant "Don't be evil".
La lettre demande aux responsables de DeepMind d'interdire aux utilisateurs militaires l'accès à leur technologie d'IA et de mettre en place un nouveau comité de contrôle interne afin d'éviter que la technologie ne soit utilisée à l'avenir par des militaires. Selon quatre collaborateurs dont l'identité n'a pas été révélée, Google n'a pas encore donné de réponse concrète à cette lettre. Nous n'avons reçu aucune réponse significative de la part de la direction", a déclaré l'un d'eux, "et nous sommes de plus en plus frustrés.
Google a réagi au rapport du Time en affirmant qu'il respectait ses principes en matière d'IA. L'entreprise a déclaré que le contrat avec le gouvernement israélien "ne vise pas les tâches hautement sensibles, classifiées ou militaires qui sont pertinentes pour les armes ou les services de renseignement". Le partenariat avec le gouvernement israélien a toutefois été fortement critiqué ces derniers mois.
Google a acheté DeepMind en 2014 en promettant que sa technologie d'IA ne serait jamais utilisée à des fins militaires ou de surveillance. Pendant de nombreuses années, DeepMind a pu opérer de manière relativement indépendante de sa société mère, mais l'émergence de la course à l'IA semble avoir changé la donne. Les responsables du laboratoire ont tenté pendant des années d'obtenir plus d'autonomie de la part de Google, mais ils ont été déboutés en 2021.
