Le procureur du district de San Francisco, David Chiu, a annoncé jeudi lors d'une conférence de presse qu'il allait fermer 16 des sites de déshabillage d'AI les plus populaires.
Comme le rapporte The Verge, le ministère public accuse les sites d'enfreindre les lois fédérales sur la vengeance pornographique, la pornographie deepfake et la pornographie enfantine. Le bureau de Chui accuse également les sites d'enfreindre la loi californienne sur la concurrence déloyale, car "les dommages qu'ils causent aux consommateurs dépassent de loin les avantages associés à ces pratiques", selon l'injonction déposée auprès d'un tribunal de district californien.
La plainte est dirigée contre un total de 50 défendeurs que Chiu veut poursuivre pour avoir exploité des sites web de dénudation. Les noms de certains défendeurs et sites web ont été masqués, mais certaines entreprises qui exploitent "certains des sites web les plus populaires au monde contenant des images de femmes et de filles nues" ont été nommées publiquement, notamment Sol Ecom en Floride, Briver au Nouveau Mexique et Itai Tech Ltd, basée au Royaume-Uni. Le seul défendeur cité dans la plainte est Augustin Gribinets, d'Estonie, accusé d'exploiter un site d'IA contenant des images non désirées de femmes et d'enfants.
Ces sites ont été consultés plus de 200 millions de fois sur une période de six mois. Les images non consenties de femmes et d'enfants sur ces sites sont utilisées pour "harceler, menacer et humilier" les femmes et les filles afin d'attirer davantage de visiteurs, et cette tendance inquiétante ne semble pas s'arrêter", indique la plainte.
Dans sa plainte de février, l'avocat de la ville cite un cas dans lequel un site d'IA a généré des images de 16 élèves de quatrième année d'un collège californien. L'incident pourrait faire référence à un incident survenu dans un lycée de Beverly Hills, au cours duquel 16 élèves ont fait circuler de fausses photos nues d'autres élèves. Le district scolaire a expulsé cinq élèves de l'école pour avoir participé à la diffusion de ces images illégales, rapporte le Los Angeles Times.
La technologie deepfake est devenue un problème juridique majeur, surtout au niveau fédéral. Le mois dernier, l'Office américain des droits d'auteur a publié un rapport sur la contrefaçon numérique et a conclu qu'une "nouvelle loi était nécessaire". Quelques jours plus tard seulement, un groupe de sénateurs de tous les partis a présenté le NO FAKES Act, qui vise à protéger les individus contre la reproduction de leur voix, de leur visage ou de leur corps par l'IA sans leur consentement.
