Der Bezirksstaatsanwalt von San Francisco, David Chiu, kündigte am Donnerstag auf einer Pressekonferenz an, dass er 16 der beliebtesten AI-Auszieh-Websites schließen wolle.
Wie The Verge berichtet, wirft die Staatsanwaltschaft den Seiten vor, gegen Bundesgesetze über Rachepornografie, Deepfake-Pornografie und Kinderpornografie zu verstoßen. Chius Büro beschuldigt die Websites außerdem, gegen das kalifornische Gesetz gegen unlauteren Wettbewerb zu verstoßen, da “der Schaden, den sie den Verbrauchern zufügen, bei weitem die Vorteile überwiegt, die mit diesen Praktiken verbunden sind”, heißt es in der bei einem kalifornischen Bezirksgericht eingereichten Unterlassungsklage.
Die Klage richtet sich gegen insgesamt 50 Beklagte, die Chiu wegen des Betreibens von Entkleidungswebsites in Anspruch nehmen will. Die Namen einiger Beklagter und Websites wurden unkenntlich gemacht, aber einige Unternehmen, die „einige der weltweit beliebtesten Websites mit Nacktbildern von Frauen und Mädchen“ betreiben, wurden öffentlich genannt, darunter Sol Ecom in Florida, Briver in New Mexico und die in Großbritannien ansässige Itai Tech Ltd. Der einzige in der Klage genannte Beklagte ist Augustin Gribinets aus Estland, dem vorgeworfen wird, eine AI-Website zu betreiben, auf der unerwünschte Bilder von Frauen und Kindern zu sehen sind.
Diese Websites wurden in einem Zeitraum von sechs Monaten mehr als 200 Millionen Mal aufgerufen. Die nicht einvernehmlichen Bilder von Frauen und Kindern auf diesen Websites werden benutzt, um Frauen und Mädchen zu belästigen, zu bedrohen und zu erniedrigen„, um mehr Besucher anzulocken, und dieser beunruhigende Trend scheint nicht aufzuhören“, heißt es in der Klage.
Der Anwalt der Stadt führt in seiner Klage vom Februar einen Fall an, in dem eine KI-Website Bilder von 16 Schülern der achten Klasse einer kalifornischen Mittelschule generierte. Der Vorfall könnte sich auf einen Vorfall an einer High School in Beverly Hills beziehen, bei dem 16 Schüler gefälschte Nacktbilder von anderen Schülern in Umlauf brachten. Der Schulbezirk verwies fünf Schüler von der Schule, weil sie an der Verbreitung der illegalen Bilder beteiligt waren, berichtet die Los Angeles Times.
Die Deepfake-Technologie ist vor allem auf Bundesebene zu einem großen rechtlichen Problem geworden. Letzten Monat veröffentlichte das US Copyright Office einen Bericht über digitale Fälschungen und kam zu dem Schluss, dass „ein neues Gesetz notwendig ist“. Nur wenige Tage später brachte eine parteiübergreifende Gruppe von Senatoren den NO FAKES Act ein, der Einzelpersonen davor schützen soll, dass ihre Stimme, ihr Gesicht oder ihr Körper ohne ihre Zustimmung durch KI nachgebildet werden.
