Il procuratore distrettuale di San Francisco, David Chiu, ha annunciato giovedì in una conferenza stampa la chiusura di 16 dei più popolari siti web di estrazione dell'AI.
Come riporta The Verge, i procuratori accusano i siti di aver violato le leggi federali sulla revenge pornography, la deepfake pornography e la pedopornografia. L'ufficio di Chiu accusa inoltre i siti di aver violato la legge californiana sulla concorrenza sleale perché "il danno che infliggono ai consumatori supera di gran lunga i benefici associati a queste pratiche", secondo la denuncia di ingiunzione depositata presso un tribunale distrettuale della California.
La causa riguarda un totale di 50 imputati che Chiu vuole citare in giudizio per la gestione di siti web di nudo. I nomi di alcuni imputati e siti web sono stati secretati, ma sono state nominate pubblicamente alcune società che gestiscono "alcuni dei siti web più popolari al mondo con immagini di donne e ragazze nude", tra cui Sol Ecom in Florida, Briver in New Mexico e Itai Tech Ltd con sede nel Regno Unito. L'unico imputato nominato nella causa è Augustin Gribinets dall'Estonia, accusato di gestire un sito web di AI che presenta immagini indesiderate di donne e bambini.
Questi siti web sono stati visitati più di 200 milioni di volte in un periodo di sei mesi. Le immagini non consensuali di donne e bambini su questi siti web sono utilizzate per "molestare, minacciare e umiliare" donne e ragazze al fine di attirare più visitatori, e questa tendenza inquietante non sembra arrestarsi", si legge nella causa.
La causa intentata a febbraio dal procuratore della città cita un caso in cui un sito web di intelligenza artificiale ha generato immagini di 16 studenti di terza media di una scuola media della California. L'incidente potrebbe essere collegato a quello avvenuto in una scuola superiore di Beverly Hills, dove 16 studenti hanno diffuso false immagini di nudo di altri studenti. Il distretto scolastico ha espulso cinque studenti dalla scuola per il loro coinvolgimento nella distribuzione delle immagini illegali, come riporta il Los Angeles Times.
La tecnologia deepfake è diventata un grosso problema legale, soprattutto a livello federale. Il mese scorso, l'Ufficio statunitense per il copyright ha pubblicato un rapporto sulla contraffazione digitale, concludendo che "è necessaria una nuova legge". Pochi giorni dopo, un gruppo bipartisan di senatori ha presentato il NO FAKES Act, che mira a proteggere le persone dal rischio di veder ricreata la propria voce, il proprio volto o il proprio corpo dall'intelligenza artificiale senza il loro consenso.
