Secondo la NPR, i dirigenti e i dipendenti di TikTok erano consapevoli del fatto che le funzioni dell'app incoraggiavano l'uso compulsivo e avevano un impatto negativo sulla salute mentale. L'emittente radiofonica ha esaminato i documenti non redatti della causa intentata dal procuratore generale del Kentucky, come pubblicato dalla Kentucky Public Radio. Più di una dozzina di Stati hanno citato in giudizio TikTok pochi giorni fa, accusando l'azienda di aver "falsamente affermato di essere sicura per gli adolescenti". Il procuratore generale del Kentucky Russell Coleman ha dichiarato che l'app è stata "progettata specificamente come una macchina per creare dipendenza per i bambini che stanno ancora sviluppando un adeguato autocontrollo".
La maggior parte dei documenti depositati per le cause legali conteneva informazioni ridotte, ma i documenti del Kentucky erano falsamente ridotti. La ricerca di TikTok ha rilevato che "l'uso compulsivo è associato a una serie di effetti negativi sulla salute mentale, come la perdita di capacità analitiche, la formazione della memoria, il pensiero contestuale, la profondità della conversazione, l'empatia e l'aumento dell'ansia". I dirigenti di TikTok sapevano anche che l'uso compulsivo può interferire con il sonno, il lavoro e gli obblighi scolastici, e persino interrompere "la connessione con i propri cari".
Inoltre, secondo quanto riferito, sapevano che lo strumento di gestione del tempo dell'app faceva poco per tenere lontani i giovani utenti dall'applicazione. Sebbene lo strumento limiti l'utilizzo dell'app a 60 minuti al giorno per impostazione predefinita, i giovani hanno trascorso 107 minuti sull'app anche quando era accesa. Si tratta di solo 1,5 minuti in meno rispetto all'utilizzo medio di 108,5 minuti al giorno prima dell'introduzione dello strumento. Secondo i documenti interni, TikTok ha attribuito il successo dello strumento al fatto che ha "migliorato la fiducia del pubblico nella piattaforma TikTok attraverso la copertura mediatica". L'azienda sapeva che lo strumento non sarebbe stato efficace. In un documento si legge: "I minori non hanno un ruolo di leadership per controllare il tempo trascorso sullo schermo, mentre i giovani adulti sì". In un altro documento si legge: "Per la maggior parte delle metriche di coinvolgimento, più giovane è l'utente, migliore è la performance".
TikTok è anche consapevole dell'esistenza delle "bolle di filtraggio" e sa quanto possano essere pericolose. I documenti rivelano che i dipendenti hanno condotto studi interni in cui hanno scoperto di essere attratti da bolle di filtraggio negative poco dopo aver seguito alcuni account incentrati su contenuti dolorosi ("painhub") o tristi ("sadnotes"), ad esempio. Sono anche consapevoli dei contenuti e degli account che promuovono la "thinspiration", che è associata ai disturbi alimentari. A causa del funzionamento dell'algoritmo di TikTok, i ricercatori hanno scoperto che gli utenti vengono inseriti in bolle di filtraggio dopo 30 minuti di utilizzo per sessione.
Secondo i documenti, TikTok ha anche problemi di moderazione. Un'indagine interna ha scoperto che le ragazze minorenni sull'app ricevevano "regali" e "monete" in cambio di spogliarelli in diretta. Secondo quanto riferito, i dirigenti dell'azienda hanno dato istruzioni ai moderatori di non cancellare gli utenti segnalati come minori di 13 anni, a meno che i loro account non dimostrassero di avere effettivamente meno di 13 anni. NPR riporta che TikTok ha anche ammesso che una quantità significativa di contenuti che violano le sue regole passa attraverso le sue tecniche di moderazione, compresi i video che normalizzano la pedofilia, glorificano la violenza sessuale sui minori e glorificano l'abuso fisico.
Il portavoce di TikTok, Alex Haurek, ha difeso l'azienda, affermando che l'azione legale del procuratore generale del Kentucky "toglie dal contesto citazioni fuorvianti e documenti obsoleti per travisare il nostro impegno per la sicurezza della comunità". Ha aggiunto che TikTok "dispone di solide misure di salvaguardia, tra cui la rimozione proattiva di utenti sospettati di essere minorenni" e che l'azienda "ha volontariamente implementato funzioni di sicurezza come i limiti predefiniti di tempo di visione, l'accoppiamento con la famiglia e le funzioni di privacy predefinite per i minori di 16 anni".