Così TikTok propone ai minori video porno e droga

TikTok, l’app di microvideo che sta sbancando da tre anni anche in Occidente, è ormai il social network di riferimento per ogni attività di marketing che vuole indagare o parlare con la generazione più giovane di utenti, che viaggiano tra i 13 e i 18 anni di età. Eppure, nonostante la giovane età dei suoi utenti, TikTok non garantisce alcuna sicurezza in merito al contenuto proposto. Anzi. Una nuova analisi del Wall Street Journal ha evidenziato come l’algoritmo di TikTok sia a tutti gli effetti incapace di filtrare i video sulla base dell’età dell’utente - che, come sappiamo, è il dato più importante, ma anche quello più facilmente manipolabile.

Il Wall Street Journal negli scorsi mesi ha creato diversi bot - falsi account automatizzati - e li ha iscritti alla piattaforma fornendogli un’età variabile dai 13 ai 15 anni. Obiettivo di questi bot era navigare liberamente per sfogliare la pagina con i contenuti offerti in automatico dall’algoritmo di TikTok, e vedere cosa ne veniva fuori. Dall’analisi sembrerebbe che l’algoritmo di TikTok - sulla base delle preferenze espresse dall’audience della stessa età dei bot - offra velocemente contenuti su droga e sessualità.

TikTok ha proposto a uno di questi “bot tredicenni” ben 569 video sull’uso di marijuana, metanfetamina e cocaina. Centinaia di video sono stati proposti ad altri bot. Sono video riguardanti sia l’uso di sostanze stupefacenti, sia provenienti da account che proponevano siti di pornografia a pagamento, per non parlare dei video che incoraggiano l’abuso di alcol. Alcuni di questi contenuti ad esplicito sfondo sessuale rappresentavano giochi di ruolo dove giovani donne in un cosplay di lattice venivano chiamate da una profonda voce maschile che chiedeva di essere chiamato “daddy”, “paparino”.

L’analisi del Wsj ha raggiunto velocemente TikTok, che già prima dell’esito dell’attività aveva cancellato un centinaio di questi contenuti, e ha permesso alla piattaforma di inasprire le sue regole di condotta eliminando altri contenuti. Tuttavia, la piattaforma ha tenuto ad osservare che la maggioranza dei contenuti segnalati dal Wall Street Journal non violavano le linee guida di TikTok, e pertanto non potevano essere eliminati. La piattaforma ha dichiarato di essere alla ricerca di uno strumento che possa effettivamente validare l’età dell’iscritto, in modo da evitare che contenuti “vietati ai minori” finiscano tra le mani di account tredicenni. La piattaforma ha dichiarato che proteggere i minori è di importanza vitale, e che TikTok è tra le prime piattaforme a promuovere un’esperienza sicura e appropriata per gli adolescenti.

Da una parte, l’analisi del Wall Street Journal pecca d’obiettività per una ragione neutra: un bot, qualsiasi sia il suo grado di raffinatezza, non potrà mai simulare perfettamente il comportamento di un essere umano. Pertanto, se l’obiettivo dell’analisi è scoprire contenuti a sfondo sessuale o su droghe, il bot verrà allenato affinché trovi esattamente e soltanto quelli. L’algoritmo di TikTok, da parte sua, cercherà di offrire contenuti in linea con l’esperienza super-focalizzata del bot, esasperando gli output dell’analisi. Molti dei bot erano stati programmati affinché interagissero con contenuti di account che avevano in bio un link ad OnlyFans.com, un sito che permette di visionare contenuti espliciti previo pagamento.

Il proliferare di contenuti a sfondo erotico ha suscitato già da tempo preoccupazioni all’interno di TikTok. I video che rimandavano ad OnlyFans.com erano talmente tanti che lo scorso anno Vanessa Pappas, il direttore operativo della piattaforma, ha chiesto spiegazioni su questo argomento, arrivando a considerare di bloccare tutti gli account aventi in bio il link in oggetto. Tuttavia, non essendo tutti i contenuti di OnlyFans.com a sfondo sessuale, TikTok ha deciso di fare un passo indietro. A quanto pare, oggi, i più giovani ne stanno pagando gli effetti.