Grok sotto accusa per immagini manipolate di minori

Secondo le indiscrezioni il chatbot Grok sarebbe stato usato per creare immagini esplicite manipolando una foto d’infanzia.

Un nuovo caso giudiziario mette al centro i rischi dell’intelligenza artificiale nella generazione di immagini: una donna ha accusato il suo patrigno di aver utilizzato l’IA prodotta da xAI, Grok, per trasformare una sua foto d’infanzia in migliaia di immagini esplicite. La vicenda, che ha scosso l’opinione pubblica internazionale, si inserisce nell’ambito di una causa collettiva promossa da tre adolescenti contro xAI, ora parte di SpaceX, per presunte carenze nella prevenzione di abusi legati alle tecnologie AI.

Come nasce il caso e cosa viene contestato

La denuncia è partita da una donna identificata come Jane Doe 4, che si è unita all’azione legale intentata da tre minorenni. Secondo le accuse, il patrigno avrebbe manipolato una foto scattata quando la donna aveva 11 anni, generando oltre 7.000 immagini sessualmente esplicite tramite Grok. L’uomo si sarebbe tolto la vita due giorni dopo che le autorità hanno scoperto il materiale durante una perquisizione.

La testimonianza della donna sottolinea la preoccupazione per la diffusione incontrollata di strumenti di intelligenza artificiale. “L’accesso illimitato a queste tecnologie si sta diffondendo troppo rapidamente,” ha dichiarato, “trasformando la vita quotidiana in materiale di abuso.”

Le accuse verso xAI e l’impatto sul settore

Nella causa si sostiene che xAI non avrebbe adottato sufficienti misure per evitare che Grok venisse usato per produrre immagini esplicite di persone reali, in particolare minori. Negli ultimi mesi, la piattaforma X aveva già affrontato polemiche per la diffusione di milioni di immagini sessualizzate generate da Grok. I querelanti chiedono che la causa assuma valore collettivo, con l’obiettivo di spingere il settore a definire standard più rigidi per la sicurezza e il controllo delle IA generative.

La questione evidenzia come la tecnologia AI, se non adeguatamente monitorata, possa essere sfruttata per scopi gravemente illeciti. Questo caso potrebbe rappresentare un punto di svolta per la regolamentazione delle IA e per la responsabilità delle aziende che le sviluppano, richiamando l’attenzione di utenti, legislatori e fornitori di servizi digitali sull’urgenza di soluzioni concrete per proteggere le persone più vulnerabili.

Fonte