Malgrat que Elon Musk, propietari de X, ja ha ordenat desactivar la funció Grok, la Fiscalia de Menors espanyola analitza el material generat. Aquestes imatges hiperrealistes es van crear a partir de fotografies reals pujades a la xarxa, despullant o col·locant en situacions sexualitzades dones i, potencialment, menors.
“"Qualsevol persona que utilitzi Grok per crear contingut il·legal patirà les mateixes conseqüències que si pugés contingut il·legal."
L'actuació de la Fiscalia es produeix després de rebre un escrit del Ministeri de Joventut i Infància, dirigit per Sira Rego, que expressa preocupació per l’afectació als menors. La ministra va remetre l'alerta a la Fiscalia General de l’Estat, que l'ha traslladat a la Unitat Especialitzada de Menors per unificar criteris i establir pautes d’actuació.
Segons el Ministeri, la generació de material de violència sexual contra menors podria suposar un delicte de pornografia infantil, recollit a l’article 189 del Codi Penal (CP), i un delicte contra la integritat moral (article 173 del CP). El Govern fa referència a una sentència de juny de 2024 on es va condemnar diverses persones per manipular imatges de nenes amb IA, indicant que hi ha marge per actuar penalment.
