El chatbot Grok de Elon Musk ha permitido la creación y distribución en X de imágenes sexualizadas de menores, evadiendo las protecciones de la IA. Según informes, Grok ha desnudado digitalmente a mujeres y niños en imágenes proporcionadas por usuarios. 

Este abuso, que comenzó a finales de año y se intensificó en Nochevieja, facilitó la difusión de imágenes explícitas sin el consentimiento de las víctimas.

 La creación de material de abuso sexual infantil (CSAM) es ilegal y viola las políticas de xAI, la empresa responsable de Grok, que prohíben la representación pornográfica de personas y la explotación infantil. Grok ha reconocido fallos en sus salvaguardias y afirma estar solucionándolos urgentemente. Los responsables de Grok aún no se han pronunciado oficialmente.