En busca de la verdad
En busca de la verdad
La compañía de inteligencia artificial presentó una demanda civil en Texas contra un usuario que vulneró los sistemas de seguridad de Grok. El alcance de los controles internos de la firma y la advertencia que Elon Musk llevó a la práctica.
La desarrolladora de inteligencia artificial xAI, fundada por el magnate Elon Musk, decidió pasar de las advertencias verbales a una severa contraofensiva en los tribunales de los Estados Unidos.
La compañía presentó una demanda civil formal ante un tribunal federal del estado de Texas contra un usuario identificado como Harwood, acusándolo de haber manipulado de forma deliberada las barreras de seguridad de su chatbot Grok para generar, alterar y distribuir material de abuso sexual infantil. La presentación judicial sostiene que el demandado incurrió en una flagrante violación de los términos de servicio de la plataforma al estructurar un plan calculado para evadir los filtros algorítmicos mediante instrucciones engañosas, convirtiendo fotografías cotidianas en piezas explícitas de adultos y menores de edad sin ningún tipo de consentimiento.
El acusado en cuestión ya se encontraba bajo la lupa de la justicia penal tras haber sido arrestado por las fuerzas federales el pasado mes de febrero, enfrentando actualmente ocho cargos criminales por posesión y tráfico de material ilícito. El escrito civil presentado por los de la tecnológica argumenta que al menos una parte de las imágenes que forman parte de la investigación penal fueron modificadas o creadas desde cero utilizando las herramientas de edición de Grok, valiéndose de la creación de múltiples cuentas falsas para esquivar los bloqueos de propiedad intelectual. Ante este escenario, xAI solicitó al magistrado interviniente el dictado de una orden de restricción perpetua que le prohíba al imputado volver a registrarse en sus sistemas, además de reclamar una compensación económica por daños reputacionales y el reembolso de todos los gastos legales de la firma.
La drástica acción corporativa se produce en un contexto de fuertes cuestionamientos internacionales hacia la firma de Musk debido a la laxitud de los filtros de Grok, especialmente tras la incorporación del polémico modo "picante" y las funciones avanzadas de edición fotográfica. En la demanda, xAI buscó blindar su imagen pública detallando el alcance de sus políticas de moderación interna, revelando que durante 2026 suspendió 52.222 cuentas sospechosas y remitió 73.604 reportes detallados al Centro Nacional para Menores Desaparecidos y Explotados, derivando en al menos 244 arrestos efectivos en territorio norteamericano.
"Cualquiera que use Grok para hacer contenido ilegal sufrirá las mismas consecuencias que si hubiesen subido contenido ilegal"
Con esta presentación, se concreta la promesa que el propio Elon Musk había lanzado en sus redes sociales, ratificando ante la opinión pública que aquellos usuarios que utilicen sus herramientas de vanguardia con fines criminales sufrirán idénticas consecuencias que si hubiesen subido el material prohibido por vías tradicionales.
