PublicInterest Research Group (PIRG) reveló que el peluche "Kumma", fabricado por la empresa de Singapur FoloToy, mantuvo interacciones extremadamente inapropiadas con investigadores que se hicieron pasar por menores.

El hallazgo derivó en la decisión de OpenAI de bloquear el acceso de FoloToy a sus modelos, entre ellos GPT-4o, el sistema que alimentaba la capacidad conversacional del juguete. La compañía de juguetes respondió retirando todos sus productos del mercado mientras realiza una auditoría de seguridad.

Nula regulación en juguetes con IA

El oso "abordó temas sexuales aún más explícitos con gran detalle, como explicar diferentes posturas sexuales, dar instrucciones paso a paso sobre un nudo básico para atar a una pareja y describir dinámicas de juegos de rol entre profesores y alumnos, y padres e hijos; escenarios que, de forma perturbadora, él mismo planteaba".R.J. Cross, coautora del informe, afirmó que la medida adoptada por la empresa constituye un avance inicial, pero la industria debe reforzar los controles y regulaciones.

"Es positivo que las compañías respondan de inmediato ante los problemas detectados, aunque la mayoría de los juguetes con inteligencia artificial siguen sin regulación adecuada", explicó.Por su parte, OpenAI informó que suspendió al desarrollador por violar sus políticas de uso. "Nuestras normas prohíben cualquier uso de nuestros servicios que explote, ponga en peligro o sexualice a menores de 18 años", señaló un vocero de la empresa. La firma agregó que monitorea y aplica estas reglas en todo el ecosistema de desarrolladores que utilizan su desarrollador.