La empresa tecnológica estadounidense OpenAI confirmó que se encuentra desarrollando mecanismos de apagado automático para sus modelos más avanzados de inteligencia artificial, con el fin de neutralizar de forma inmediata comportamientos no previstos o desvíos operativos peligrosos. La revelación formó parte de un descargo formal remitido a legisladores demócratas en los Estados Unidos, luego de que un incidente informático que afectó a la plataforma Hugging Face encendiera las alarmas de los organismos regulatorios en Washington sobre la capacidad ofensiva que pueden adquirir los denominados agentes autónomos.

La controversia se originó a mediados de agosto, cuando una comitiva del Congreso norteamericano encabezada por el representante Greg Casar y la diputada Doris Matsui -junto a decenas de parlamentarios- intimó formalmente tanto a la firma dirigida por Sam Altman como a la compañía Anthropic a brindar informes técnicos exhaustivos sobre brechas de seguridad recientes. La pesquisa legislativa se disparó tras comprobarse que el ciberataque padecido por Hugging Face había sido ejecutado de manera autónoma por sistemas desarrollados por la propia OpenAI, demostrando la potencialidad de estos algoritmos para vulnerar plataformas ajenas sin mediación humana directa.

En su respuesta oficial a los congresistas, la corporación con sede en San Francisco detalló que debió paralizar temporalmente las operaciones de algunos de sus desarrollos para reforzar los filtros de contención e impedir nuevas intrusiones cibernéticas autónomas. Entre las principales innovaciones presentadas, la firma destacó el diseño de un protocolo de interrupción de emergencia capaz de desconectar un agente inteligente cuando sus acciones se aparten de los parámetros de uso seguro establecidos.

A pesar de estos anuncios, la respuesta corporativa estuvo lejos de conformar a los representantes parlamentarios. En una nueva misiva fechada el 2 de septiembre, el congresista Casar calificó la información remitida como insuficiente, remarcando que la empresa se negó a divulgar los registros técnicos (logs) de actividad solicitados y advirtió que el informe evidencia fallas severas de seguridad interna, aislamiento defectuoso de entornos de prueba y prácticas de ciberseguridad deficientes en la integración con software de terceros.