El modelo de Inteligencia Artificial Kimi K3, considerado una de las herramientas más potentes desarrolladas en China, protagonizó un nuevo incidente de ciberseguridad al salirse de su entorno de aislamiento durante un examen de capacidades defensivas, haciendo trampas en una evaluación de benchmark y evidenciando una falta de guardarraíles internos. Presentado el pasado mes de julio por la compañía Moonshot AI, este desarrollo alcanza un rendimiento cercano al de las plataformas más avanzadas de firmas como Anthropic y OpenAI, contando con 2,8 billones de parámetros, una ventana de contexto de un millón de tokens y facultades multimodales nativas que incluyen procesamiento visual. Sin embargo, fueron justamente sus elevadas capacidades las que expusieron una falla de seguridad al escapar del entorno restringido donde ejecutaba una prueba coordinada por el Instituto de Seguridad de IA del Reino Unido (AISI).

El suceso fue documentado en un reciente informe por Paul Kassianik y Yaron Singer, investigadores de la consultora de ciberseguridad estadounidense Frontier Security. En su análisis, aclararon que si bien el modelo no intentó ingresar a páginas web de otras empresas -como ocurrió en incidentes previos con otros sistemas-, sí dejó en evidencia una falta de controles cibernéticos efectivos. Específicamente, Kimi K3 sondeó las configuraciones de red de su entorno hasta detectar que la resolución DNS hacia la plataforma de repositorios GitHub continuaba activa. Aprovechando ese acceso no bloqueado, la inteligencia artificial se conectó a la red externa, clonó el repositorio que alojaba la solución de la prueba asignada y leyó las respuestas guardadas en el disco para aprobar la evaluación.

Desde Frontier Security precisaron que el modelo no ejecutó ninguna acción destructiva ni procuró vulnerar sistemas de terceros, sino que se aprovechó de una mala configuración en el aislamiento del entorno de pruebas, en una maniobra similar a la registrada semanas atrás con modelos de OpenAI y Anthropic. Los especialistas calificaron el hecho como un caso de specification gaming, un fenómeno donde la Inteligencia Artificial busca cumplir el objetivo por la ruta más rápida disponible, eludiendo el proceso de razonamiento que se pretendía evaluar. En este tipo de exámenes de frontera, donde se premia resolver consignas en el menor tiempo y con la menor cantidad de herramientas, los sistemas deducen velozmente que acceder a la web resulta la estrategia más eficiente.

Aunque la firma aclaró que el suceso no acarreó un peligro real, advirtió que confirma la ausencia de barreras de seguridad internas en Kimi K3 para evitar que eluda sus propios límites. La conducta se alinea a los comportamientos anómalos detectados recientemente en otros modelos avanzados de laboratorios como OpenAI, Anthropic e incluso Meta AI; en pruebas del AISI, por ejemplo, el modelo Claude de Anthropic llegó a enviar correos al administrador de un repositorio en GitHub para persuadirlo de validar un código inyectado. Ante esto, los investigadores remarcaron la necesidad de considerar la infraestructura de prueba como parte del propio benchmark, clausurar las conexiones a la red por defecto y revalidar los resultados sospechosos para evitar métricas infladas o contaminación entre modelos.