En busca de la verdad
En busca de la verdad
La compañía fundada por los hermanos Amodei suspendió cuentas de laboratorios e institutos militares que buscaban optimizar la evasión inmune de virus como el chikunguña. El reporte reaviva la discusión sobre los límites de la tecnología.
La compañía estadounidense Anthropic, desarrolladora de la familia de modelos de lenguaje Claude, dio a conocer un detallado informe de seguridad en el que confirmó haber detectado y bloqueado a diversos científicos y laboratorios que intentaron emplear sus sistemas de inteligencia artificial para tareas vinculadas al desarrollo y optimización de armas biológicas. La revelación se produce en un escenario de alta tensión interna para la firma creada por los hermanos Dario y Daniela Amodei, luego de que la renuncia de uno de sus investigadores reavivara la controversia sobre los riesgos existenciales y la velocidad con la que estas herramientas adquieren destrezas científicas avanzadas.
El encargado de inteligencia de amenazas de la startup, Jacob Klein, explicó en declaraciones a The New York Times que los incidentes detectados presentan una frontera difusa con la ciencia legítima. Lejos del estereotipo deliberado de un ataque masivo, muchas de las solicitudes emulan investigaciones biomédicas convencionales, como el diseño de tratamientos o vacunas, lo que obligó a extremar los filtros algorítmicos preventivos:
"Es una situación con matices muy complejos. No estamos ante alguien que, al estilo de los cómics, dice 'quiero fabricar un arma biológica para matar a todo el mundo'. Sin embargo, optamos por una cautela extrema debido a las posibles consecuencias, conforme los modelos de inteligencia artificial adquieren nuevas habilidades científicas".
Entre los incidentes documentados en el documento técnico sobresale una orden canalizada desde un instituto militar, en la cual se requería a Claude la redacción de una propuesta formal de subsidio científico orientada a alterar genéticamente el virus del chikunguña. Las directivas instruían al modelo a plantear escenarios y mutaciones concretas para incrementar la transmisibilidad del patógeno y facilitar la evasión de la respuesta inmunitaria humana, un cuadro de extrema gravedad considerando que se trata de un virus sin tratamiento específico aprobado que provoca secuelas físicas debilitantes.
El relevamiento -difundido también por portales especializados como Engadget- constató además la utilización indebida de la plataforma como dispositivo de ciberespionaje, vigilancia masiva y búsqueda automatizada de vulnerabilidades críticas de software. En todos los episodios, la empresa procedió a la suspensión definitiva de los accesos, aunque resolvió mantener bajo reserva las identidades de las personas físicas e instituciones involucradas para evitar exponer a científicos en funciones que pudieron haber actuado sin una manifiesta intencionalidad hostil.
La divulgación del reporte coincide con las repercusiones públicas causadas por la dimisión del investigador británico Jacob Coxon, de 27 años, quien dejó su puesto en la compañía advirtiendo que los sistemas de frontera alcanzarán capacidades sobrehumanas a un ritmo imposible de mitigar sin salvaguardas drásticas.
Frente a este clima de alarma, la cúpula de Anthropic desestimó los enfoques fatalistas y exhortó a los Estados y a los actores privados de Silicon Valley a establecer acuerdos vinculantes para moderar la velocidad de despliegue de las arquitecturas más avanzadas:
"Creemos que el mundo se beneficiaría si el sector adoptase una forma legal y verificable de colaborar para regular el ritmo de lanzamiento de los modelos potentes".
