En busca de la verdad
En busca de la verdad
Aunque los modelos generativos aceleran la depuración y aumentan la productividad en el desarrollo de software, especialistas advierten que la falta de control humano introduce vulnerabilidades críticas en proyectos complejos.
La irrupción masiva de la inteligencia artificial generativa ha comenzado a transformar de raíz los flujos de trabajo en el desarrollo de software, permitiendo generar y optimizar código para sitios web, aplicaciones y sistemas operativos a velocidades inéditas. Sin embargo, lejos de volver prescindible la mano de obra calificada, el programador retiene un papel indispensable en la arquitectura técnica, la supervisión de procesos complejos y la mitigación de fallas críticas.
Así lo analizó el ingeniero de telecomunicaciones y director de Funditec Research, Gonzalo Álvarez Marañón, quien remarcó que los dos grandes desafíos históricos del rubro —la detección de errores y el mantenimiento escalable de códigos voluminosos en el tiempo— siguen requiriendo criterio humano, aun cuando la tecnología actúe como un acelerador: "La IA acelera el proceso ayudando a depurar el código de manera mucho más eficiente". Esta capacidad se explica porque los modelos procesan enormes volúmenes de datos lingüísticos y operan sobre lenguajes de programación formales donde el resultado se comprueba al instante, permitiéndole a los algoritmos aprender mediante ensayo y error.
No obstante, el especialista advirtió sobre los riesgos inherentes de delegar el desarrollo en la automatización sin una auditoría rigurosa. La inteligencia artificial no cuenta con la capacidad de estructurar software complejo de manera fiable sin supervisión continua. De acuerdo con el investigador, el principal riesgo radica en el uso de estas herramientas por parte de usuarios sin conocimientos técnicos avanzados: "En manos de quien no sabe programar, la IA puede generar un código con fallos de seguridad que el usuario no sabrá detectar".
En ese sentido, Álvarez Marañón distinguió entre los errores comunes de funcionamiento y las brechas invisibles. Mientras que un bug tradicional suele ser evidente porque interrumpe la ejecución del sistema o altera su respuesta visual, existen inconsistencias estructurales que no afectan la funcionalidad aparente pero dejan vulnerabilidades expuestas. Estas puertas traseras pueden ser explotadas por actores maliciosos para sustraer información sensible, modificar bases de datos operativas o alterar precios comerciales de manera inadvertida, ratificando la necesidad imperiosa de contar con desarrolladores experimentados para blindar los sistemas.