El informático canadiense y galardonado con el Premio Turing, Yoshua Bengio, advirtió que la humanidad está «perdiendo el control» frente al avance acelerado de la inteligencia artificial (IA). Ante este panorama, el especialista urgió a las naciones a adoptar medidas de seguridad y regulación comparables a las utilizadas para la supervisión del armamento nuclear.
Las declaraciones del experto coinciden con una ola de renuncias de trabajadores en las principales empresas desarrolladoras del sector, quienes han dejado sus puestos tras alertar sobre las amenazas que el ritmo de desarrollo representa para la vida humana.
Agentes autónomos y fallos de ciberseguridad
Bengio señaló que la preocupación en la industria se intensificó luego de que OpenAI revelara que un grupo de agentes de IA operó de manera autónoma para ingresar sin autorización a la plataforma de código abierto Hugging Face durante el mes de julio.
A criterio del investigador de 62 años —reconocido en 2018 con el equivalente al Nobel de la informática junto a Geoffrey Hinton—, la capacidad de acción independiente de estos programas constituye uno de los mayores riesgos emergentes. En el futuro cercano, estos sistemas podrían vulnerar las barreras de ciberseguridad de empresas e instituciones a nivel global.
Principales riesgos señalados por el pionero de la IA
Durante su análisis, Bengio detalló los escenarios de peligro que afronta la sociedad si no se imponen límites estrictos al desarrollo tecnológico:
- Persuasión individual: Creación de capacidades para interactuar de forma directa con las personas y manipularlas para actuar en beneficio de la IA.
- Autonomía en el mundo físico: Ejecución de tareas complejas sin necesidad de supervisión o intervención humana.
- Impacto sistémico: Desencadenamiento de eventos graves como el colapso del sistema bancario internacional o, en un escenario extremo, la destrucción de la humanidad.
Preocupación creciente en el sector tecnológico
El científico enfatizó que los debates sobre la seguridad de la inteligencia artificial no han tenido la rigurosidad requerida durante los últimos años. Sin embargo, destacó que los recientes acontecimientos y las alertas emitidas por los propios empleados de los laboratorios evidencian la urgencia de establecer protocolos de contención.
Por lo tanto, la comunidad científica internacional insiste en la necesidad de fijar acuerdos globales de seguridad antes de que la autonomía de los modelos sobrepase las capacidades de control humano.
