Las advertencias sobre una inteligencia artificial capaz de escapar del control humano se han vuelto recurrentes conforme avanzan los modelos más potentes. Frente a ese discurso, académicos de la Universidad Iberoamericana plantearon otra lectura: las alertas más extremas también podrían favorecer un mercado en el que únicamente las grandes compañías tengan recursos para cumplir regulaciones costosas. 

El señalamiento no equivale a demostrar que exista una estrategia coordinada de las empresas tecnológicas para sembrar miedo. Abre, en cambio, una discusión sobre cómo separar los riesgos comprobados de la IA de escenarios que todavía pertenecen al terreno de la incertidumbre, así como sobre las consecuencias que puede tener la regulación para empresas de distintos tamaños.

Ese contraste cobra relevancia porque el International AI Safety Report 2026, elaborado con orientación de más de 100 expertos independientes, reconoce daños que ya se materializan, pero también advierte que otros riesgos graves continúan rodeados de incertidumbre. 

La IA actual no tiene una voluntad propia

Alexandro López González, coordinador de Ingeniería en Inteligencia Artificial de la Universidad Iberoamericana, rechazó durante una mesa de análisis que actualmente existan sistemas capaces de automejorarse de manera autónoma en el sentido que sugieren algunas narrativas sobre máquinas que adquieren voluntad propia.

El académico explicó que los problemas de alineación están relacionados con el funcionamiento probabilístico de estos sistemas y no con una voluntad semejante a la humana. Aun así, recomendó evitar su conexión con infraestructuras críticas cuando un error pueda provocar consecuencias graves. 

Verónica Díaz de León, académica del Departamento de Filosofía, propuso otra distinción: hablar de “autonomía operativa” en lugar de trasladar conceptos propios de las personas a los sistemas tecnológicos.

Andrés Molano Jiménez, director del Departamento de Estudios en Ingeniería para la Innovación, coincidió en que no existe una IA con autogobierno como el imaginado en la ciencia ficción, aunque sí hay sistemas con una autonomía operativa cada vez mayor. 

La diferencia es importante. Un sistema no necesita conciencia o voluntad propia para provocar consecuencias si recibe la capacidad de ejecutar acciones con poca intervención humana.

Los agentes de IA cambian el tamaño del riesgo

El International AI Safety Report 2026 coloca precisamente a los agentes de inteligencia artificial entre los desarrollos que requieren atención.

Estos sistemas pueden combinar modelos de IA con herramientas como navegadores, memoria e interfaces informáticas para planificar y completar determinadas tareas con menor supervisión humana. Su desarrollo se ha acelerado y ya existen aplicaciones en investigación, programación, atención al cliente y otros ámbitos. 

El problema aparece cuando el sistema se equivoca.

Un chatbot convencional genera una respuesta que una persona puede revisar antes de utilizarla. Un agente, en cambio, puede ejecutar determinadas acciones. Eso reduce las oportunidades de intervenir antes de que un error tenga consecuencias.

El informe internacional señala además que los agentes todavía presentan dificultades en tareas prolongadas y complejas. Aunque su capacidad ha aumentado, no pueden sostener actualmente el tipo de operación autónoma que requerirían los escenarios extremos de pérdida de control. 

Los riesgos reales de la IA ya están aquí

Cuestionar una narrativa apocalíptica tampoco significa afirmar que la tecnología sea inocua.

El informe internacional divide los riesgos de la IA de propósito general en tres grandes categorías: uso malicioso, fallas de funcionamiento y riesgos sistémicos.

Entre los problemas ya documentados se encuentran el empleo de contenidos generados mediante IA en estafas, fraudes y extorsiones, además de su utilización en operaciones cibernéticas. Los sistemas también pueden encontrar vulnerabilidades informáticas y producir código malicioso. 

A esto se suman problemas de fiabilidad. Los modelos todavía pueden inventar información, producir código defectuoso o proporcionar recomendaciones equivocadas. Aunque distintas medidas reducen esos fallos, el reporte advierte que todavía no existe una combinación de técnicas que garantice la fiabilidad necesaria para todos los ámbitos de alto riesgo. I

Así, la discusión no se limita a una eventual máquina que decida enfrentarse a la humanidad. También abarca problemas mucho más inmediatos: qué decisiones se delegan, quién supervisa los sistemas y quién responde cuando fallan.

¿Las alertas extremas pueden beneficiar a las grandes tecnológicas?

Aquí aparece el componente económico del debate.

Los especialistas de la Ibero plantearon que las advertencias más extremas podrían terminar favoreciendo regulaciones cuyo cumplimiento resulte especialmente costoso. Bajo esa hipótesis, las compañías con mayores recursos estarían mejor preparadas para asumir las nuevas obligaciones que empresas pequeñas o nuevos competidores.

La afirmación debe conservarse en sus términos: se trata de una interpretación planteada por los académicos, no de evidencia que demuestre un acuerdo entre las principales desarrolladoras de IA para utilizar las advertencias como mecanismo de concentración del mercado.

Molano Jiménez añadió otro elemento: ante las dificultades para comprender por completo el funcionamiento interno de los grandes modelos, las compañías deberían abrirse a la academia y evitar que el conocimiento quede concentrado. También respaldó auditorías internas y externas, trazabilidad y mecanismos de apelación cuando una decisión automatizada afecte directamente a una persona. 

Regular sin convertir la incertidumbre en certeza

La regulación enfrenta entonces un dilema.

Actuar cuando todavía falta evidencia puede consolidar medidas que posteriormente resulten ineficaces; esperar hasta contar con pruebas concluyentes puede dejar a la sociedad expuesta a daños importantes. Así describe el International AI Safety Report 2026 uno de los principales problemas que enfrentan los responsables de elaborar políticas sobre inteligencia artificial. 

Además, ni siquiera existe certeza sobre la velocidad con la que avanzará la tecnología hacia 2030. El progreso podría desacelerarse por limitaciones de datos o energía, continuar aproximadamente al ritmo actual o acelerarse. 

Por eso, los riesgos actuales y los escenarios futuros no deberían colocarse en el mismo nivel de certeza.

Las máquinas con voluntad propia no describen las capacidades de los sistemas actuales. Sí existen, en cambio, modelos que cometen errores, herramientas utilizadas para actividades ilícitas y agentes capaces de actuar con una supervisión humana cada vez menor.

Entre la promesa de una tecnología capaz de transformar numerosas actividades y la advertencia de una catástrofe inevitable queda un terreno menos espectacular, pero más concreto: auditar los sistemas, medir sus riesgos, conservar responsabilidad humana y exigir evidencia antes de convertir una posibilidad en certeza

*OCR