La carrera por desarrollar una inteligencia artificial cada vez más poderosa enfrenta un giro inesperado: algunos de los propios ejecutivos que encabezan la competencia tecnológica están pidiendo reducir el ritmo con el que aumentan las capacidades de los modelos, mientras Naciones Unidas advierte que el avance acelerado puede afectar derechos fundamentales, servicios esenciales e instituciones democráticas.

Dario Amodei, director ejecutivo de Anthropic, propuso ralentizar deliberadamente el desarrollo de la IA de frontera para dedicar más tiempo a seguridad, evaluación y control. La iniciativa recibió el respaldo público de Sam Altman, de OpenAI; Elon Musk, de xAI; y Demis Hassabis, de Google DeepMind, en una inusual coincidencia entre compañías que compiten directamente por liderar esta tecnología.

Anthropic pide que la seguridad avance al ritmo de los modelos

Amodei planteó que las compañías reduzcan la velocidad con la que incrementan las capacidades de sus sistemas y aprovechen ese margen para fortalecer alineación, interpretabilidad, pruebas de seguridad y controles operativos.

Su argumento parte de un cambio en las capacidades actuales. Los modelos pueden actuar como agentes, utilizar herramientas, ejecutar cadenas de tareas, participar en operaciones informáticas y contribuir al propio desarrollo de nuevas generaciones de inteligencia artificial. Para Amodei, uno o dos años adicionales antes de alcanzar determinados niveles de capacidad permitirían mejorar sustancialmente las medidas de seguridad.

La propuesta incluye evaluadores externos permanentes dentro de las compañías, con acceso comparable al de los equipos internos encargados de revisar riesgos. Anthropic plantea darles acceso a herramientas, espacios de trabajo e información relevante para verificar si las prácticas prometidas realmente se cumplen.

Los revisores también podrían publicar resultados sobre incidentes, niveles de riesgo y medidas implementadas. El objetivo es incorporar una evaluación independiente que reduzca la dependencia de los informes elaborados exclusivamente por las propias compañías.

Sam Altman, Elon Musk y otros rivales respaldan el llamado

El planteamiento consiguió una respuesta inmediata dentro de la industria. Sam Altman respaldó la incorporación de evaluadores independientes y anunció que OpenAI adoptará una medida similar, mientras Elon Musk apoyó públicamente la propuesta de Amodei.

La coincidencia resulta relevante porque estas compañías mantienen una competencia intensa por lanzar modelos más capaces, atraer inversiones, ampliar centros de datos y conquistar usuarios.

Amodei también propone que los principales laboratorios coordinen estándares de seguridad y que los gobiernos establezcan reglas aplicables a todas las compañías que desarrollan IA de frontera. Su esquema avanza desde supervisores externos dentro de las empresas hasta coordinación entre países y acuerdos internacionales verificables.

La preocupación se intensificó después de incidentes de ciberseguridad vinculados con sistemas capaces de operar como agentes. Anthropic ha documentado usos de sus modelos relacionados con operaciones informáticas, vigilancia, fraude y actividades vinculadas con armas, mientras otros experimentos han mostrado agentes capaces de interactuar con sistemas externos de maneras imprevistas.

ONU advierte riesgos para vida, salud, privacidad y seguridad

La alerta tecnológica coincidió con un llamado del alto comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, quien pidió a gobiernos y empresas que desarrollan los sistemas más avanzados adoptar medidas urgentes ante riesgos que calificó como inéditos.

Türk señaló que el impacto de la inteligencia artificial alcanza todos los derechos humanos, incluidos los derechos a la vida, alimentación, salud, privacidad y seguridad.

Una de sus principales preocupaciones está relacionada con la IA agéntica, sistemas capaces de organizar tareas, tomar decisiones y ejecutar acciones con un grado creciente de autonomía. Un fallo en sistemas conectados con infraestructuras esenciales puede afectar servicios financieros, telecomunicaciones, suministro de agua, calefacción y otros componentes indispensables para la vida cotidiana.

La ONU también coloca dentro del debate la estabilidad de las instituciones democráticas. Sistemas avanzados capaces de producir información, automatizar operaciones y actuar a gran escala pueden incrementar el impacto de campañas de manipulación, operaciones digitales y ataques contra infraestructuras.

La IA también entra al terreno de los conflictos y la seguridad

El desarrollo de herramientas cada vez más autónomas también preocupa por su incorporación a actividades militares. Türk destacó que la inteligencia artificial ya influye en los conflictos al acelerar procesos, ampliar capacidades y modificar la manera en que se toman decisiones relacionadas con el uso de la fuerza.

Las capacidades cibernéticas ocupan otro frente. Amodei considera que modelos más avanzados podrían ejecutar grandes cantidades de operaciones simultáneas contra sistemas informáticos. Su propuesta busca que las medidas de contención, monitoreo y evaluación aumenten antes de que esa capacidad alcance una escala mucho mayor.

El ejecutivo también incluye entre los riesgos el posible uso de la inteligencia artificial en desarrollo de armas, biología, vigilancia y fraude, áreas donde los modelos avanzados pueden reducir el conocimiento técnico y el tiempo necesarios para ejecutar determinadas tareas.

Las empresas buscan un acuerdo mientras Estados Unidos y China compiten

La desaceleración propuesta enfrenta además un problema geopolítico. Las compañías estadounidenses compiten entre sí, pero Estados Unidos también mantiene una carrera tecnológica con China.

Amodei plantea combinar una reducción del ritmo con controles sobre chips avanzados, protección de modelos y cooperación internacional. Su propuesta busca preservar una ventaja tecnológica estadounidense mientras se construyen mecanismos globales capaces de verificar compromisos de seguridad.

China respondió a ese planteamiento defendiendo un enfoque abierto e inclusivo y criticando las restricciones estadounidenses sobre tecnología avanzada. La disputa muestra uno de los principales obstáculos para establecer reglas comunes: cada potencia considera la inteligencia artificial un elemento económico, militar y estratégico.

En Estados Unidos, el presidente Donald Trump defendió mantener el liderazgo frente a China y rechazó desacelerar una tecnología que considera decisiva para la competencia global.

La regulación ya forma parte de la carrera por la IA

El debate dejó de centrarse únicamente en qué compañía puede construir el modelo más potente. Ahora incluye quién supervisa esos sistemas, qué pruebas deben superar antes de desplegarse, quién puede acceder a sus evaluaciones internas y qué ocurre cuando aparecen comportamientos peligrosos.

La propuesta de Anthropic apuesta por auditores externos con capacidad real para inspeccionar las prácticas de los laboratorios. Naciones Unidas lleva la discusión más allá de la seguridad técnica y exige que el desarrollo tecnológico tenga como base el derecho internacional y los derechos humanos.

La coincidencia coloca una misma pregunta frente a gobiernos y compañías: cómo mantener los beneficios económicos, científicos y sociales de la inteligencia artificial mientras las medidas de seguridad y supervisión avanzan al mismo ritmo que sus capacidades.

*OCR