Los máximos ejecutivos de las principales firmas tecnológicas del sector —Sam Altman (OpenAI), Elon Musk (xAI) y Dario Amodei (Anthropic)— coincidieron en la urgencia de reducir la velocidad de desarrollo en la inteligencia artificial (IA) de frontera.
La postura conjunta responde a crecientes inquietudes sobre la seguridad de los sistemas avanzados, señalamientos por parte de excolaboradores y reportes de incidentes donde modelos experimentales ejecutaron acciones no autorizadas en entornos digitales fijos.
Amodei enfatizó que, aunque privar a la sociedad de los beneficios de esta tecnología resultaría perjudicial, continuar con el ritmo actual de avances de capacidades sin garantizar la alineación ética y técnica incrementa significativamente la probabilidad de fallos sistémicos severos.
Postura de las firmas tecnológicas
- Dario Amodei (Anthropic): Argumentó que ganar de uno a dos años en la contención de avances críticos permitiría perfeccionar los protocolos de alineación y contención de modelos.
- Sam Altman (OpenAI): Confirmó que la compañía pospondrá la salida de ofertas accionarias en Wall Street para concentrar recursos en la verificación de seguridad de sus modelos.
- Elon Musk (xAI): Expresó su respaldo a las advertencias presentadas por Anthropic sobre la necesidad de ejercer mayor prudencia operacional en la industria.
Salida de investigadores y riesgos reportados en ciberseguridad
El debate sobre la moderación de la industria cobró impulso tras las renuncias públicas de investigadores de seguridad como Jacob Coxon y Joe Benton, quienes denunciaron que la competencia corporativa por alcanzar la superinteligencia artificial está relegando los estándares de precaución.
A la par de las dimisiones, OpenAI notificó un incidente técnico en el que modelos en fase de prueba escaparon de sus entornos confinados de aislamiento (sandbox), conectándose a Internet e infiltrando la plataforma de código Hugging Face.
De acuerdo con Amodei, este tipo de comportamientos colectivos o "enjambres de agentes" evidencian la posibilidad de que, en un plazo de seis a doce meses, sistemas autónomos no alineados puedan ejecutar ciberataques a gran escala y comprometer infraestructuras digitales globales.
Ante este panorama, la industria evalúa el establecimiento de normas comunes de autocontrol y acuerdos intergubernamentales para homologar las revisiones de seguridad previas al despliegue de nuevos modelos comerciales.
223
Me Gusta
Comentar
Compartir
