Bill Gates volvió a colocar sobre la mesa los riesgos que podría traer el desarrollo acelerado de la inteligencia artificial (IA). El empresario y filántropo considera que esta tecnología ofrece enormes posibilidades para mejorar la vida de las personas, pero también advierte que puede convertirse en una herramienta peligrosa si cae en manos equivocadas.
Entre sus principales preocupaciones aparece el uso de sistemas avanzados de IA para facilitar la creación de armas biológicas. En un escenario extremo, una persona o un grupo con intenciones maliciosas podría aprovechar estas herramientas para diseñar un patógeno capaz de provocar una pandemia.
Gates considera que un episodio de este tipo podría ocasionar millones de muertes, una advertencia que no plantea como consecuencia inevitable del desarrollo tecnológico, sino como un riesgo que gobiernos, empresas y científicos deberían atender antes de que las capacidades de estos sistemas aumenten.
Su otra preocupación mira todavía más lejos: la posibilidad de desarrollar una superinteligencia artificial cuyas capacidades superen ampliamente a las humanas y que resulte difícil de controlar.
¿Qué dijo Bill Gates sobre los peligros de la inteligencia artificial?
La postura de Gates parte de una diferencia importante. Para él, no todos los riesgos asociados con la IA tienen el mismo nivel de urgencia.
Uno de los peligros que considera más concretos está relacionado con la posibilidad de que actores maliciosos utilicen herramientas de inteligencia artificial para desarrollar amenazas biológicas.
La tecnología podría reducir las barreras de conocimiento necesarias para trabajar con información científica compleja. Ese potencial resulta útil para investigadores, médicos y especialistas, pero también abre la posibilidad de usos dañinos.
En ese contexto surge la advertencia sobre una eventual pandemia provocada deliberadamente. El escenario descrito por Gates tendría consecuencias que podrían alcanzar millones de víctimas si un patógeno altamente peligroso fuera diseñado o modificado con ayuda de sistemas avanzados.
No significa que la IA actual pueda producir por sí sola una catástrofe de esas dimensiones. La preocupación se concentra en cómo podrían evolucionar sus capacidades y quién tendría acceso a ellas.
Bioterrorismo, uno de los riesgos que más preocupan a Gates
El desarrollo de la inteligencia artificial está transformando áreas científicas que hasta hace pocos años requerían conocimientos altamente especializados.
Los modelos pueden ayudar a procesar grandes cantidades de información, analizar estructuras moleculares y acelerar determinadas fases de investigación. Es precisamente esa capacidad la que genera una doble lectura.
Por un lado, la IA podría contribuir al descubrimiento de medicamentos, vacunas y nuevos tratamientos. Por otro, herramientas cada vez más potentes podrían facilitar que personas sin la misma formación técnica accedan a conocimientos que antes estaban restringidos a especialistas.
Para Gates, el problema no está únicamente en la tecnología, sino en el uso que una persona pueda darle.
Esta diferencia es relevante porque coloca parte del desafío en los mecanismos de seguridad, supervisión y acceso a sistemas capaces de trabajar con información biológica sensible.
El segundo escenario: una IA más inteligente que los humanos
La preocupación de Gates no termina en el posible uso malicioso de las herramientas actuales.
También plantea interrogantes sobre el desarrollo de una superinteligencia, entendida como una inteligencia artificial capaz de superar ampliamente las capacidades cognitivas humanas.
En este escenario, el problema sería distinto al bioterrorismo. Ya no se trataría únicamente de una persona utilizando mal una herramienta, sino de garantizar que un sistema mucho más avanzado continúe actuando de acuerdo con objetivos compatibles con los intereses humanos.
La cuestión sobre cómo mantener bajo control una inteligencia superior continúa abierta entre investigadores y empresas tecnológicas.
Todavía no existe una superinteligencia de esas características, por lo que se trata de un riesgo hipotético asociado con futuros sistemas, no de una capacidad demostrada de los modelos disponibles actualmente.
Gates no rechaza la IA: también destaca sus beneficios
Las advertencias del empresario no significan que mantenga una posición contraria al desarrollo de la inteligencia artificial.
Gates ha defendido en diferentes ocasiones el potencial de esta tecnología para transformar ámbitos como salud, educación, productividad e investigación científica.
Precisamente ahí aparece una de las principales tensiones del debate: la misma tecnología que puede ayudar a resolver problemas complejos también puede generar riesgos nuevos.
En medicina, por ejemplo, los sistemas de IA pueden facilitar el análisis de información, apoyar investigaciones y acelerar procesos. En educación, pueden ampliar el acceso a herramientas personalizadas de aprendizaje.
La discusión, por tanto, no se reduce a decidir entre desarrollar o detener la inteligencia artificial. Una parte central está en establecer qué medidas de seguridad deben acompañar su evolución.
Las advertencias sobre IA ya no vienen solo de expertos técnicos
Gates no es la única figura vinculada al sector tecnológico que ha expresado preocupación por los sistemas de inteligencia artificial cada vez más capaces.
Investigadores, empresarios y especialistas llevan años debatiendo cuestiones como la pérdida de empleos, la desinformación, los sesgos algorítmicos, el uso militar de la tecnología y los escenarios de pérdida de control.
Sin embargo, existen diferencias importantes sobre la probabilidad y cercanía de los riesgos más extremos.
Mientras algunos especialistas consideran necesario prepararse desde ahora para sistemas mucho más poderosos, otros sostienen que la prioridad debería estar en problemas que ya ocurren con la IA disponible actualmente, como fraudes, discriminación algorítmica, manipulación informativa o vulneraciones de privacidad.
Ambas discusiones han comenzado a influir en las decisiones de gobiernos y compañías tecnológicas.
¿Es posible que la IA provoque millones de muertes?
La afirmación requiere contexto.
No existe evidencia de que los sistemas actuales de inteligencia artificial estén provocando o sean capaces por sí solos de provocar millones de muertes. La advertencia se refiere a escenarios futuros en los que una IA más avanzada pueda facilitar la creación de amenazas biológicas o adquirir capacidades difíciles de controlar.
En el primero de esos escenarios, el peligro dependería de una combinación de factores: capacidades técnicas del sistema, acceso a información especializada, posibilidad material de desarrollar un agente biológico y ausencia de controles suficientes.
Por eso, presentar la cifra de millones de víctimas como una consecuencia asegurada de la IA sería incorrecto.
Lo que Gates plantea es un riesgo de alto impacto, aunque exista incertidumbre sobre su probabilidad.
Seguridad y regulación entran al centro del debate
El rápido desarrollo de la inteligencia artificial obliga a gobiernos, universidades y compañías tecnológicas a enfrentar un problema poco habitual: diseñar mecanismos de seguridad para capacidades que todavía están evolucionando.
Entre los puntos de discusión aparecen las evaluaciones de riesgo antes de lanzar modelos avanzados, las restricciones para determinados usos, la protección de información biológica sensible y la cooperación internacional.
También existe el reto de evitar que las medidas de seguridad bloqueen aplicaciones beneficiosas de la tecnología.
La discusión seguirá creciendo conforme los sistemas sean capaces de realizar tareas más complejas. Para Gates, prepararse antes de que aparezcan capacidades potencialmente peligrosas resulta preferible a reaccionar después de una crisis.
*BC
181
Me Gusta
Comentar
Compartir
