La ética y la IA

La Benemérita Universidad Autónoma de Puebla puso en marcha la Agencia de Inteligencia Artificial y Ética Algorítmica, conocida como AURA, una entidad especializada enfocada en impulsar la IA con un enfoque ético, humano, transparente y de responsabilidad social. Está bajo la dirección de Marcelo García Almaguer.

La agencia fue anunciada en febrero pasado por la rectora Lilia Cedillo, con la intención de liderar el desarrollo y uso responsable de la IA.

Su objetivo es definir los usos éticos de la IA y guiar su aplicación en el ámbito científico y académico. Se centra en la "IA responsable para nuevas generaciones", priorizando el talento humano sobre la sustitución de máquinas.

Surge de la necesidad de la universidad poblana de asumir un papel protagonista en el desarrollo de la IA en México.

Esta agencia operará para establecer el rumbo ético de la tecnología, asegurando que la inteligencia artificial se alinee con valores que beneficien a la sociedad, la ciencia y la comunidad universitaria.

Estos encomiables y buenos esfuerzos se enfrentan a otra realidad.

En su editorial de ayer El País informó:

“El presidente de Estados Unidos, Donald Trump, ha ordenado a todas las agencias federales que dejen de utilizar los productos que desarrolla la empresa Anthropic, en especial su herramienta de inteligencia artificial generativa Claude, según los expertos, el mejor modelo para uso militar y la única autorizada en operaciones clasificadas, como la captura del presidente venezolano Nicolás Maduro.

“La empresa exige garantías de que la Administración no utilizará su IA para llevar a cabo una vigilancia masiva de los ciudadanos estadounidenses ni como parte de sistemas de armas autónomas sin supervisión humana. Trump sostiene que una empresa privada no debe decir a los militares cómo combatir ni cómo ganar guerras.

“El Pentágono ha amenazado incluso con calificar a la compañía como una amenaza para la cadena de suministro. Un trato solo dispensado hasta ahora a tecnológicas extranjeras, las chinas Huawei y ZTE, y la rusa Kaspersky, y que pondría en peligro su capacidad para contratar con otras empresas que a su vez trabajen para la Administración”.

Además de 200 millones de dólares del acuerdo que están en juego, el episodio revela lo lejos que ha llegado ya el uso de la IA en las operaciones militares pese a que aún estamos en los primeros pasos en su desarrollo.

Horas después de romper con Anthropic, la Casa Blanca lanzó su ataque sobre Irán con la ayuda de esas mismas herramientas. Por encima de todo, el pulso entre la gestión estadounidense y la compañía que dirige Dario Amodei abre un debate sobre cómo usar la IA, sus riesgos y quién decide los límites a su uso: las empresas que la desarrollan o los gobiernos.

Es un dilema crucial para nuestro futuro inmediato en torno a la inteligencia artificial y a su relación con el poder, es decir, a la ética.

Algunas de las reticencias expresadas por la compañía californiana son las mismas que suscita el uso que puedan hacer de los datos de los ciudadanos los regímenes no democráticos.

Amodei respaldó en la campaña electoral de 2024 a la candidata demócrata, Kamala Harris, y se ha mostrado partidario de regular el uso de una tecnología que está revolucionando nuestras vidas a velocidad de vértigo.

No en vano, Anthropic ha construido su identidad alrededor de la seguridad y la ética en los sistemas de IA. Trump, mientras, ha acusado al desarrollador de Claude de ser una empresa de izquierda radical y woke.

Horas después de que el presidente ordenara romper con Anthropic, OpenAI —cuyo consejero delegado, Sam Altman, es un entusiasta donante trumpista— cerró un acuerdo con el Departamento de Guerra por el que cede todas las capacidades de su herramienta para cualquier uso legal.

“La batalla de Anthropic —fundada por programadores que abandonaron OpenAI por diferencias de criterio sobre control de la IA— estaba en garantizar que el Pentágono no levantará las restricciones sobre vigilancia ciudadana y autonomía de combate cuando lo considere necesario aduciendo opacos motivos de seguridad militar.

“Perdió esta batalla porque los escrúpulos parecen ser un obstáculo para trabajar con la Administración Trump, pero el debate de la ética sigue. De cómo se resuelva dependerá que los aliados de la primera economía del mundo —entre ellos la UE— determinen si el modelo estadounidense de gobernanza tecnológica merece la confianza que hasta ahora se le había dispensado”.

La IA ya está aquí, pero faltan las normas éticas sobre su concepción, producción y uso. En eso está trabajando la BUAP, la primera institución de educación superior en el país que se involucra en el tema de la ética en las nuevas tecnologías.

De las anécdotas que se cuentan

La IA empieza a forjar sus propias historias. Por ejemplo:

A finales de 2025 y principios de 2026, la IA ha pasado de ser una promesa a un "campo de batalla"

Una anécdota destacada es la proliferación de contenido falso ("slop") en publicidad, como las campañas navideñas de 2025 de marcas como Coca-Cola y McDonald's, criticadas por ser "desalmadas" o "distópicas" al ser generadas totalmente por IA, reflejando el rechazo del público a la creatividad sintética.

Otra, se reportó que un trabajador financiero transfirió 39 millones de dólares a personas que no existían, un error derivado del uso de sistemas autónomos sin verificación adecuada.

Además, aproximadamente el 45% de las respuestas generadas por modelos de IA en estudios de 2025 contenían errores, incluyendo la creación de libros inexistentes en listas de lectura y la cita de estudios falsos por parte de oficinas gubernamentales.

[email protected]
Twitter @fercrisanto
Facebook: Fernando Crisanto

*ARD