Tras una ola de denuncias públicas y acciones legales, X, antes Twitter, anunció nuevas restricciones a Grok, su sistema de inteligencia artificial, para impedir la creación y edición de imágenes sexualizadas de personas reales, incluidas representaciones desnudas, en ropa interior o en situaciones comprometedoras.
La decisión ocurre en medio de una fuerte presión política y social, luego de reportes que documentaron la generación masiva de desnudos no consentidos, incluso de menores de edad, mediante solicitudes directas al sistema desarrollado por xAI, la empresa de Elon Musk.
No más imágenes sexualizadas generadas por Grok
A través de su cuenta oficial de seguridad, X informó que Grok ya no procesará solicitudes que impliquen mostrar a personas reales en bikinis, ropa interior o contextos sexuales. La empresa sostuvo que estas restricciones buscan reducir el abuso tecnológico y proteger la privacidad.
Las nuevas limitaciones se apoyan en cambios técnicos vinculados al modelo de suscripción y a filtros de contenido más estrictos, con alcance global y sin excepciones para cuentas de pago.
Principales cambios anunciados por X
Acceso limitado a herramientas de creación y edición de imágenes solo para suscriptores.
Bloqueo geográfico de funciones en países donde este contenido es ilegal.
Prohibiciones aplicables a todos los usuarios, incluidas cuentas Premium.
Persisten fallas técnicas pese al anuncio
Aunque X aseguró que las medidas ya están activas, pruebas realizadas por medios especializados señalan que aún es posible sortear algunos filtros, sobre todo desde aplicaciones móviles o versiones web. Esto permitiría, en ciertos casos, modificar imágenes de figuras públicas hacia escenarios sexualizados.
La empresa no ha detallado plazos para corregir completamente estas vulnerabilidades, lo que mantiene encendida la preocupación de autoridades y organizaciones civiles.
La postura de Elon Musk ante las críticas
Elon Musk defendió el funcionamiento de Grok al señalar que el sistema no genera contenido de forma autónoma, sino únicamente en respuesta a solicitudes de los usuarios. Afirmó que la inteligencia artificial está diseñada para obedecer las leyes locales y que cualquier fallo es corregido cuando se detecta.
No obstante, gobiernos europeos mantienen una postura de vigilancia estricta. En el Reino Unido, el primer ministro Keir Starmer confirmó que existe comunicación directa con X para exigir el cumplimiento de la normativa vigente sobre imágenes ilegales.
Investigaciones judiciales en Estados Unidos
El caso ya escaló al ámbito judicial. El fiscal general de California, Rob Bonta, inició una investigación formal contra xAI, acusándola de facilitar la creación masiva de deepfakes íntimos no consentidos.
Las autoridades estadounidenses han recibido múltiples denuncias que documentan el uso de estas herramientas para acoso digital, especialmente contra mujeres y niñas. El objetivo es determinar si la tecnología vulneró leyes de privacidad y protección, en un contexto donde la ética en la inteligencia artificial se ha convertido en prioridad global.
El caso de Grok reaviva el debate internacional sobre los límites de la IA generativa, la responsabilidad de las plataformas tecnológicas y la necesidad de marcos regulatorios más estrictos. Para expertos y legisladores, el reto no solo es técnico, sino también legal y ético.
Con información de El Tiempo
*BC
130
Me Gusta
Comentar
Compartir
