Un hombre fue condenado en Florida después de utilizar ChatGPT para planear el asesinato de su exnovia, en un caso que volvió a poner bajo la lupa el uso de herramientas de inteligencia artificial (IA) y los mecanismos de seguridad de estas plataformas.
Darren Zhou, exanalista financiero de Goldman Sachs, llegó a un acuerdo de culpabilidad ante una corte del condado de Palm Beach por varios delitos relacionados con amenazas de muerte, ciberacoso y el uso de un dispositivo de comunicación para cometer un crimen.
De acuerdo con documentos judiciales, el caso comenzó después de que OpenAI, empresa creadora de ChatGPT, emitiera una alerta de emergencia al Buró Federal de Investigaciones (FBI) sobre las conversaciones que Zhou había mantenido con la herramienta.
OpenAI alertó al FBI sobre las conversaciones
Zhou permanecía detenido desde mayo, luego de que una notificación de emergencia de OpenAI/ChatGPT llegara a las autoridades del condado de Palm Beach.
Según la orden de arresto, el usuario realizó repetidas declaraciones en las que habló sobre su intención de atacar y asesinar a su exnovia, identificada como Rachel Eden Wachterman.
Las autoridades señalaron que durante las conversaciones con la plataforma, Zhou habría utilizado expresiones que mostraban una intención de ejercer violencia contra la mujer. Entre ellas se encontraba la frase "Si no es mía, no será de nadie".
La información entregada a las autoridades también habría advertido sobre un supuesto plan que el hombre describió como un asesinato-suicidio. Además, habría mencionado que estaba siguiendo los horarios de su expareja con la intención de conocer dónde podría encontrarla en caso de decidir llevar adelante sus amenazas.
La alerta permitió que las autoridades investigaran el riesgo y posteriormente procedieran contra el sospechoso.
El hombre había adquirido armas antes de ser detenido
Uno de los elementos que aparece en los documentos judiciales es que Zhou habría informado durante sus conversaciones con ChatGPT que había comprado diferentes armas y otros objetos.
Entre ellos se encontraban un rifle estilo AR-15, una pistola Glock, una escopeta calibre 12 con municiones y guantes de látex.
La información fue considerada por las autoridades dentro del contexto de las amenazas contra su exnovia y del supuesto plan que habría desarrollado.
El caso adquiere especial relevancia porque las conversaciones con una herramienta de inteligencia artificial terminaron generando una alerta que fue canalizada hacia las autoridades federales y locales.
Zhou finalmente aceptó su responsabilidad mediante un acuerdo de culpabilidad en la corte del condado de Palm Beach.
¿Qué delitos enfrenta Darren Zhou?
El acuerdo de culpabilidad está relacionado con acusaciones que incluyen amenazas de muerte o lesiones contra otra persona, constituir una amenaza creíble mediante ciberacoso y utilizar un dispositivo de comunicación de dos vías para cometer un delito.
La investigación se centró en las amenazas que Zhou habría realizado contra su exnovia y en las conversaciones que sostuvo con ChatGPT.
El caso también muestra cómo las autoridades pueden utilizar información generada a partir de alertas de seguridad de las plataformas tecnológicas cuando existen indicios de una amenaza potencial.
Sin embargo, el episodio también abre un debate sobre los límites de la privacidad, la seguridad y la responsabilidad de las empresas que desarrollan sistemas de IA generativa.
Florida mantiene una disputa legal con OpenAI
El caso ocurre en un momento en que OpenAI enfrenta cuestionamientos legales en Florida relacionados con la seguridad de ChatGPT.
El estado se convirtió el 1 de junio en el primero de Estados Unidos en presentar una demanda contra OpenAI y su fundador por cuestiones relacionadas con el diseño y la seguridad de la plataforma.
La demanda civil sostiene que ChatGPT puede contribuir a determinados comportamientos peligrosos, además de acusar a la empresa de problemas relacionados con la adicción de menores y el debilitamiento del pensamiento crítico.
Este proceso judicial es independiente de una investigación criminal iniciada en abril por el fiscal de Florida, James Uthmeier, relacionada con el uso de la herramienta de inteligencia artificial en otro caso de violencia.
La investigación se abrió después de un tiroteo ocurrido en la Universidad Estatal de Florida en 2025, que dejó dos personas muertas.
El caso vuelve a poner a la IA bajo escrutinio
La condena de Darren Zhou coloca nuevamente a ChatGPT y la inteligencia artificial en el centro del debate sobre los riesgos asociados con estas tecnologías.
Aunque las plataformas de IA cuentan con sistemas diseñados para detectar y bloquear determinados contenidos peligrosos, las autoridades y empresas tecnológicas enfrentan el reto de identificar situaciones en las que una conversación pueda representar una amenaza real fuera del entorno digital.
En este caso, la alerta enviada por OpenAI al FBI permitió que las autoridades conocieran las declaraciones del usuario y evaluaran el posible riesgo para su exnovia.
El proceso también evidencia la importancia de los mecanismos de detección de amenazas en plataformas utilizadas diariamente por millones de personas.
Mientras continúan los cuestionamientos legales contra las empresas de inteligencia artificial, el caso de Florida podría convertirse en otro referente dentro del debate sobre qué responsabilidades deben asumir las compañías cuando sus sistemas detectan conversaciones relacionadas con posibles actos violentos.
*BC
242
Me Gusta
Comentar
Compartir
