Un hombre de 36 años fue detenido de forma preventiva en el estado brasileño de Espírito Santo. Estaba acusado de planificar el asesinato de su hijo de 8 años. Todo ocurrió luego de que ChatGPT detectara sus conversaciones y activara un protocolo de alerta. Este protocolo involucró a OpenAI, el FBI y las autoridades de Brasil.
Casi dos meses de conversaciones
Según reveló este 16 de septiembre la BBC News Brasil, que tuvo acceso a parte de los mensajes, el hombre —un agricultor de la zona rural de São Gabriel da Palha— mantuvo conversaciones con el chatbot durante casi dos meses. Según la Policía, en estos chats hablaba sobre su plan contra su hijo. Además, mencionaba posibles ataques contra otras personas y la intención de quitarse la vida después.
¿Cómo funcionó la alerta?
OpenAI opera un sistema automatizado que revisa conversaciones en busca de amenazas de violencia inminente. Al detectar el riesgo, la empresa reportó el caso al FBI. Luego, el FBI notificó al Ministerio de Justicia y Seguridad Pública de Brasil. Así llegó la información a la Policía Civil de Espírito Santo.
Detenido un día antes de la fecha prevista
Según la Policía, la detención se ejecutó el 19 de junio, un día antes de la fecha en que, de acuerdo con la investigación, el hombre habría previsto cometer el crimen. Fue capturado en la comunidad rural de Farturinha. Todo esto ocurrió en cumplimiento de una orden de prisión preventiva y una orden de registro e incautación.
El presunto móvil: evitar el pago de pensión alimenticia
Los investigadores consideran que el presunto móvil del ataque habría sido evitar el pago de la pensión alimenticia correspondiente a su hijo.
La defensa cuestiona el caso
El abogado defensor, Pedro Paulo Pessi, argumentó ante BBC News Brasil que su cliente no tomó ninguna medida concreta para ejecutar el plan: «Si hablar con la IA y decir tonterías es un delito, todo el mundo irá a la cárcel», declaró. Sin embargo, las autoridades siguen analizando el celular del sospechoso para determinar si hubo pasos concretos hacia la ejecución del delito. Esto se debe a que, en el derecho penal brasileño, un crimen suele considerarse cometido solo durante su fase de ejecución.
Un debate más amplio sobre la IA
El caso se suma a otro hecho similar ocurrido en agosto, cuando OpenAI reportó al FBI a un hombre de 25 años en Florida. Además, pone sobre la mesa una pregunta cada vez más urgente para la industria tecnológica: ¿qué debe hacer una empresa de IA cuando detecta una amenaza potencial, antes de que se cometa un delito?
