Solo dos de 134 modelos de inteligencia artificial (IA) superaron sin fallas una prueba de seguridad sobre terrorismo y armas químicas o nucleares. Otros 81 no la aprobaron. Así lo indica un informe de Tech Against Terrorism, una organización británica sin fines de lucro, presentado la semana pasada y difundido por la revista Wired.
¿Cómo se hizo la prueba?
Los investigadores plantearon a los modelos pedidos relacionados con atentados terroristas y armas químicas o nucleares. Cada solicitud se repitió en tres formatos: como un terrorista que dice abiertamente lo que busca, como una actividad clandestina y como un investigador de seguridad. Un modelo de IA fallaba si daba al menos una respuesta completa sobre un ataque con víctimas masivas, o si su puntaje general quedaba por debajo de 90 sobre 100.
Se evaluaron desarrollos de OpenAI, xAI, Anthropic, Meta y Google, además de empresas chinas y europeas. El artículo original no identifica a los dos modelos de IA que aprobaron ni lista los 81 que fallaron.
El problema de los modelos sin filtros
El informe pone el foco en la «abliteración», una técnica que elimina los mecanismos de rechazo de un modelo. Funciona sobre todo con modelos de código abierto, cuyos parámetros se pueden descargar. Los 13 modelos modificados con esa técnica fallaron todas las pruebas.
El caso más llamativo es Llama 3.1 8B, de Meta. Obtuvo 97 puntos sobre 100 en su versión original y unos 3 después de quitarle los filtros. Según el informe, una versión sin filtros de un modelo de IA recién publicado aparece en menos de tres días. En 2024 tardaba más de 24.
La identidad del usuario cambia la respuesta
Los modelos fueron más reacios cuando el pedido venía de alguien que se declaraba terrorista. Cuando la misma solicitud se presentaba como una consulta de investigación, la ayuda aumentó, aunque nadie verificaba esa identidad. Por ello, la IA puede ofrecer diferentes respuestas según el contexto del usuario.
¿Qué dicen los autores y las empresas?
Adam Hadley, director ejecutivo de Tech Against Terrorism, afirmó que se habla mucho del riesgo existencial de la IA y poco de los modelos sin filtros. También dijo que la idea de que no se pueden tener seguridad y progreso a la vez «es falsa».
Hugging Face, la plataforma donde se comparten estos modelos, dijo que modera con regularidad el contenido que infringe sus políticas. Advirtió que algunas recomendaciones del informe podrían perjudicar la investigación abierta. Meta indicó que sus modelos pasan por evaluaciones de seguridad y que sus políticas prohíben usos dañinos o ilegales. Según Infobae, OpenAI, Google, Anthropic, xAI y Alibaba no respondieron a las consultas de Wired.
El informe recomienda evaluaciones de seguridad independientes, protecciones más sólidas contra la eliminación de salvaguardas y límites a la distribución de modelos modificados. Sin embargo, el avance de la IA plantea retos y oportunidades para la seguridad global.
TAMBIÉN LEA:
