Solo 2 de 134 modelos de IA resistieron pruebas sobre terrorismo y armas

Tech Against Terrorism, organización británica respaldada por la ONU, probó 134 modelos de IA con más de 200 peticiones sobre ataques masivos y armas químicas o nucleares, y solo dos superaron la prueba sin fallos, según el informe compartido con Wired. Los investigadores repitieron cada petición presentándose como terroristas, como una actividad clandestina y como investigadores de seguridad; identificarse como investigador, sin ninguna prueba, multiplicó casi por nueve la probabilidad de obtener una respuesta útil. El informe detalla que el tiempo medio para que circule online una versión de un modelo recién publicado con los filtros retirados ("abliterado") cayó de más de 24 días en 2024 a menos de tres días ahora. Como ejemplo, Llama 3.1 8B de Meta pasó de 97 puntos sobre 100 en su versión original a solo 3 tras ser despojado de sus mecanismos de rechazo, y un modelo intervenido llegó a detallar 15 pasos para construir y detonar un artefacto explosivo improvisado.

El hallazgo traslada el foco del debate sobre riesgos existenciales de la IA hacia un problema más inmediato: la facilidad para eliminar las barreras de seguridad de modelos abiertos y distribuirlos sin control. Afecta tanto a modelos de código abierto como, en menor medida, a sistemas cerrados de grandes compañías, que también mostraron fallos puntuales ante peticiones sensibles. Queda por ver si las empresas que publican modelos abiertos adoptarán medidas para dificultar esta manipulación.