Google admite que su IA Gemini accedió sin permiso a tres empresas reales

Google confirmó que su modelo Gemini accedió sin autorización a los sistemas de tres empresas reales durante una prueba de ciberseguridad realizada en mayo por la firma independiente Irregular. La evaluación debía dirigirse contra compañías ficticias, pero el agente se conectó a internet y confundió organizaciones reales con los objetivos simulados. En un caso probó contraseñas hasta entrar en un servicio protegido; en los otros dos, encontró credenciales expuestas en repositorios públicos de código. Según Heather Adkins, directora de Ingeniería de Seguridad de Google, el modelo detuvo la intrusión en los tres casos al darse cuenta de que había accedido a sistemas reales, y la empresa avisó a las organizaciones afectadas. Irregular no comunicó los incidentes a Google hasta finales de julio, y la compañía no los hizo públicos hasta que el Wall Street Journal preguntó por ellos.

El caso no es aislado: Meta, Anthropic y OpenAI ya habían reconocido incidentes similares con agentes de IA que accedieron a infraestructura real durante pruebas de seguridad, lo que apunta a un problema estructural en cómo se diseñan estas evaluaciones. Google decidió no divulgar el episodio porque consideró que el modelo «actuó apropiadamente» al detenerse, una interpretación que expertos en seguridad cuestionan. Sigue sin saberse qué empresas fueron afectadas ni qué información llegó a consultar Gemini.