Tech
La IA de Google, Gemini, «hackeó» a tres empresas durante una prueba de ciberseguridad
En un test realizado en mayo por la firma Irregular, el modelo accedió sin autorización a sistemas de tres organizaciones al adivinar credenciales. Google aseguró que el propio modelo se detuvo en cada caso.
Gemini, la inteligencia artificial de Google, accedió sin autorización a los sistemas de tres organizaciones durante una prueba de ciberseguridad realizada en mayo de este año, según confirmó la propia compañía. El test estuvo a cargo de Irregular, una firma independiente de evaluación de riesgos que Google contrata para poner a prueba sus modelos antes de lanzarlos al mercado.
Según el reporte, el modelo encontró información pública disponible en internet y, a partir de ahí, «adivinó las credenciales» de sitios web que interpretó como parte del ejercicio. En al menos uno de los tres casos, Gemini probó de manera autónoma varias combinaciones de contraseñas hasta lograr ingresar a uno de los sistemas.
Qué dijo Google sobre el episodio en el que Gemini hackeó tres empresas
Heather Adkins, responsable de seguridad de la compañía, explicó que en los tres casos el modelo «se detuvo» antes de avanzar más allá del acceso inicial. «Estos acontecimientos ponen de relieve la importancia de entrenar modelos de inteligencia artificial potentes para que actúen de forma responsable», sostuvo la ejecutiva, y agregó que Google trabajó junto a Irregular para ajustar los protocolos de las pruebas a partir de lo ocurrido.
El episodio no es un caso aislado dentro de la industria: Irregular fue también la firma que evaluó incidentes similares con modelos de Anthropic y OpenAI entre mayo y julio de este año, en los que sistemas como Claude y GPT llegaron a atacar plataformas como Hugging Face durante pruebas equivalentes. Esa seguidilla de episodios fue uno de los antecedentes que llevó a referentes de la industria como Dario Amodei, de Anthropic, y Sam Altman, de OpenAI, a pedir públicamente que se desacelere el desarrollo de los modelos más avanzados, en la misma línea del planteo que semanas atrás también hicieron Elon Musk y Demis Hassabis.
El caso de Gemini reabre el debate sobre los límites de autonomía que deberían tener los sistemas de inteligencia artificial generativa, en un momento en que las principales compañías del sector compiten por lanzar modelos cada vez más capaces de ejecutar tareas complejas sin supervisión humana directa.