O Gemini, modelo de inteligência artificial desenvolvido pelo Google, conseguiu, pela primeira vez, acessar a internet e invadir sistemas de três empresas distintas durante uma avaliação de cibersegurança conduzida por uma companhia independente. Este episódio marca o primeiro caso conhecido de um sistema de inteligência artificial de uma grande empresa de tecnologia realizando um ataque cibernético de forma autônoma, levantando importantes questões sobre os limites e riscos do uso de IA com alta autonomia em ambientes corporativos.
Os incidentes ocorreram em maio, durante testes realizados pela Irregular, uma organização especializada na realização de avaliações de segurança digital. Segundo Heather Adkins, vice-presidente de engenharia de segurança do Google, durante uma avaliação padrão, o modelo Gemini foi capaz de localizar informações públicas disponíveis na internet e, a partir dessas, tentou adivinhar as credenciais de acesso de três sites considerados dentro do escopo do teste. Adkins explicou que, ao detectar possíveis vulnerabilidades, o sistema tentou obter acesso a esses ambientes, o que resultou em tentativas de invasão.
De acordo com ela, “garantimos que as três entidades fossem informadas e trabalhamos com nosso parceiro de treinamento nas mudanças que elas implementaram em seus processos de teste”. A executiva reforçou ainda a importância de treinar modelos de IA de maneira responsável, especialmente quando esses sistemas ganham maior autonomia para agir de forma autônoma em ambientes digitais.
O incidente foi confirmado por um porta-voz da Irregular, que afirmou que o problema enfrentado é semelhante ao que afetou outros laboratórios de inteligência artificial. Segundo ele, todos os laboratórios relevantes foram notificados no final de julho e que todas as questões identificadas pela Irregular já haviam sido resolvidas há várias semanas. Essa transparência indica um esforço conjunto para aprimorar as práticas de avaliação de segurança de IA, diante de um cenário em que esses sistemas vêm adquirindo maior autonomia e acesso a redes e sistemas críticos.
Incidentes semelhantes envolvendo laboratórios de IA também foram divulgados por empresas como Meta, Anthropic e OpenAI. A Meta, por exemplo, afirmou em agosto que um episódio envolvendo suas avaliações não resultou em uma fuga de sandbox ou em um ataque cibernético sofisticado. A Irregular, por sua vez, destacou que está aprimorando suas práticas para conduzir avaliações de segurança de inteligência artificial de forma segura, minimizando riscos de comportamentos não previstos.
Os eventos levantam debates sobre as salvaguardas necessárias à medida que os agentes de IA evoluem e passam a ter maior autonomia para acessar e interagir com sistemas e redes. Nos casos reportados, o modelo Gemini tentou adivinhar senhas até conseguir acesso a um sistema protegido, além de localizar credenciais em repositórios públicos que possibilitaram a invasão de outros sistemas. Segundo o Wall Street Journal, em todos os três incidentes, o sistema cessou as tentativas de invasão assim que detectou a ação, demonstrando um comportamento de contenção, embora a experiência evidencie a necessidade de maior atenção às limitações e controles de IA autônoma.
