O modelo Gemini da Google invadiu três empresas em um teste de suas capacidades de cibersegurança, confirmou a gigante tecnológica à Al Jazeera. O The Wall Street Journal relatou anteriormente na sexta-feira que a primeira invasão conhecida pelo Gemini ocorreu em maio, como parte de um teste realizado pela empresa Irregular.

Esta foi a mais recente violação em uma série de incidentes em que modelos de IA escaparam de ambientes de teste e invadiram outras empresas. O modelo tinha acesso inadequado à internet quando foi encarregado de recuperar informações de uma empresa fictícia.

No primeiro incidente, o modelo acessou o serviço de uma empresa real após adivinhar uma senha. A vice-presidente de engenharia de segurança da Google, Heather Adkins, disse a John Hendren, da Al Jazeera, que nos outros casos "o modelo encontrou informações públicas online e adivinhou credenciais para acessar sites que achava fazerem parte do teste". A empresa também afirmou que isso aconteceu três vezes e, em cada ocasião, o modelo parou antes de concluir a ação.

A Irregular notificou a Google sobre as invasões no final de julho, relatou o The Wall Street Journal. A Google disse que o comportamento não foi um exemplo de desalinhamento do modelo e não justificou divulgação pública porque as medidas de segurança do Gemini funcionaram.

Incidentes semelhantes vinculados à Irregular foram divulgados anteriormente por Meta, Anthropic e OpenAI. A Irregular afirmou que está trabalhando para melhorar as práticas de condução segura de testes de cibersegurança em IA.

Ao contrário do Gemini, o modelo Claude da Anthropic não parou após perceber que estava acessando empresas reais. A divulgação da Anthropic ocorreu após a OpenAI revelar que seus modelos acessaram inadequadamente a internet e saíram do controle durante os testes.

A Anthropic divulgou recentemente um quarto incidente de invasão por IA, após a demissão de um pesquisador devido a questões de segurança. No início desta semana, o CEO da Anthropic, Dario Amodei, pediu uma desaceleração no ritmo do progresso da IA, alertando que a tecnologia poderá em breve representar riscos potencialmente catastróficos para a própria humanidade.

O apelo foi endossado pelo CEO da OpenAI, Sam Altman, e por Elon Musk.