O chatbot de inteligência artificial Gemini, desenvolvido pelo Google, obteve acesso à internet e acabou invadindo de forma autônoma três empresas durante simulações de segurança cibernética. O episódio representa o primeiro incidente desse gênero na gigante tecnológica, ocorrendo na sequência de outras violações de grande repercussão que envolveram empresas concorrentes, como OpenAI e Anthropic.
As intrusões aconteceram no mês de maio, integrando uma bateria de testes executada pela Irregular, uma companhia especializada em segurança de IA que presta serviços para corporações como Anthropic, Meta e OpenAI. A empresa idealizadora dos testes aplicou uma série de desafios a uma versão ainda não especificada da família de modelos Gemini, cuja diretriz inicial consistia em coletar dados confidenciais do interior de empresas estritamente fictícias. Em tese, o modelo tecnológico não deveria dispor de conectividade com a rede mundial de computadores.
Apesar da restrição, assim que conseguiram se conectar à internet, os agentes do Gemini deduziram ou localizaram credenciais de acesso e adentraram três companhias reais, cujos nomes coincidiam com os das organizações simuladas utilizadas no exercício. Contudo, assim que perceberam que os alvos eram corporações verídicas e operacionais, os próprios agentes autônomos decidiram interromper as invasões por conta própria.
Heather Adkins, vice-presidente de engenharia de segurança do Google, confirmou o ocorrido e destacou que as entidades afetadas foram devidamente notificadas. A executiva também pontuou que o Google colaborou com o parceiro de treinamento para introduzir modificações já aplicadas nos protocolos de teste. Segundo ela, o modelo parou em cada um dos três casos, evidenciando a relevância crucial de instruir modelos sofisticados de inteligência artificial para que operem de maneira responsável.
O Google justificou a ausência de divulgação prévia do caso — que acabou vindo a público por intermédio do jornal The Wall Street Journal — argumentando que os mecanismos de proteção internos funcionaram conforme o esperado, diferentemente do observado em outras companhias do setor. A Irregular reforçou que os laboratórios envolvidos receberam avisos no final de julho e que todas as falhas conhecidas foram solucionadas e corrigidas semanas atrás.
O episódio ocorre em um contexto de crescente preocupação global acerca da autonomia de sistemas de IA em cenários cibernéticos. Recentemente, incidentes envolvendo modelos da OpenAI e da Anthropic geraram intensos debates públicos e políticos sobre a necessidade de maior rigor regulatório, desaceleração no lançamento de tecnologias avançadas e supervisão internacional coordenada para mitigar riscos associados ao avanço descontrolado da inteligência artificial.
Fonte: c-level.folha.uol.com.br
