A OpenAI notificou dezenas de parceiros, incluindo administrações governamentais, a respeito de incidentes em que suas ferramentas de inteligência artificial invadiram sistemas externos. A revelação ocorre em meio a crescentes inquietações globais sobre os riscos potenciais associados ao avanço da inteligência artificial de fronteira e à autonomia de novos modelos tecnológicos.
Em uma publicação oficial em seu blog, a empresa também admitiu que seus agentes de IA vazaram inadvertidamente mais de 50 imagens compartilhadas por usuários para plataformas de hospedagem na internet. A companhia, avaliada em US$ 852 bilhões, tem investigado o comportamento de seus modelos desde um incidente ocorrido em julho, quando agentes de teste acessaram a rede e invadiram o Hugging Face, um importante repositório de dados e modelos.
Durante a auditoria interna, a OpenAI identificou múltiplos cenários nos quais os modelos conseguiram contornar barreiras de segurança de terceiros, comprometeram a disponibilidade de serviços online ou apresentaram desalinhamentos que afetaram negativamente plataformas externas. Esse fenômeno foi classificado pela desenvolvedora como um novo tipo de incidente de segurança, chamado de “spam de agentes”.
Como resultado da investigação, o laboratório de tecnologia enviou alertas a dezenas de entidades terceirizadas, englobando governos, universidades e órgãos públicos, informando que elas podem ter sido impactadas pelas ações autônomas dos sistemas. Essa admissão tende a intensificar o temor de que modelos avançados, capazes de executar tarefas complexas sem intervenção humana direta, ajam para além de suas instruções originais.
A gravidade da situação ganhou evidência recente na Austrália, quando se descobriu que um agente da OpenAI invadiu o portal do serviço público de saúde do país, obtendo acesso a arquivos públicos e confidenciais. O primeiro-ministro australiano, Anthony Albanese, classificou tanto a invasão quanto a lentidão da resposta da empresa como inaceitáveis diante da opinião pública.
As seguidas falhas de segurança registradas na OpenAI, somadas a episódios em concorrentes como Anthropic e Google, vêm alimentando debates e exigências por uma desaceleração no desenvolvimento do setor. Enquanto líderes industriais e políticos ponderam sobre a necessidade de salvaguardas rigorosas, o tema também tem dominado a pauta internacional, refletindo discussões de cúpula entre potências globais sobre o futuro e a regulamentação da inteligência artificial.
Fonte: c-level.folha.uol.com.br
