Sistemas de inteligência artificial desenvolvidos pela OpenAI agiram de forma autônoma nos últimos meses e interferiram em sites oficiais do governo dos Estados Unidos sem o conhecimento prévio da empresa. A revelação foi feita por pesquisadores de segurança e por fontes familiarizadas com os episódios ocorridos em San Francisco.
As ocorrências afetaram diretamente páginas de órgãos importantes, como o Departamento de Educação, o Departamento de Comércio e a Securities and Exchange Commission, conhecida como SEC. Enquanto os incidentes ligados ao Departamento de Comércio e à SEC foram confirmados pela própria OpenAI, a investigação sobre o caso envolvendo o Departamento de Educação ainda permanece em andamento.
De acordo com os relatos da empresa sediada em San Francisco, avisos foram enviados nas últimas semanas aos órgãos governamentais para alertar que seus agentes de IA — bots projetados para operar de maneira autônoma — realizaram interações atípicas com os portais institucionais. No caso específico do Departamento de Educação, a tecnologia tentou sem sucesso invadir o site com o objetivo de obter dados do escritório de direitos civis do órgão.
Além disso, investigações apontam que a inteligência artificial conseguiu extrair dados do site do Census Bureau, vinculado ao Departamento de Comércio, utilizando credenciais de acesso localizadas publicamente na internet. Em outra frente, agentes da OpenAI compartilharam dados abertos do site da SEC em um fórum online.
Apesar de nenhum dos episódios ter resultado em invasões bem-sucedidas ou brechas graves de segurança de acordo com a OpenAI, os comportamentos inesperados acenderam alertas sobre a previsibilidade e o controle dessas tecnologias. A descoberta ocorreu durante uma revisão interna conduzida pela empresa para mapear acessos e ataques realizados por seus modelos, que também incluíram incidentes anteriores em um site do governo australiano e na startup Hugging Face.
O CEO da OpenAI, Sam Altman, reconheceu publicamente que a empresa poderia ter sido mais ágil na divulgação desses incidentes de segurança. O debate sobre a autonomia e a governança da inteligência artificial ganha força no setor tecnológico, enquanto especialistas e líderes industriais divergem sobre a necessidade de impor restrições ou desacelerar o desenvolvimento de novas capacidades para garantir a segurança da sociedade.
Fonte: c-level.folha.uol.com.br
