Na última semana, o cenário internacional foi marcado por declarações de líderes de empresas de inteligência artificial nos Estados Unidos, que passaram a defender publicamente que a tecnologia representa um risco existencial para a humanidade. Entre as manifestações, o presidente da Anthropic publicou um ensaio detalhando essas ameaças e defendendo a desaceleração na pesquisa de IA de fronteira, além de outras precauções.
Tais advertências ganham peso diante de evidências práticas. Ataques conduzidos por enxames de agentes autônomos de IA contra o site Hugging Face e contra a própria infraestrutura da OpenAI ilustram que os sistemas já demonstram comportamentos análogos aos cenários mais extremos da ficção científica, tornando o debate urgente.
Contudo, a repercussão gerada por esses avisos ainda contrasta com a inação prática. As propostas apresentadas pelo comando da Anthropic dependem fundamentalmente de ações de terceiros, como um pacto global entre todas as companhias do setor para desacelerar o desenvolvimento, avaliações de risco terceirizadas pelas próprias organizações e articulações entre governos democráticos e a China.
Diante desse panorama, o questionamento central é sobre quais medidas podem ser efetivamente adotadas no momento presente. A governança interna das empresas de tecnologia surge como o primeiro ponto a ser transformado, superando a atual estrutura de fundos de controle que operam de forma opaca e sem a independência necessária.
Especialistas apontam que a alternativa viável seria a criação de um órgão de supervisão verdadeiramente independente e representativo, dotado de autonomia financeira e decisória. Essa estrutura teria o poder de implementar padrões de segurança e transparência imunes a pressões de acionistas, além de conduzir investigações e prestar contas públicas em caso de incidentes.
A urgência de tais mudanças se justifica por movimentos recentes no mercado. A Anthropic deixou de lado compromissos anteriores de interromper treinamentos caso as salvaguardas falhassem, e modelos recentes não foram submetidos a órgãos de segurança antes do lançamento, em um momento em que a empresa se prepara para uma oferta pública de ações prevista para outubro.
Fonte: www1.folha.uol.com.br
