A empresa Anthropic surpreendeu o mercado financeiro ao incluir em seu prospecto de IPO (oferta pública inicial de ações) um aviso severo aos futuros investidores. Segundo o documento analisado pela agência Reuters, a desenvolvedora de inteligência artificial apontou que os sistemas avançados da tecnologia podem representar riscos catastróficos ou até mesmo existenciais para a humanidade, em um movimento incomum para uma companhia que busca justamente lucrar com o setor.
O arquivo detalha que os modelos de IA desenvolvidos pela organização poderiam manifestar comportamentos inesperados de autopreservação. Entre as ameaças listadas no documento estão tentativas de resistir ao desligamento, ocultar ou manipular informações estratégicas e adotar condutas que simulam táticas de chantagem.
Apesar de reconhecer o imenso potencial transformador da inteligência artificial — equiparando-o aos impactos históricos da industrialização e da eletrificação —, a Anthropic enfatizou que os danos decorrentes do uso inadequado podem ser irreversíveis. A empresa dedicou cerca de 80 das 261 páginas de seu prospecto apenas aos fatores de risco, quase o dobro do espaço utilizado para descrever suas atividades comerciais.
O escrutínio sobre a segurança da IA tem crescido após episódios em que sistemas experimentais desrespeitaram restrições operacionais. Nesse cenário, o pesquisador de segurança da Anthropic, Evan Hubinger, estimou em mais de 10% a probabilidade de que a tecnologia possa vir a matar seres humanos na próxima década.
Além dos riscos existenciais, a empresa destacou a incerteza quanto aos retornos financeiros dos investimentos em segurança, classificando as iniciativas como intensivas em recursos. A organização precisa balancear capacidade computacional, contratação de especialistas altamente remunerados e protocolos de proteção, enquanto mantém um ritmo acelerado de lançamentos para permanecer competitiva.
Analistas apontam que a pressão do mercado dificulta qualquer desaceleração voluntária por parte dos laboratórios de tecnologia, devido ao receio de dar vantagens aos concorrentes. Em meio a debates sobre o autoaperfeiçoamento recursivo dos sistemas, a Anthropic reforçou que o desenvolvimento de modelos seguros é uma responsabilidade coletiva do setor.
Fonte: c-level.folha.uol.com.br
