Busca pela superinteligência artificial esconde interesses, brigas, riscos e muita cortina de fumaça

Na quinta passada, durante a Cúpula de Impacto da IA em Nova Délhi, Sam Altman, CEO da OpenAI, e Dario Amodei, CEO da Anthropic, se recusaram a dar as mãos para uma foto em grupo, ao lado do primeiro-ministro indiano, Narendra Modi. Seria uma bobagem, se eles não liderassem as empresas criadoras do ChatGPT e do Claude, duas das principais plataformas de IA do mundo.

O gesto explicita a corrida insana pela superinteligência artificial, um cenário hipotético em que as máquinas teriam ampla autonomia operacional e seriam melhores que os seres humanos em quase todas as tarefas cognitivas. Quem chegar lá primeiro assumirá uma inigualável liderança econômica e política. Mas há sérios riscos que não podem ser ignorados nesse desenvolvimento.

De certa forma, essa concorrência desmedida contraria o que diz o documento final da cúpula indiana, que prega que “a promessa da IA só se realiza plenamente quando seus benefícios são compartilhados por toda a humanidade”. Mas vozes dissonantes nas próprias organizações afirmam que, para vencer essa disputa, empresas e governos estão perigosamente abandonando a ética e a segurança.

Isso vem provocando reações. Mustafa Suleyman, CEO da unidade de IA da Microsoft, fala de uma “superinteligência humanista”. Enquanto isso, mais de 135 mil pessoas, incluindo alguns dos principais pesquisadores da IA do mundo, como Geoffrey Hinton e Yoshua Bengio, já assinaram uma declaração que propõe o fim dessa corrida. No Brasil, o manifesto ContAIn Now sugere financiar uma infraestrutura de governança que torne a contenção da IA mais rentável do que a imprudência.

Como diz o ditado, “onde há fumaça, há fogo”. O encontro na Índia deixou claro os descomunais interesses econômicos e políticos, os conflitos, as possibilidades e os riscos em torno da IA. Diante de tudo isso, não podemos ser ingênuos ou catastrofistas se quisermos buscar soluções verdadeiramente sustentáveis.

Veja esse artigo em vídeo:

A existência da Anthropic é fruto desse desconforto. Ela nasceu de uma dissidência da OpenAI, quando Amodei e outros pesquisadores deixaram a empresa por discordarem do ritmo acelerado de comercialização e da suposta redução de foco na segurança. Foi um “racha” que marcou o início de uma divisão profunda na indústria entre quem quer avançar a qualquer custo e quem se preocupa com as consequências.

A Cúpula na Índia tentou vender a agenda de “Pessoas, Planeta, Progresso”. Mas, nos corredores, um intenso debate opunha as intenções de acelerar ou conter o desenvolvimento da IA, expandir sua capacidade ou estruturar limites. A promessa de democratização da tecnologia muitas vezes serviu apenas como “verniz diplomático” para esconder a tensão sobre quem deve, de fato, ditar as regras e conter os riscos.

A geopolítica permeou cada painel. A Índia buscou assumir a liderança do Sul Global na tecnologia, enquanto os EUA tratam a IA como uma corrida decisiva contra a China, afrouxando regras e ameaçando retaliar países que a regulem demais. A Europa, por sua vez, continua insistindo em marcos rígidos e o Brasil defendeu o multilateralismo e o desenvolvimento inclusivo.

Esses projetos colidem na prática. É inevitável questionar, portanto, se existe um ponto de convergência real ou se estamos apenas empilhando discursos bonitos sobre estruturas de poder que continuam profundamente autocentradas.

A corrida pela superinteligência é a versão atual da “tragédia dos comuns”. Ninguém tem incentivo para desacelerar sozinho. Mesmo quando as big techs admitem publicamente os perigos, elas continuam investindo bilhões para não perderem mercado, temendo que cautela se torne oportunidade de domínio do concorrente.

Marketing ou tecnologia humanista?

Suleyman propõe abrir mão de parte da capacidade para garantir o controle humano da IA. A ideia tem mérito ao reconhecer limites, mas também cumpre uma função estratégica, legitimando a Microsoft na corrida, ao afirmar que é possível ser rápido e também prudente, ainda que essa equação nunca tenha sido simples na tecnologia.

Pyr Marcondes, autor do ContAIn Now, reconhece que Suleyman é um dos pensadores mais sérios do setor, mas não poupa críticas a essa ideia. “Só o capital pode deter o capital e só a IA pode deter a IA”, afirma.

O movimento propõe uma via pragmática em que a governança seja estrutural e financeira. A ideia é construir um ecossistema que transforme o cumprimento de normas de segurança e auditoria em um mercado rentável, semelhante ao que ocorreu com a conformidade ambiental. “A solução não é convencer pessoas a serem mais responsáveis, e sim construir sistemas em que a responsabilidade seja economicamente recompensada e a irresponsabilidade seja penalizada”, acrescenta.

Não seria a primeira vez que veríamos conceitos éticos serem reduzidos a slogans. “IA ética” tornou-se peça de marketing e “IA responsável” criou departamentos de conformidade com pouco poder. Agora, “humanista” corre o risco de ser a nova camada retórica aplicada à superinteligência artificial.

Quando um executivo fala em “humanismo” sem definir como será feita a auditoria ou quem será responsabilizado por falhas, pode estar simplesmente “comprando tempo” para consolidar sua posição. Sem critérios técnicos que permitam aos humanos entender a lógica interna dos algoritmos (a chamada interpretabilidade), a promessa de controle continua sendo uma fronteira nebulosa e perigosa.

Dizer que “estamos à beira da extinção” simplifica demais um problema complexo, assim como acreditar que “o mercado resolverá tudo de forma espontânea” é uma ingenuidade grotesca. Talvez o ponto mais honesto dessa discussão seja assumir que os próprios desenvolvedores admitem que não possuem garantias totais de controle sobre o que estão criando, mas a inércia competitiva os impede de pisar no freio.

A questão central para o nosso futuro não é se a inteligência artificial será transformadora, pois essa transição já ocorreu e molda o nosso presente. O verdadeiro desafio civilizacional é se conseguiremos construir, com a mesma agilidade com que expandimos a capacidade das máquinas, uma arquitetura política e econômica capaz de sustentá-la com ética e dignidade humana.

Esse desafio só poderá ser superado nos parlamentos, nas empresas, nas universidades e nas ruas, pelos mesmos humanos que a superinteligência artificial promete superar.

Share this content: