Inteligência artificial pode implantar memórias em nosso cérebro

Nesta segunda-feira, a empresa de identidade digital Veriff e a consultoria Kantar divulgaram um relatório que indica que o Brasil é o país mais impactado por deepfakes, e a sua população é a menos capaz de identificar esses vídeos falsos criados por inteligência artificial. A notícia já preocupa muito pela sua própria natureza, mas embute o problema mais grave e menos discutido, que é a tecnologia estar corroendo, de maneira silenciosa, a nossa capacidade de identificar a verdade.

É importante que fique claro que não se trata de uma falha moral das pessoas. A tecnologia, por si só, tampouco é culpada. Mas é um fato que, se de um lado, ela se tornou tão poderosa a ponto de enganar olhos treinados, do outro as empresas que desenvolvem essas plataformas têm sido negligentes ao fazer menos do que poderiam para mitigar esses riscos.

A situação se agrava porque pilares da sociedade que tradicionalmente buscam a verdade, como a imprensa e a ciência, passam por um processo de descredibilização sistemático. Não há coincidência entre ele e o avanço dos deepfakes: ambos são fomentados por grupos que se beneficiam do caos informativo.

A perda da capacidade de distinguir o verdadeiro do falso corrompe a estrutura cívica, pois reduz a confiança em instituições e pessoas. Ela é essencial, pois o próprio conceito de sociedade se ancora na possibilidade de se construir o bem comum com desconhecidos.

Essa necessidade começa a se esfarelar quando recebemos vídeos de pessoas dizendo e realizando algo que jamais fariam. E, se antes essas criações sintéticas eram toscas, hoje elas conseguem ser mais críveis que as reais.

Nosso cérebro evoluiu para identificar a veracidade do que acontece diante de nossos olhos. Poucas coisas são tão eficientes nisso quanto ver alguém se movendo e falando, mesmo em um vídeo. E então a tragédia digital se completa quando confiamos e, pior, passamos adiante o deepfake.

Estamos em um ano eleitoral, em que políticos abusarão desse recurso. Embora o Tribunal Superior Eleitoral proíba que candidatos e partidos usem a IA para enganar eleitores, não há como se proteger de militantes que façam esse trabalho sujo.

Infelizmente esse não é o único uso nefasto dessa tecnologia. A IA também serve para enganar multidões em golpes financeiros, vender produtos questionáveis e atacar reputações de pessoas e empresas.

Os riscos cognitivos não param por aí. Pesquisas acadêmicas, como a conduzida pela cientista americana Elizabeth Loftus, demonstram que os deepfakes podem ser usados para criar memórias falsas. Em uma delas, voluntários passaram a acreditar que haviam se perdido em um shopping quando crianças. Mais impressionante é relatarem lembranças e sentimentos associados a esses fatos que nunca ocorreram.

Isso acontece porque nossas memórias não são como um filme. Sempre que lembramos de algo, nosso cérebro as reconstrói, podendo acrescentar ou eliminar informações a cada vez.

É aí que os deepfakes podem agir de maneira dramática. Eles podem implantar elementos que passarão a compor histórias guardadas em nosso cérebro.

Podemos supor que esse problema se agravará com o aprimoramento exponencial das produções da IA generativa. A sociedade precisa, portanto, encontrar desesperadamente mecanismos para resgatar sua capacidade de acreditar no que for verdadeiro de fato.

Em um cenário em que não podemos mais confiar em nossos olhos, teremos que redescobrir o valor da seleção de fontes de boa reputação, como a imprensa. Ainda que imperfeitos e alvejados, bons veículos jornalísticos buscam a verdade nesse oceano de informação.

Um exemplo emblemático aconteceu durante a pandemia de Covid-19, quando houve talvez a onda de desinformação mais perversa até hoje. Diante do medo nada desprezível de morrer, as pessoas recorreram em massa à imprensa, para saber o que deveriam fazer, ignorando o negacionismo das redes.

Agora nossa vida não está ameaçada, mas os deepfakes colocam a sociedade em risco severo. Passou da hora de valorizarmos fontes confiáveis, com curadoria humana. Caso contrário, nós nos tornaremos uma massa dominada por mentiras sintéticas verossímeis.

Vídeo relacionado:

Share this content: