Algoritmos podem causar efeitos parecidos aos das drogas em usuários das redes sociais

“Existem apenas duas indústrias que chamam seus clientes de ‘usuários’: a de drogas ilegais e a de software”. A frase do professor Edward Tufte, da Universidade de Yale, está no coração do documentário “O Dilema das Redes”. Apesar de ter provocado comoção quando a Netflix o lançou, em 2020, acontecimentos recentes ampliam o impacto da declaração.

No último dia 25, o Tribunal Superior da Califórnia decidiu que as redes sociais viciam seus usuários. A conclusão mais importante do júri foi que isso se dá menos pelo efeito de conteúdos nocivos publicados pelos usuários e mais pelos algoritmos de relevância e pelo design persuasivo dessas plataformas, que seriam conscientemente construídos para manter as pessoas “engajadas”.

Quando “O Dilema das Redes” foi ao ar, muita gente inteligente e bem-informada cancelou suas contas nas redes sociais. Tudo porque o documentário explica, de maneira didática, como seus mecanismos deliberadamente manipulam os usuários de maneiras tão profundas quanto sutis, na chamada “economia da atenção”.

Apesar de não trazer nada que estudiosos e a imprensa já não debatessem de maneira extensa, o programa agrupou profissionais de destaque nas big techs, muitos deles criadores de alguns desses recursos viciantes. E lá estavam eles, dizendo com todas as letras que as empresas fazem isso conscientemente, mesmo às custas da saúde mental de seus usuários.

O depoimento de quem ajudou a criar o conceito de que “se você não está pagando pelo produto, você é o produto” tem um peso enorme. Por isso, muitas pessoas estão comparando a decisão do júri californiano da semana passada com outra, de 1998, contra a indústria do cigarro.

Hoje todo mundo sabe que cigarros viciam e provocam severos danos à saúde. Já se sabia disso na década de 1990, e estudiosos e a imprensa debatiam sobre esses males publicamente, assim como fazem hoje com os problemas associados às redes sociais.

A indústria do tabaco também sabia disso, mas manipulava quimicamente seus cigarros para torná-los ainda mais viciantes. E nada disso impediu seus executivos de negar tudo categoricamente, inclusive em depoimentos ao Congresso americano.

Isso mudou em 1995, quando Jeffrey Wigand, ex-pesquisador-chefe da fabricante Brown & Williamson, depôs em um processo do Estado americano do Mississippi contra essa indústria, que pedia reembolso de gastos com saúde associados ao fumo. O cientista detalhou práticas conscientes de ampliação química do vício e a decisão de não desenvolver cigarros mais seguros.

A empresa então brutalmente destruiu a vida de Wigand. Sua reputação foi reabilitada pela Justiça americana e pela histórica entrevista ao programa jornalístico “60 Minutes”, da CBS. Vale dizer que, apesar de gravada em 1995, ela só foi ao ar em 4 de fevereiro de 1996, pois a Brown & Williamson ameaçou a emissora com um processo milionário.

“Nós somos um negócio de entrega de nicotina”, disse Wigand. O âncora, Mike Wallace, lhe sugeriu “coloque na boca, acenda e você vai conseguir a sua dose” e ele confirmou: “isso permite que a nicotina seja absorvida mais rapidamente nos pulmões e assim afete o cérebro e o sistema nervoso central”.

O trabalho da imprensa foi fundamental para desfazer as acusações contra Wigand, especialmente o de Lowell Bergman, produtor do “60 Minutes”. Essa história foi retratada no filme “O Informante” (1999), com Russell Crowe interpretando Wigand e Al Pacino como Bergman.

Tanto no caso dos cigarros quanto no das redes sociais, esses processos são essenciais para se ter acesso a documentos internos que descrevem como as empresas sabem dos riscos que impõem a seus clientes (ou “usuários”) e, ainda assim, não tomam medidas para protegê-los quando isso contraria seus negócios.

Ninguém discute que as plataformas digitais também oferecem benefícios incríveis às pessoas. Mas o preço que a sociedade está pagando é muito alto, com a explosão de ansiedade e depressão, que levam a desfechos mais trágicos, como suicídios associados ao uso dessas plataformas.

Toda empresa, de qualquer setor, deve se responsabilizar pelas consequências de seus produtos. As redes sociais, até agora, conseguem se desviar disso, a despeito da farta documentação e depoimentos. Isso demonstra o seu poder de convencimento sem precedentes e a força de seu lobby.

Precisamos de um novo Wigand.

Vídeo relacionado:

Share this content: