O Supremo Tribunal Federal (STF) decidiu permitir que plataformas digitais sejam responsabilizadas judicialmente pelos conteúdos que veiculam, quando esses conteúdos, mesmo se gerados por usuários, configurarem “crime ou atos ilícitos”, ou se encaixarem em categorias como “incitação à discriminação em razão de raça, cor, etnia, religião, procedência nacional, sexualidade ou identidade de gênero” ou “condutas e atos antidemocráticos”.
Dado que hoje em dia é virtualmente impossível praticar com sucesso o charlatanismo médico sem uma conta no Instagram, será curioso acompanhar o impacto da parte sobre “crimes ou atos ilícitos” no mercado de falsas curas do câncer e das dietas milagrosas.
Mas não é esse o aspecto da decisão que tem chamado mais atenção do debate público: de fato, a conversa sobre o assunto na esfera pública parece clivada em dois campos, com um par de focos muito bem determinados, que ignoram os argumentos um do outro. De um lado, a grande imprensa e os textos opinativos de grande circulação alertam para a ameaça à liberdade de expressão. De outro, acadêmicos lembram que as redes não são plataformas neutras em relação ao conteúdo que veiculam, mas sim sócias que faturam com o engajamento gerado por fraudes, mentiras e discurso de ódio.
Os dois campos têm sua parcela de razão. Diante do pendor do Judiciário brasileiro para transformar censura em loteria, a existência de critérios subjetivos como “condutas e atos antidemocráticos” – lamentar o resultado de uma eleição seria “conduta antidemocrática”? – preocupa e gera insegurança. Mas também preocupa a insistência dos formadores de opinião em fingir que o controle editorial que as plataformas exercem sobre o conteúdo que veiculam (ao decidir, por exemplo, quais postagens terão maior circulação e serão vistas por mais pessoas) não implica algum nível de cumplicidade e responsabilidade pelas eventuais repercussões desse material. O exercício irresponsável do poder é um problema tanto quando vem do Estado quanto de agentes privados.
Vilania
A história da indústria do tabaco está cheia de momentos de pura vilania. Há o infame memorando de 1969 de autoria de um executivo, que até hoje permanece anônimo, delineando, pela primeira vez, uma estratégia clara de mentiras e negação científica. "A dúvida é o nosso produto", diz a linha mais infame do documento. Há evidência abundante de que, pelo menos desde o início da década de 1960, a indústria sabia que as pessoas fumavam não porque os cigarros são prazerosos, mas porque a nicotina é uma droga viciante.
Talvez os documentos internos e pesquisas de empresas como Meta e X (antiga Twitter) sejam divulgados algum dia. Nesse caso, é líquido e certo que confissões de pura malevolência, como as encontradas nos papéis do cigarro, surgirão (já tivemos um gostinho do vazamento de documentos do Facebook há alguns anos). Se semear dúvidas espúrias sobre os efeitos do tabagismo na saúde humana é o negócio das empresas de tabaco (e hoje mais uma vez, agora com novos produtos), incentivar as chamas do ódio é o ganha-pão das redes sociais.
Não é que o Facebook ou o Instagram tenham sido criados para fazer as pessoas se odiarem, ou para destruir o debate educado. Acontece que, uma vez prontos e funcionando, ficou claro para seus administradores que o ódio era o lubrificante perfeito, a maneira mais fácil de manter as pessoas engajadas. E engajamento é o segredo do sucesso. Todo o resto — incluindo a ineficácia deliberada dos esforços para moderar o conteúdo — decorre desse simples fato.
Em seu livro sobre desinformação, Foolproof, o psicólogo Sander van der Linden tem a dizer o seguinte a respeito do Facebook:
“De fato, em uma apresentação de 2016, Monica Lee, uma cientista de dados líder e especialista em aprendizado de máquina no Facebook, mencionou que pesquisas internas determinaram que '64 por cento de todas as 'entradas em grupos extremistas' são devidas às nossas ferramentas de recomendação', incluindo os algoritmos 'Grupos que Você Deve Participar' e 'Descubra'”.
E, na página seguinte:
"O próprio Mark Zuckerberg publicou o seguinte gráfico em um post público, observando que o engajamento com o conteúdo no Facebook aumenta drasticamente à medida que se aproxima do 'limite de nossa política' sobre o que é conteúdo permitido. Ele disse, especificamente: 'nossa pesquisa sugere que não importa onde tracemos os limites para o que é permitido, à medida que um conteúdo se aproxima desse limite, as pessoas se envolverão mais com ele, em média, mesmo quando nos dizem depois que não gostaram do conteúdo'”.
Este é o gráfico (adaptado do livro Foolproof, de Sander van der Linden):
Pesquisas mais recentes tendem não apenas a confirmar isso, mas a mostrar que os espalhadores de desinformação já sabem que a indignação é a chave para o engajamento, e estão explorando o fato. De um artigo recente, publicado na Science:
“Em comparação com fontes de notícias confiáveis, postagens de fontes de desinformação evocaram mais reações de raiva e indignação do que sentimentos felizes ou tristes. Os usuários são motivados a compartilhar novamente o conteúdo que evoca indignação, e o compartilham sem lê-lo primeiro para avaliar sua precisão”.
Extremismo
Há também dados que mostram que os extremistas políticos dominam o discurso online sobre política, o que pode distorcer a percepção pública do nível real de polarização social. Como um artigo de 2024 resume:
“De fato, 97% das postagens políticas do Twitter/X vêm de apenas 10% dos usuários mais ativos nas mídias sociais, o que significa que cerca de 90% das opiniões políticas da população estão sendo representadas por menos de 3% dos tweets online (...)”
Este artigo na Nature mostra que a maioria dos links compartilhados no Facebook é “compartilhada sem cliques” (em outras palavras, as pessoas apenas passam o conteúdo adiante, sem se dar ao trabalho de lê-lo ou verificá-lo) e que a maior parte do material “compartilhado sem cliques” é “conteúdo político extremista e alinhado ao usuário”.
Não vamos nos esquecer de que a força vital das redes sociais é o conteúdo – textos, comentários, vídeos, imagens – criados gratuitamente por usuários. Se os mais produtivos e populares desses criadores não remunerados são trolls e extremistas (ou, a propósito, charlatães e golpistas), tornar a vida dessas pessoas muito difícil não vai maximizar o retorno para os acionistas.
Nada pessoal
Nenhum dos fatos acima responde a perguntas como: as redes sociais criam ativamente ódio e divisão? Ou elas apenas explicitam o ódio e a divisão que já existem? Ou talvez elas amplifiquem esses males sociais?
Promover ódio é o negócio das redes porque a natureza humana simplesmente é do jeito que é e, infelizmente, as pessoas parecem ter um relacionamento obsessivo-compulsivo com conteúdo fescenino e falsas promessas.
As redes abraçaram a paixão humana por tribalismo e ignoraram sua responsabilidade pelos impactos negativos – assim como as empresas de tabaco abraçaram o caráter viciante de seu produto e ignoraram o câncer de pulmão, o enfisema e a morte dolorosa.
Falhas fundamentais do caráter humano, somadas à estrutura de incentivos tal como existe atualmente, conspiram para criar o estado atual da conflagração permanente, no discurso político, e da promoção em escala industrial de fraudes e ignorância, no discurso sobre ciência e saúde.
Tal estrutura de incentivos precisa, portanto, mudar. A decisão atual do STF pode muito bem ser, como dizem seus críticos, um passo errado – mas nem por isso deixa de ser uma tentativa de responder a uma necessidade concreta. A história da Humanidade é, entre outras coisas, uma longa cadeia de soluções inadequadas ou contraproducentes para problemas muito reais.
Talvez fosse mais produtivo se os que se debatem nas duas bolhas, a dos que minimizam o viés nocivo das redes e a dos que fazem pouco caso do viés voluntarista e autoritário da Justiça, saíssem de suas câmaras de eco e dessem o devido crédito aos argumentos e preocupações do pessoal ao lado.
Carlos Orsi é jornalista, editor-chefe da Revista Questão de Ciência, autor de "O Livro dos Milagres" (Editora da Unesp), "O Livro da Astrologia" (KDP), "Negacionismo" (Editora de Cultura) e coautor de "Pura Picaretagem" (Leya), "Ciência no Cotidiano" (Editora Contexto), obra ganhadora do Prêmio Jabuti, "Contra a Realidade" (Papirus 7 Mares) e "Que Bobagem!" (Editora Contexto). Uma versão anterior deste artigo foi publicada em https://carlosorsi.substack.com