O risco de retrocessos no sistema de moderação da Meta

Na Terra-média de J.R.R. Tolkien, os Anéis do Poder foram forjados com a promessa de trazer ordem e unidade a um mundo dividido. No entanto, sob a superfície dessa promessa brilhava uma intenção mais sombria: concentrar o poder nas mãos de poucos e manipular o destino de muitos. A história nos ensina que, sem vigilância, até as mais nobres intenções podem ser corrompidas. Da mesma forma, no vasto território digital contemporâneo, as recentes mudanças anunciadas por Mark Zuckerberg nas plataformas da Meta evocam reflexões profundas sobre o equilíbrio entre liberdade, poder e responsabilidade.

Mark Zuckerberg anunciou mudanças significativas no sistema de moderação das plataformas Meta, argumentando que essas alterações devolverão às redes sociais o propósito inicial de promover a liberdade de expressão. Entre as medidas estão a substituição dos verificadores de fatos por Community Notes, a simplificação das políticas de conteúdo, a reformulação dos métodos de moderação e a reintrodução de conteúdo cívico. Ele também anunciou a descentralização das equipes de moderação e uma colaboração mais estreita com governos para resistir à censura. À primeira vista, essas mudanças podem parecer um avanço em direção à transparência e à democratização do controle sobre os conteúdos. No entanto, uma análise mais detalhada revela riscos que não podem ser ignorados.

Este artigo reconhece que pode ser acusado de adotar uma postura excessivamente crítica às propostas de Zuckerberg, destacando mais os riscos e desafios do que as possíveis vantagens. No entanto, assim como os povos da Terra-média tiveram que questionar os verdadeiros propósitos por trás do Um Anel, é fundamental que problematizemos essas mudanças no sistema de moderação da Meta para garantir que seus potenciais perigos não sejam subestimados. Em uma análise preliminar de um tema tão complexo, é crucial trazer à tona os possíveis perigos associados a essas mudanças. Afinal, são as consequências indesejadas das inovações — especialmente aquelas com o alcance global da Meta — que frequentemente moldam os debates mais importantes e as decisões que
impactam o futuro da sociedade.

Zuckerberg defendeu a substituição dos verificadores de fatos por um sistema descentralizado de Community Notes como uma maneira de democratizar a moderação e fortalecer a confiança nas plataformas, transferindo o poder de decisão para a própria comunidade. Ele argumenta que esse sistema reduz o viés político e institucional, reduzindo erros cometidos por equipes centralizadas, ampliando a transparência e a diversidade de perspectivas e permitindo uma maior participação dos usuários na verificação de informações. Essa abordagem, em teoria, é alinhada ao ideal de uma internet mais aberta e participativa.

Diante disso, uma crítica comum poderia ser que este artigo subestima o potencial positivo do Community Notes, apresentando apenas cenários problemáticos. Admitimos que, em um mundo ideal, a descentralização da moderação pode, de fato, levar a decisões mais representativas e a uma redução do viés percebido. No entanto, a experiência passada com iniciativas semelhantes levanta preocupações graves. Um estudo conduzido pelo Oxford Internet Institute demonstrou que campanhas coordenadas de desinformação são capazes de explorar bolhas digitais e câmaras de eco para disseminar ou amplificar informações falsas e manipular o debate público.

Durante as eleições de 2016 nos Estados Unidos, por exemplo, a propagação de notícias falsas no Facebook teve efeitos documentados na polarização política e no resultado eleitoral. O mesmo aconteceu no Brasil nas eleições de 2018. A ausência de moderação ou curadoria especializada pode deixar o sistema vulnerável à manipulação, amplificando a
desinformação, influenciando diretamente a percepção pública e enfraquecendo a qualidade do debate político. 

Além disso, a dependência de contribuições voluntárias, sem supervisão técnica robusta, pode criar lacunas de qualidade, permitindo que informações incorretas sejam validadas pela maioria.

Zuckerberg também propõe a simplificação das políticas de conteúdo, removendo restrições em tópicos sensíveis, como imigração e gênero, com o objetivo de criar um ambiente mais aberto para debates. Ele argumenta que políticas excessivamente restritivas criam barreiras para discussões legítimas e alienam usuários com opiniões divergentes, inibindo a liberdade de expressão. Essa mudança busca devolver às plataformas o papel de arenas de debate plural e democrático. À primeira vista, a proposta soa como uma tentativa válida de evitar a censura e encorajar a pluralidade de opiniões.

É verdade que a simplificação de políticas pode facilitar discussões mais livres, e isso é uma virtude importante em um ambiente democrático. Aqui, o leitor poderia argumentar que a crítica apresentada neste texto enfatiza excessivamente os riscos dessa abordagem sem dar o devido peso à necessidade de liberdade de expressão nas redes sociais.

Entretanto, a simplificação excessiva das políticas pode ter o efeito oposto ao desejado. A história recente demonstra como a ausência de diretrizes claras pode levar à proliferação de discursos de ódio e desinformação. O relatório “Hate Speech Online”, da Human Rights Watch, documenta como a ausência de moderação adequada em plataformas digitais permitiu a disseminação de discursos de ódio que culminaram em violência e perseguição, como ocorreu em Myanmar contra minorias religiosas. A simplificação de políticas sem salvaguardas adequadas, sem diretrizes claras e específicas, não apenas abre espaço para a desinformação, mas também cria ambientes digitais inseguros e hostis, prejudicando usuários vulneráveis e reduzindo a confiança geral dos participantes.

A proposta de reformulação dos métodos de moderação, com foco em violações graves e ilegais, é justificada por Zuckerberg como uma tentativa de reduzir erros e permitir um ambiente mais livre para os usuários. Ele afirma que infrações menores não deveriam ser censuradas automaticamente e que os filtros automáticos devem ser ajustados para permitir um debate mais livre e espontâneo. Essa abordagem pode, de fato, reduzir a sensação de censura injusta em casos de menor gravidade e restaurar a confiança de usuários que já enfrentaram bloqueios automáticos equivocados. Reconhecemos que essa estratégia pode melhorar a experiência do usuário em situações específicas.

Um leitor atento poderia questionar por que este texto estaria então minimizando os benefícios potenciais dessa abordagem, ao focar quase exclusivamente nos riscos. No entanto, os riscos de reduzir a moderação de infrações menores não podem ser subestimados. Durante a pandemia de Covid-19, a hesitação vacinal foi alimentada por desinformação sobre tratamentos falsos e teorias conspiratórias amplamente disseminada em plataformas sociais, muitas vezes decorrente de falhas na moderação de conteúdos aparentemente inofensivos. Estudos publicados no Journal of Medical Internet Research mostram que a desinformação sobre saúde pública em redes sociais resultou em impactos tangíveis na vacinação, agravando crises sanitárias. O relaxamento de filtros automáticos e a menor intervenção em infrações menores podem permitir que conteúdos prejudiciais se proliferem sem controle adequado.

A reintrodução de conteúdo cívico nos feeds é defendida por Zuckerberg como uma maneira de revitalizar o engajamento político e social nas plataformas. Ele argumenta que a restauração de debates cívicos ajudará a criar um espaço mais vibrante e informativo, atendendo à demanda de uma parcela crescente da comunidade por discussões significativas sobre questões públicas. Essa medida busca reconciliar os usuários com o papel das redes sociais como facilitadoras do discurso democrático.

Talvez o leitor mais otimista veja essa crítica como uma subvalorização do impacto positivo que o engajamento cívico pode gerar. Certamente, a revitalização de debates políticos e sociais tem um papel importante na democracia digital. Contudo, a experiência com conteúdo cívico desmoderado em plataformas digitais mostra o potencial de disseminação e amplificação de desinformação política. O relatório “Disinformation and Democracy”, do Institute for Strategic Dialogue, documentou como redes sociais desempenharam um papel central na manipulação de informações e influência do debate público durante o referendo do Brexit. Sem um sistema robusto de verificação e moderação, as plataformas podem inadvertidamente reforçar narrativas enganosas que minam a confiança nas instituições democráticas e distorcem processos políticos.

A descentralização das equipes de moderação, com a transferência para fora da Califórnia, é apresentada como uma medida para reduzir percepções de viés e aumentar a diversidade de perspectivas no processo de tomada de decisão. Zuckerberg acredita que essa mudança aproximará as políticas de moderação das comunidades que elas pretendem servir, promovendo uma abordagem mais equilibrada e inclusiva.

Ainda que a descentralização pareça uma solução promissora, os desafios associados a ela são reais. Um leitor poderia argumentar que as críticas do texto subestimam o potencial dessa abordagem. No entanto, essa descentralização pode introduzir inconsistências na aplicação das políticas de conteúdo, resultando em decisões contraditórias que prejudicam a uniformidade e a confiança no sistema, criando confusão para os usuários. O estudo “Content Moderation at Scale”, da New York University, mostra que mudanças regionais nas equipes de moderação frequentemente resultam em disparidades significativas na forma como políticas são implementadas. Além disso, questões legais e culturais locais podem complicar ainda mais a aplicação de diretrizes uniformes em uma operação descentralizada.

Por fim, a proposta de colaborar com governos para resistir à censura é apresentada como um esforço para defender os valores democráticos e proteger a liberdade de expressão em um ambiente global cada vez mais restritivo. Zuckerberg enfatiza a importância de alianças com governos que compartilham desses ideais para criar um ambiente digital mais seguro e aberto.

Entretanto, a colaboração com governos pode gerar tensões éticas e políticas, como exemplificado pelo caso da Índia, onde empresas de tecnologia foram pressionadas a censurar conteúdos críticos ao governo. O relatório “Freedom on the Net”, da Freedom House, mostra como essas pressões colocam plataformas em posições delicadas, prejudicando sua neutralidade e, em alguns casos, sua operação global.

No Brasil, o debate sobre a moderação de conteúdo em plataformas digitais tem ganhado relevância crescente, especialmente no contexto do Projeto de Lei nº 2630/2020, conhecido como o PL das Fake News. Essa proposta legislativa busca regulamentar as redes sociais e os serviços de mensagens privadas, estabelecendo obrigações de transparência e responsabilidade para as plataformas. O objetivo central do projeto é criar um ambiente digital mais seguro e protegido contra os impactos da desinformação, discurso de ódio e manipulação de conteúdo — desafios que se alinham diretamente aos riscos apresentados pelas mudanças anunciadas pela Meta.

O Brasil é um dos países onde as redes sociais desempenham um papel crucial na formação da opinião pública e no funcionamento da democracia.

Casos como a disseminação de notícias falsas durante as eleições presidenciais de 2018 e a proliferação de teorias conspiratórias sobre saúde pública durante a pandemia de COVID-19 ilustram como a ausência de regulamentação pode ampliar problemas estruturais no espaço digital. Como uma das principais plataformas atuantes no país, a Meta é frequentemente mencionada como uma das protagonistas nesses episódios, seja por sua influência direta, seja pela ineficácia em prevenir abusos em seu sistema de moderação.

Nesse cenário, as mudanças propostas por Zuckerberg suscitam preocupações legítimas. A substituição dos verificadores de fatos por Community Notes, por exemplo, pode enfrentar dificuldades específicas no Brasil, onde campanhas organizadas de desinformação já demonstraram sua capacidade de mobilizar grupos para manipular sistemas participativos.

Além disso, a simplificação das políticas de conteúdo e a redução da moderação de infrações menores podem criar um ambiente ainda mais permissivo para a propagação de conteúdos prejudiciais, que frequentemente têm como alvo minorias e grupos sociais historicamente vulnerabilizados em seus direitos.

É nesse contexto que o PL 2630/2020 ganha relevância como uma tentativa de mitigar os riscos associados a essas mudanças. A regulamentação proposta estabelece diretrizes claras para as plataformas, incluindo exigências de transparência na moderação de conteúdo, responsabilidade sobre o impacto social das decisões algorítmicas e a obrigação de cooperação com autoridades locais em casos de desinformação e abuso.

Embora o projeto de lei tenha enfrentado críticas e resistência de algumas empresas de tecnologia, sua essência reflete um esforço necessário para equilibrar os valores de liberdade de expressão e segurança digital em um país com as complexidades do Brasil.

A decisão da Meta de implementar mudanças radicais sem um diálogo estruturado com os contextos locais — como o brasileiro — sublinha a importância de regulamentações nacionais que possam estabelecer limites e responsabilidades claras. Sem um marco regulatório sólido, há o risco de que os potenciais retrocessos descritos neste artigo se concretizem de forma ainda mais acentuada, comprometendo não apenas o ambiente digital, mas também a integridade de processos democráticos e a segurança de segmentos sociais já vulnerabilizados em seus direitos.

Portanto, longe de representar uma ameaça à liberdade de expressão, a regulamentação das redes sociais no Brasil deve ser vista como uma salvaguarda contra os perigos de retrocessos, assegurando que plataformas como a Meta atuem de forma responsável, transparente e alinhada aos valores democráticos do país. As mudanças anunciadas por Zuckerberg tornam esse debate ainda mais urgente, reforçando a necessidade de avançar na construção de um ambiente digital que respeite as especificidades nacionais e proteja os direitos fundamentais de seus indivíduos.

Diante de um tema tão multifacetado como as mudanças propostas por Mark Zuckerberg para o sistema de moderação da Meta, é fundamental que qualquer análise preliminar seja conduzida com cuidado e profundidade. Reconhecer os méritos das intenções declaradas não é incompatível com a tarefa de identificar seus riscos potenciais. A responsabilidade de plataformas com a escala e a influência da Meta vai muito além de garantir liberdade de expressão; inclui também a manutenção de um ambiente digital seguro, inclusivo e confiável.

Embora as propostas apresentem elementos que, se bem implementados, podem fortalecer a transparência e a participação democrática, os exemplos históricos e os desafios práticos demonstram que o caminho para alcançar esses objetivos é complexo e repleto de armadilhas. A descentralização das decisões, a simplificação de políticas e a redução de filtros automáticos podem parecer soluções elegantes no papel, mas, sem salvaguardas robustas, essas medidas têm o potencial de exacerbar problemas como a desinformação, os discursos de ódio e a manipulação política.

Neste momento, o que está em jogo não é apenas a reputação da Meta como uma das maiores plataformas digitais do mundo, mas também a saúde do espaço público digital em escala global. Um sistema de moderação mais democrático, inclusivo e transparente é desejável, mas ele só pode ser alcançado com um planejamento criterioso, a inclusão de mecanismos de supervisão especializada e o compromisso de abordar as consequências
indesejadas de forma proativa.

Portanto, mais do que um convite à aceitação passiva das mudanças propostas, este artigo busca contribuir para um debate público robusto e informado. É fundamental que a Meta esteja aberta ao escrutínio público, reconheça os perigos que sua escala e influência podem amplificar e, sobretudo, demonstre que está disposta a ajustar suas políticas conforme os desafios se manifestem. Apenas com essa abordagem deliberada será possível equilibrar os valores de liberdade e segurança em um ambiente digital cada vez mais complexo e central para as democracias modernas.

Assim como na narrativa de J.R.R. Tolkien, a falta de vigilância sobre o poder pode levar à corrupção e à queda de sistemas inteiros. No vasto universo da Terra-média, os reinos que se deixaram seduzir pelos Anéis do Poder enfrentaram destruição e ruína, até que os povos livres uniram forças para resistir ao poder corruptor do Um Anel. No espaço digital contemporâneo, os desafios não são menos significativos. Sem mecanismos de regulamentação que assegurem responsabilidade e transparência, a promessa de maior liberdade pode ser ofuscada por abusos e manipulações. É imperativo, portanto, aprender com as lições dessa ficção épica, garantindo que o debate público e as estruturas democráticas sejam protegidos contra o tipo de poder que, sem limites, tende a corromper absolutamente.