As redes sociais se tornam convenientes para quem produz falas discriminatórias e intolerantes porque elas conseguem interpretar o comportamento dos usuários, recomendando automaticamente conteúdos alinhados com os interesses deles. As redes criam, portanto, uma audiência para oradores de discursos de ódio que normalmente teriam pouco alcance.

Ocorre que, também por essa razão, as mesmas ações que contribuem para a propagação de um vídeo, foto ou meme, como as curtidas e compartilhamentos, colaboram para disseminar essas mensagens problemáticas. Entender isso é importante evitarmos propagar o discurso que queremos combater.

Explico: por causa de como as plataformas funcionam, quanto mais interagirmos com a postagem problemática, maior será audiência atingida por ela e mais perigosa esta mensagem será. Isso acontece mesmo quando compartilhamos uma manifestação de ódio como forma de denúncia ou publicamos um comentário criticando o conteúdo.

Os algoritmos da plataforma que escolhem o conteúdo a ser propagado nem sempre são capazes de identificar nossas ações como desagrado ou apoio. Para esses “robôs”, o entendimento é de que o assunto está “bombando” e deve ser impulsionado.

Infelizmente, mesmo com boas intenções e sem perceber, podemos acabar ajudando a disseminar posts que depreciam pessoas por sua etnia, gênero, orientação sexual ou outro marcador social. Isso é profundamente perigoso, pois quanto mais pessoas são alcançadas e têm suas opiniões formadas por discursos de ódio, mais provável se torna que algumas delas pratiquem atos concretos de discriminação e violência contra minorias sociais e grupos vulneráveis.

Infelizmente, não há muito o que se possa fazer, individualmente, para impedir o alastramento do discurso de ódio nas redes. Na prática, quando vemos uma publicação problemática, o melhor que podemos fazer é denunciar a publicação à plataforma e esperar por uma decisão de removê-la.

Isso porque o poder de regulação dessas manifestações está quase todo na mão das grandes empresas de tecnologia. Remover publicações, controlar o fluxo de comunicação e mudar o direcionamento dos algoritmos, de forma que discursos de ódio não sejam tratados da mesma forma que publicações informativas, divertidas e interessantes, cabe às empresas.

Como sociedade organizada, temos mais poder. Podemos pedir por uma regulação que dê orientações e incentivos claros para o combate à disseminação de discursos de ódio de forma organizada e cuidadosa pelas plataformas. Não queremos que saiam censurando tudo que é publicado, mas deve haver, sim, um esforço para fazer com que o conteúdo problemático seja tratado de forma diferente do conteúdo positivo pelos sistemas de recomendação desses espaços virtuais.

A questão fundamental é que o combate a disseminação do discurso de ódio nas redes sociais não é uma missão que pode ser cumprida individualmente. Ela exige organização, colaboração e, acima de tudo, estratégia. Temos que tomar cuidado para não impulsionar o conteúdo que queremos combater.

João Pedro Favaretto Salvador, Líder de Projetos do Centro de Ensino e Pesquisa em Inovação da FGV Direito SP e autor de “Discurso de Ódio e Redes Sociais” (Almedina Brasil).