top of page

Como algoritmos podem transformar a web em ambiente tóxico e violento

Fast Company Brasil - 08 de abril de 2024



“AS REDES SOCIAIS NÃO SÃO TERRA DE NINGUÉM”. Assim mesmo, em caps lock. A frase foi retirada do inquérito que o ministro do Supremo Tribunal Federal (STF) Alexandre de Moraes abriu contra Elon Musk e a sua rede social Twitter (atual X), no último domingo.


O documento vem depois de Musk ameaçar a reativação de perfis que haviam sido banidos da rede por decisões jurídicas. O episódio só reforça a importância do debate em torno da regulamentação das redes sociais. Não é só uma questão de liberdade de expressão, mas de segurança e proteção a audiências vulneráveis.


A toxicidade nas redes não é consequência, mas estrutura do modelo de negócio das big techs. “A desinformação é um negócio lucrativo. Estão premiando o ambiente tóxico. As redes precisam ser responsáveis sobre aquilo que é monetizado”, diz Márcio Borges,  vice-presidente da agência WMcCann e pesquisador do NetLab que estuda os impactos econômicos da desinformação digital desde 2015.


O pesquisador lembra que se trata de uma rede de incentivos para que conteúdos desse tipo continuem no ar. São plataformas inteiras criadas para apoiar os MAUs. Mesmo que um vídeo ou uma postagem saia do ar, existem outras centenas para entrar no lugar.


Conteúdos extremos fazem parte do ecossistema da internet. Eles não existem apenas no TikTok ou no Instagram. Uma das páginas citadas na pesquisa como fonte para vídeos de extermínios têm podcasts, canal no YouTube, notícias no Google News e páginas no Facebook. Todas elas com banners e com rankeamento alto em pesquisas.


Parte da razão que explica tais estruturas seguirem em pé é o calcanhar de Aquiles das big techs: a transparência. Guardados a sete-chaves, os algoritmos de recomendação são a “caixa-preta” do funcionamento das redes.


Não saber como eles funcionam é como entrar em um espaço sem saber o que há lá dentro. “É como se a gente deixasse nossos filhos no shopping, porém não pudéssemos verificar além da fachada. Não tem como saber se é um shopping de verdade ou se é um bordel”, compara Borges.


Comments


bottom of page