‘Algorítimo das redes propicia desinformação’, afirma especialista Rafael Hoff

Para o doutor em Ciências da Informação e Comunicação Rafael Hoff, o combate à desinformação e ao discurso de ódio passa pela regulamentação das redes sociais, tema ainda espinhoso na política. Ele é um dos coordenadores do novo Observatório da Desinformação e do Discurso de Ódio, que nasce em uma parceria entre pesquisadores da Universidade Federal do Amazonas (Ufam) e Universidade do Estado do Amazonas (UEA).

Segundo o pesquisador, o algoritmo das plataformas propicia o impulsionamento de conteúdos com desinformação, especialmente porque essas publicações geram engajamento – por consequência, lucro. Para ele, precisa haver um ambiente que obrigue as redes a também serem responsabilizadas pelas postagens que circulam on-line, o que só então as levaria a tomar atitudes responsáveis.

O presidente Lula (PT) chegou a anunciar, em agosto, que o governo enviaria um texto de regulamentação ao Congresso, mas a proposta foi adiada. A avaliação interna é de que o tema ainda enfrenta forte resistência no Congresso e dificilmente seria aprovado. Uma pesquisa do Instituto Locomotiva, divulgada em agosto, mostrou que 85% dos brasileiros defendem a regulação das redes sociais.

Para A CRÍTICA, Hoff também falou sobre o papel do Observatório no combate aos discursos de ódio, da atuação possível do projeto durante as eleições do próximo ano, além de avaliar a legislação atual que pune a prática de fake news. Confira a entrevista:

 

O que é o Observatório da Desinformação e do Discurso de Ódio e em qual contexto nasce?

 

O Observatório nasce vinculado a um projeto de pesquisa institucionalizado na Ufam, chamado Imagens Amazônicas, Narrativas, Imaginários e Significações. Esse projeto de pesquisa busca investigar as imagens em circulação e os imaginários, as estéticas e as políticas de visibilidade da Amazônia. Nesse contexto, procuro acomodar e acolher os projetos dos meus orientandos de mestrado, do TCC e iniciação científica.

Recentemente, constituí um projeto voltado à pesquisa sobre desinformação produzida com inteligência artificial, os deepfakes e as próprias imagens que parecem fotografias. Isso me levou a pensar que está cada vez mais difícil de as pessoas detectarem o conteúdo produzido por IA. Seria necessário um observatório, uma vigilância ativa que se dedicasse a isso.

Articulei conversas com o professor Adriano Fernandes, da Faculdade de Direito, com a professora Célia Simonetti Barbalho, do GICA, que é um grupo de pesquisa da área de ciência da informação, e eles me levaram a conversar com a professora Daniela Pontes, da ciência da computação da UEA. Assim, amarrando nossas áreas e interesses, começamos a desenhar o Observatório.

 

De que maneira o projeto vai contribuir para o debate sobre desinformação?

 

A gente vai olhar para os perfis, tanto de organizações e instituições públicas e privadas, agentes ocupando cargos públicos, e a gente vai fazer uma rede de colaboração para combater a desinformação. Então, se um conteúdo for detectado como desinformação, a gente produz um outro conteúdo para as redes sociais que tenha a informação correta, verificada, com embasamento científico.

 

Será um projeto de verificação de fatos?

 

Tipo um fact-check, só que a gente não se restringe à questão da verificação por si só. Por quê? Porque esse projeto é um pouco mais amplo do que isso. Ele também quer investir em literacia midiática, ou mídia-educação, educação midiática.

A gente quer ir para as escolas, conversar com professores e estudantes a respeito de cidadania digital, cyberbullying, sobre deepfakes e sobre liberdade de expressão, que o pessoal, no senso comum, imagina que esse conceito de liberdade de expressão permite que qualquer coisa seja dita. E não é assim que funciona. Legalmente, tu tem um limite. Não pode falar nada que incite à violência, que discrimine.

 

A desinformação tem produzido danos em diferentes áreas da sociedade, mas o campo eleitoral é um dos mais afetados. Em 2026, teremos eleições majoritárias. Como o Observatório irá atuar?

 

Existem três eixos de investigação: a desinformação associada ao meio ambiente; o discurso de ódio e o mundo do trabalho, que busca combater essa imagem feita sobre venezuelanos, haitianos e o processo de migração presente na região amazônica; e o eixo sobre cidadania digital, que vai trabalhar especificamente o pleito, pré-campanha, campanha e pós-campanha.

Esses três eixos são áreas de interesse do observatório. Nós vamos montar equipes multidisciplinares para encontrar os conteúdos na web, fazer o processo de verificação e checagem, produção de conteúdo multimídia para ser espalhado num “contradiscurso” e também essa formação dedicada às escolas da rede pública.

No caso específico das eleições, tanto a busca ativa do observatório quanto o recebimento de denúncias para verificação são duas frentes de trabalho que a gente pretende desenvolver.

 

Hoje o Brasil tem uma legislação que pune quem se utiliza das fake news e há também previsão de detenção e multa pelo Código Eleitoral. Essas medidas dão conta do problema?

 

Não, elas não dão conta do problema, até porque há necessidade de muitos olhos vigiando essas práticas. Seria necessário um engajamento de toda a população, e a gente não consegue isso.

A inteligência artificial e as próprias plataformas poderiam desenvolver ferramentas de detecção desses conteúdos para derrubar antes que eles chegassem à proporção de se tornarem virais, mas justamente porque não se tem uma regulamentação firme, profunda e de responsabilização dessas empresas, o que nós temos hoje é um cada um por si.

Então tem muitas iniciativas de combate à desinformação, ao discurso do ódio, mas elas não conversam entre si. Hoje, esse observatório que a gente está propondo quer articular uma conexão entre o Tribunal Regional Eleitoral, o Tribunal de Contas, a Assembleia Legislativa, o Sindicato dos Jornalistas, o Ministério Público e todas as forças da sociedade que têm interesse em combater a desinformação.

 

O Observatório também irá atuar contra o discurso de ódio. Como esse fenômeno se relaciona com a própria desinformação?

 

Eles se ligam quando as duas práticas simbolizam práticas contra a cidadania, contra a liberdade individual, contra a formação para um uso responsável das mídias sociais digitais.

Então, se a gente combate essas duas frentes, a desinformação e o discurso de ódio, a gente está colaborando para que as políticas públicas sejam voltadas para a garantia dos direitos civis do cidadão.

Muitas vezes as leis são produzidas tentando consertar um desvio de comportamento. Exemplo da Lei Carolina Dieckmann, que procura punir quem vaza fotos íntimas de outra pessoa sem autorização, colocando isso na web.

Em vez de esperar esse comportamento para depois, a gente está tomando a iniciativa de já colaborar com esse pensamento crítico sobre a importância da regulamentação das redes sociais e o quanto a gente pode contribuir ensinando as pessoas a fazer verificação e checagem ou participar desses processos de maneira ativa. Isso tudo se traduz por cidadania digital.

 

Quais os desafios para avançar com o debate da regulamentação das redes?

 

Em 2023, a Câmara foi pressionada publicamente pelo Google e TikTok contra o PL das Fake News, que nem era exatamente a própria regulamentação, mas trazia novas obrigações às plataformas.

O Google tem hoje 30 pessoas contratadas como lobistas atuando em Brasília, especificamente na função de influenciar deputados e senadores na formulação de uma legislação sobre redes sociais e plataformas digitais que não responsabilize as big techs. Essa é a realidade que se vive hoje aqui no Brasil.

A gente precisa pensar sobre a responsabilidade das empresas. Por exemplo, se um jornal publica uma informação, esse jornal é corresponsável por aquilo que é publicado, mesmo que seja uma coluna de opinião de um colaborador. Isso não acontece com o Instagram, com o Facebook ou o X.

O conteúdo é única e exclusivamente responsabilidade do usuário, do internauta. Não é bem assim. A gente precisa responsabilizar essas big techs, porque se não responsabilizarmos, elas não criam filtros, elas não derrubam perfis que incitam a violência, o ódio, a misoginia e outras tantas formas de agredir as pessoas que a gente encontra na web hoje.

É importante a gente pensar em regulação e exigir que isso seja feito pelo governo federal a partir dessa reflexão e dessa participação das pessoas.

 

Como evitar a sensação de que o combate às fake news está sempre correndo atrás do prejuízo, buscando remediar os danos? É possível inverter essa lógica e se adiantar à desinformação?

 

Na medida em que a gente detecta informações distorcidas ou suspeitas, a gente sempre pode correr na frente. Antes que elas ganhem a proporção do viral, a gente pode colocar em circulação uma informação correta, verificada, responsável, educativa.

Então é possível, sim, antecipar. O problema é que o algoritmo das plataformas funciona para impulsionar esse tipo de conteúdo. Por quê? Porque ele gera polêmica, gera engajamento, gera interação entre as pessoas.

Daí esse esforço também do observatório de educar as pessoas sobre o algoritmo, sobre as lógicas por trás dessas plataformas digitais.

A gente costuma dizer: “não existe almoço de graça”. O que isso quer dizer? Se eu não pago para baixar o Instagram, como o Instagram ganha dinheiro? É uma empresa milionária. Ele ganha dinheiro vendendo os dados do meu like, daquilo que eu compartilho, daquilo que eu comento, daquilo que eu mando para o meu amigo.

Então esses dados vão revelando o meu poder de compra, as coisas que eu gosto, onde eu moro, os lugares que eu frequento, e tudo isso é vendido como publicidade, por exemplo.