Inteligência artificial amplia desafio de identificar desinformação durante as eleições

Com a aproximação das eleições, o uso da Inteligência Artificial (IA) Generativa tem ampliado tanto as possibilidades de comunicação quanto os desafios relacionados à desinformação. Ferramentas capazes de criar imagens, vídeos e áudios altamente realistas estão tornando mais difícil distinguir conteúdos verdadeiros de materiais produzidos artificialmente, aumentando o risco de disseminação de informações falsas durante o período eleitoral.

De acordo com especialista em Inteligência Artificial do Sidia Instituto de Ciência e Tecnologia, doutor Rayol Neto, a IA Generativa é uma tecnologia que cria novos conteúdos a partir de padrões aprendidos em grandes volumes de dados disponíveis na internet.

“A tecnologia aprende padrões a partir de enormes volumes de material disponível digitalmente e, a partir de uma instrução escrita, produz algo que combina com esses padrões. Os conteúdos gerados por IA estão cada vez mais convincentes devido à combinação de maior capacidade de processamento, avanços técnicos nos modelos de geração de conteúdo e à popularização das ferramentas”, explica.

Um dos principais desafios associados a esse avanço é o surgimento dos chamados deepfakes, conteúdos sintéticos que reproduzem ou alteram imagens, vozes ou vídeos para parecerem autênticos.

“Um áudio de um político dizendo algo que nunca disse, ou o vídeo de uma situação que nunca ocorreu, são exemplos de deepfake”, afirma o pesquisador.

Segundo Rayol, a tecnologia pode ter aplicações legítimas em campanhas eleitorais, como produção de materiais gráficos, tradução de conteúdos, legendagem, edição de vídeos e atendimento automatizado aos eleitores. O problema surge quando esses recursos passam a ser utilizados para manipular a percepção pública.

“Basicamente quando a IA deixa de ser ferramenta de comunicação e passa a ser ferramenta de engano. Os casos típicos são o deepfake que coloca palavras na boca de um adversário, o áudio falso vazado na véspera da votação ou a fabricação de provas de corrupção”, alerta.

Como o eleitor pode se proteger

Embora existam sinais visuais e sonoros que podem indicar a manipulação de imagens, vídeos e áudios, Rayol ressalta que o método mais confiável para identificar possíveis fraudes continua sendo a verificação das fontes.

“Pergunte: quem publicou primeiro? Existe outra fonte? Se um político tivesse dito aquilo em público, haveria vídeo de outros ângulos, cobertura de imprensa e reação imediata. Conteúdo que aparece sem origem rastreável, que chega por encaminhamento de WhatsApp e que provoca forte reação emocional é o padrão de risco, com ou sem IA”, destaca.

O especialista também lembra que o Tribunal Superior Eleitoral (TSE) atualizou as regras para o uso de Inteligência Artificial no contexto eleitoral, estabelecendo a obrigatoriedade de identificação de conteúdos sintéticos e medidas de combate ao uso de deepfakes com fins eleitorais.

Educação midiática

Para Rayol, a sociedade já vive um cenário em que muitos conteúdos produzidos por IA são praticamente indistinguíveis dos reais.

“Em imagem estática, a inspeção visual comum não distingue mais o real do sintético, em áudio, também não, em vídeo, a margem é pequena e está se fechando”, afirma.

 Diante desse contexto, o especialista acredita que a principal estratégia de proteção está no fortalecimento da educação midiática.

“A educação midiática é a única que não envelhece junto com a tecnologia. O hábito mental de verificar antes de acreditar continua servindo independentemente de qual geração de IA esteja em circulação”, conclui.

Sobre o Sidia

Fundado em 2003, o Sidia é um dos maiores institutos de Pesquisa, Desenvolvimento e Inovação (PD&I) do Brasil. O instituto possui duas unidades em Manaus (AM), uma em Porto Velho (RO) e outra em São Paulo (SP), atuando no desenvolvimento de tecnologias de ponta em áreas como software, telecomunicações (5G e 6G), TV Digital, saúde, imersão (AR, VR e XR), Indústria 4.0 e segurança cibernética. O Sidia conta com mais de 1.000 profissionais, infraestrutura moderna e laboratórios de referência internacional. Saiba mais em www.sidia.com.

Assuntos

Compartilhar