Ouso da inteligência artificial nas próximas campanhas políticas é dado como certo e, para coibir a prática conhecida como “deepfake”, a Justiça Eleitoral estuda regulamentação sobre o tema, informa Zeca Ferreira. O ministro Floriano Azevedo Marques Neto, do TSE, destaca que uma das principais preocupações da Corte é com a circulação de fotos, vídeos e áudios fraudulentos, nos quais pessoas são retratadas em ações forjadas, situações que já ocorreram em eleições nos EUA e na Argentina. Segundo Marques Neto, o objetivo é prever eventuais problemas que material fraudulento feito por IA, visto por ele como uma espécie de “fake news 2.0”, possa trazer para as eleições.

“Essa é uma preocupação grande (com o uso de ‘deepfakes’) e receberá atenção bastante especial”

Floriano Azevedo Marques Neto, ministro do TSE

Às vésperas do segundo turno das eleições, surge um áudio nas redes sociais em que um dos candidatos defende a brutalidade policial. Após causar impacto em milhares de eleitores, o conteúdo é removido por ser identificado como uma gravação falsa gerada por inteligência artificial (IA). Esse caso aconteceu neste ano na disputa pelo comando de Chicago, a terceira cidade mais populosa dos Estados Unidos. No Brasil, especialistas alertam para a possibilidade de episódios semelhantes ocorrerem nas eleições municipais de 2024. A Justiça Eleitoral acompanha o desenvolvimento da tecnologia e a regulamentação internacional, e uma norma específica para IA pode ser incluída na resolução que vai reger o pleito.

Embora a IA possa gerar desinformação, ela também tem usos positivos. De acordo com publicitários que atuam nas campanhas eleitorais, essa tecnologia tende a tornar a comunicação mais ágil e eficiente, estreitando os canais entre políticos e eleitores. Nesse contexto, candidatos já estão se preparando para incorporar a IA como uma ferramenta crucial nas eleições do próximo ano, ao passo que a Justiça Eleitoral trabalha para regulamentar seu uso durante o pleito.

PREOCUPAÇÃO. O ministro Floriano Azevedo Marques Neto, do Tribunal Superior Eleitoral (TSE), destaca que uma das principais preocupações da Corte em relação ao uso de inteligência artificial é a criação de imagens e áudios falsos, prática conhecida como deepfake –a mesma usada no caso de Chicago. Essa tecnologia permite a produção de vídeos fraudulentos, nos quais pessoas são retratadas realizando ações que nunca ocorreram. Além disso, é possível criar fotos de situações fictícias e até mesmo replicar a voz de alguém para proferir palavras que nunca foram ditas.

A eleição recente na Argentina é considerada a primeira da era da IA. Durante o pleito, a tecnologia foi utilizada tanto para gerar conteúdo favorável aos candidatos como para atacálos. Apoiadores do presidente

eleito Javier Milei, por exemplo, criaram um vídeo falso em que o candidato derrotado Sergio Massa aparece cheirando cocaína. A gravação, que viralizou nas redes sociais faltando poucos dias para o pleito, foi editada para inserir o rosto de Massa em uma filmagem antiga que mostra um homem não identificado consumindo a substância. Milei também foi alvo de ataques do gênero, com imagens

da ex-premiê britânica Margaret Thatcher e da Guerra das Malvinas, insinuando que o candidato da direita – um admirador de Thatcher – é amigo dos inimigos do País.

Sócio da agência PLTK, o consultor de comunicação política Pablo Nobel atuou na campanha vitoriosa de Javier Milei. Para ele, a IA usada para manipular a opinião do eleitor em relação a um candidato específico é uma arma extremamente poderosa, pois cria uma realidade paralela. “A inteligência artificial borra a fronteira entre verdade e ficção. A ideia de confiar no que vemos deixa de funcionar, porque vemos o que alguém quis nos mostrar. Esse é o lado perigoso da inteligência artificial”.

‘FAKE NEWS 2.0’. Segundo Azevedo Marques, a utilização de deepfakes para disseminar informações falsas pode ser considerada como uma espécie de “fake news 2.0” .“Essa é uma preocupação grande que, na perspectiva da propaganda eleitoral, receberá uma atenção bastante especial”, disse ao Estadão. Ele esclareceu ainda que a IA, como toda tecnologia inovadora, gera um desafio macro para a Justiça Eleitoral: antecipar eventuais problemas que o uso indiscriminado dessa nova ferramenta pode trazer para as eleições.

Floriano de Azevedo Marques relatou ainda que, sob a orientação do presidente do TSE, o ministro Alexandre de Moraes, a Escola Judiciária Eleitoral da Corte realiza pesquisas sobre a regulamentação das deepfakes. “Provavelmente, desse mundo resultará contribuições que podem – não estou falando que vão – ser traduzidas na resolução a ser editada ao longo do primeiro semestre do ano que vem”, afirmou.

‘USO IMPRÓPRIO’. De acordo com o professor Diogo Rais, de Direito Eleitoral e Direito Digital na Universidade Presbiteriana Mackenzie, o uso de deepfakes na criação de conteúdo enganoso marca uma evolução no fenômeno das fake news. Isso se deve não apenas à capacidade de produzir informações falsas com maior rapidez, mas também à significativa melhoria na qualidade dessas produções, a ponto de ser praticamente impossível para o olho humano detectar a manipulação realizada por um sistema computacional.

Diretor-geral do Instituto Liberdade Digital, Rais conta que, no contexto brasileiro, sua maior preocupação em relação ao uso impróprio de IA nas eleições não é a produção de vídeos enganosos, e sim a disseminação de áudios falsos. Ele explica que a criação de áudios falsos é mais simples em comparação aos vídeos. Além disso, destaca o hábito dos brasileiros de usar aplicativos de mensagem, como WhatsApp. “É até fácil de imaginar os áudios falsos circulando às vésperas das eleições, com candidatos pedindo propina ou até mesmo renunciando à candidatura”.

CÓDIGO. Apesar desses desafios, o professor do Mackenzie afirma que a Justiça Eleitoral tem avançado no combate à desinformação. Ele ressalta que, mesmo sem uma legislação específica para o uso de IA, o código eleitoral brasileiro já veda a manipulação de conteúdo com o intuito de enganar o eleitor.

A diretora de projetos do Instituto de Tecnologia e Sociedade (ITS), Celina Bottino, concorda com a avaliação de que o uso de deepfakes eleva a preocupação com a manipulação de informações. Porém, ela ressalta que essa tecnologia também pode ser aplicada de maneira benéfica. “É possível usar deepfakes para clonar a voz de pessoas que falavam, mas perderam essa capacidade por algum motivo. Além disso, é possível recriar figuras históricas, como Napoleão, para que os estudantes possam aprender história interagindo com elas”, exemplifica Celina. Para ela, proibir ou demonizar a tecnologia não é solução eficaz para o problema.

O consultor Pablo Nobel observa que a eleição argentina inaugurou uma nova era, em que campanhas serão influenciadas pela IA. Sua popularização, entretanto, é um elemento que torna o uso da tecnologia uma ameaça à integridade do processo eleitoral. Atualmente, softwares para a criação de deepfakes são facilmente encontrados na internet, permitindo que apoiadores de candidatos gerem conteúdo falso contra outros políticos. “É uma forma muito anárquica de produzir conteúdo, não há uma inteligência de campanha centralizada”, diz. •

Regulamentação Escola Judiciária Eleitoral tem feito estudos sobre a IA, que podem gerar uma resolução para 2024