A OpenAI, Amazon, Google, Twitter e outras grandes empresas de tecnologia e inteligência artificial formaram um consórcio para tentar impedir que a IA seja usada para enganar eleitores nas próximas eleições globais. As empresas anunciaram o acordo na Conferência de Segurança de Munique nesta sexta-feira, fazendo uma série de compromissos para tentar detectar desinformação eleitoral possibilitada por IA, responder a ela rapidamente e aumentar a conscientização pública sobre o potencial de enganação.

Veja vídeo: Ditador morto 'ressuscitado' com IA em campanha eleitoral causa polêmica na Indonésia

Entenda: Como o Sora, sistema de ‘vídeos generativos’ da OpenAI, amplia a revolução tecnológica e as ameaças da IA

As empresas se comprometeram a usar a tecnologia para mitigar os riscos de conteúdo eleitoral gerado por IA no acordo, denominado "Pacto Tecnológico para Combater o Uso Enganoso de IA nas Eleições de 2024". Elas também se comprometeram a compartilhar informações entre si sobre como lidar com os atores mal-intencionados.

O acordo, no entanto, não promete banir ou remover deepfakes, mas mostra métodos para detectar e rotular conteúdo enganoso de IA em suas plataformas, além de prometer respostas rápidas quando esse conteúdo se espalhar.

"A IA não criou a disseminação de conteúdo falso em eleições, mas devemos garantir que não ajude a prosperar", disse o presidente da Microsoft Corp., Brad Smith, no comunicado à imprensa que anunciou o acordo.

Bola que explode no ar e cadeiras que voam: As gafes do Sora, criador de vídeos da OpenAi

A Adobe Inc., a TikTok da ByteDance Ltd. e a International Business Machines Corp., bem como startups como Anthropic e Inflection AI, estão entre os signatários. O acordo também incluiu empresas de mídia social como Meta Platforms Inc. e Snap Inc.

Diante do aumento de falsificações realistas das vozes e imagens dos candidatos, o novo acordo tentará restringir o conteúdo digital que falsifica as palavras ou ações de candidatos políticos e outros participantes de eleições.

— Nossa mente não está tranquila — disse o CEO da OpenAI, Sam Altman, no mês passado em um evento da Bloomberg no Fórum Econômico Mundial. — Vamos ter que acompanhar isso muito de perto este ano.

MIT: Mão de obra humana ainda é mais barata que IA na maioria das funções

Criadora do ChatGPT, a OpenAI disse que estava trabalhando para evitar o abuso das suas ferramentas nas eleições, em parte proibindo a sua utilização para criar chatbots que fingem ser pessoas ou instituições reais. A Google também anunciou anteriormente que limitaria seu chatbot de IA, Bard, de responder a certas solicitações relacionadas às eleições para evitar imprecisões. E a Meta, proprietária do Facebook e do Instagram, prometeu rotular melhor o conteúdo gerado por IA em suas plataformas para que os eleitores possam discernir mais facilmente quais informações são reais e quais são falsas.

A proliferação da IA tornou a produção de imagens, áudios e vídeos falsos realistas amplamente acessível, aumentando o medo de que a tecnologia seja usada para enganar pessoas em um ano em que as eleições determinarão a liderança de 40% da população mundial.

No mês passado, por exemplo, uma mensagem de áudio gerada por IA que soava como o presidente dos Estados Unidos, Joe Biden, que deve disputar a corrida pela Casa Branca em novembro, tentou dissuadir os democratas de votar nas eleições primárias de New Hampshire.

As ferramentas também criaram representações enganosas de políticos e temas políticos na Argentina, Austrália, Reino Unido e Canadá. Na semana passada, o ex-primeiro-ministro Imran Khan, cujo partido conquistou o maior número de assentos nas eleições do Paquistão, usou uma voz de IA para declarar vitória enquanto estava na prisão.

Estão previstas para 2024 ao menos 83 eleições em todo o mundo, segundo a Anchor Change, uma empresa de consultoria. (Com Bloomberg e New York Times.)