A Apple e o Google continuaram a oferecer aplicativos móveis que permitem aos usuários criar imagens sexualizadas de pessoas sem consentimento, apesar de suas políticas proibirem esse tipo de conteúdo, segundo um relatório publicado na quarta-feira pelo Tech Transparency Project, que investiga o poder, a influência e o impacto das grandes empresas de tecnologia.

INSS:

Escala 6x1:

Buscar por termos como “nudify” e “undress” nas lojas de aplicativos da Apple e do Google dá aos usuários acesso a softwares que podem ser usados ​​para alterar imagens de celebridades e outras pessoas, fazendo-as parecer nuas ou parcialmente despidas, segundo o grupo, braço de pesquisa da organização sem fins lucrativos Campaign for Accountability. As empresas também exibiram anúncios de aplicativos semelhantes em seus resultados de busca.

Os aplicativos identificados pelo grupo foram baixados 483 milhões de vezes e geraram US$ 122 milhões em receita, de acordo com o relatório, que citou estimativas da empresa de pesquisa de mercado AppMagic. Um porta-voz da AppMagic disse que o trabalho do Tech Transparency Project resultou na remoção de vários aplicativos e levou outros a mudar suas políticas de uso.

Ao longo do último ano, políticos ao redor do mundo intensificaram os apelos para conter a disseminação de aplicativos que “desnudam” imagens. No início deste ano, as empresas removeram aplicativos apontados pelo Tech Transparency Project. No entanto, poucos meses depois, descobertas de outras semelhantes ainda puderam ser encontradas, disseram pesquisadores da organização.

Tomate, cebola, leite e carnes:

“Não é apenas que as empresas falham em verificar esses aplicativos e continuam a aprová-los e lucrar com eles”, disse Katie Paul, diretora do projeto, em entrevista. “Elas estão, na verdade, direcionando os usuários para esses aplicativos.”

A partir de buscas nas lojas, o grupo acordou 18 aplicativos com esse tipo de funcionalidade na App Store da Apple e 20 na Google Play Store. Além disso, tanto a Apple quanto o Google às vezes direcionavam os usuários para esses aplicativos por meio do recurso de autocompletar, revelando nomes de aplicativos semelhantes enquanto os usuários digitavam, segundo os pesquisadores.

Alguns aplicativos utilizavam nomes e imagens com conotação sexual. Outros poderiam ser facilmente usados ​​para esse fim, mesmo sem serem explicitamente levantados dessa forma, tornando-os mais acessíveis do que softwares tradicionais de edição de imagem. Algumas assinaturas foram oferecidas, segundo o Tech Transparency Project.

Na contramão do mundo:

As diretrizes da App Store da Apple proíbem “material abertamente sexual ou pornográfico”. Já a Google Play Store proíbe “aplicativos que degradam ou objetificam pessoas, como aqueles que afirmam despir indivíduos ou ver através de roupas, mesmo se apresentados como brincadeira ou entretenimento”.

O Google afirmou que muitos dos aplicativos citados no relatório foram suspensos do Google Play por violarem suas políticas, e que uma investigação ainda está em andamento.

“Quando divulgadas de nossas políticas são reportadas, investigamos e tomamos as medidas comentadas”, disse a empresa em comunicado por e-mail.

Fim da escala 6x1:

A Apple informou que removeu 15 aplicativos identificados pelo grupo após ser questionado pela Bloomberg sobre sua presença. Entre eles estava o PicsVid AI Hot Video Generator, que oferece modelos com mulheres em conteúdo sugestivo, segundo os pesquisadores. O desenvolvedor do PicsVid não respondeu aos pedidos de comentário.

Outro aplicativo identificado, Uncensored AI — No Filter Chat, remove roupas de uma imagem feminina enviada pelos pesquisadores. Um representante do desenvolvedor afirmou que o aplicativo não permite mais esse tipo de funcionalidade.

A Apple disse ainda que entrou em contato com desenvolvedores de seis aplicativos para alertá-los sobre problemas a serem corrigidos e o risco de remoção. Outros aplicativos mencionados não violaram as diretrizes da empresa, segundo a Apple, que acrescentou ter rejeitado preventivamente muitos aplicativos e removido outros.

Entenda cinco:

Os esforços de fiscalização das gigantes da tecnologia são “irregulares e em grande parte opacos”, de acordo com Anne Helmond, professora da Universidade de Utrecht, na Holanda.

“Se um aplicativo se apresenta como um gerador de imagens genérico, ele pode passar pela revisão, mesmo que possa ser usado indevidamente na prática”, disse Helmond, diretor da App Studies Initiative, um grupo internacional de pesquisa. “A visibilidade é moldada por sistemas de busca e classificação que recompensam o engajamento, o que significa que usos controversos podem aumentar a popularidade de um aplicativo.”

Um dos aplicativos identificados na Google Play Store, Video Face Swap AI: DeepFace, promove a troca do rosto da atriz Anya Taylor-Joy pela personagem Daenerys Targaryen, de Game of Thrones. No entanto, dentro do app, na categoria “Girls”, os usuários puderam inserir rostos em vídeos de mulheres em poses sensuais, conforme constatado pela Bloomberg.

Viu?

O aplicativo, classificado como livre para todos os públicos, foi baixado mais de 1 milhão de vezes e pode ser encontrado ao buscar “face swap”.

A Okapi Software, empresa responsável pelo aplicativo, afirmou que iniciou uma investigação e removeu parte do conteúdo, que, segundo ela, havia sido enviado por usuários.

“Nosso aplicativo não oferece funcionalidade de ‘nudificar’ e não permite a geração de conteúdo nu ou sexualmente explícito”, disse a empresa. “Levamos a segurança e a conformidade do conteúdo a sério.”

Um número crescente de reguladores tem que exigir que as empresas promovam a aplicação de suas políticas. No ano passado, o presidente Donald Trump sancionou a lei Take It Down Act, que criminaliza a publicação de conteúdo sexual sem consentimento e obriga redes sociais e sites a remover esse tipo de material.

Em abril, o governo do Reino Unido planeja apresentar legislação que pode permitir a responsabilização criminal de executivos de tecnologia cujas empresas não removam essas imagens.