Desde a popularização das ferramentas de inteligência artificial (IA), são muitas as aplicações da técnica que têm ganhado destaque: desde o simples auxílio na realização de tarefas repetitivas até avanços significativos na medicina. Mas nem todos os usos são inofensivos – e um específico tem acendido o alerta entre pais de crianças e adolescentes.

É o caso da criação e do compartilhamento de fotos íntimas falsas criadas a partir de plataformas de IA, geradas com uma qualidade que torna difícil a identificação de que a imagem é na verdade manipulada. Episódios em que adolescentes criaram e espalharam fotos de colegas foram registrados em outros países e, agora, no Brasil.

Recentemente, a Polícia Civil do Rio de Janeiro abriu um inquérito para apurar montagens feitas por alunos do 7º ao 9º ano do Colégio Santo Agostinho, na capital. Ao menos 20 meninas afirmam ter sido alvo dos “nudes” falsos. Algo semelhante ocorreu em Recife, Pernambuco, no Colégio Marista São Luís.

Especialistas ouvidos pelo GLOBO relatam preocupação com os impactos dessa violência na saúde mental dos jovens, tanto daqueles afetados diretamente pelas manipulações, como de toda uma geração.

— Um evento como esse pode levar a pessoa envolvida a um trauma. Mas, ao mesmo tempo, essa reação é vista também num âmbito coletivo. As jovens ficam assustadas e começam a se preocupar com a possibilidade de isso acontecer com elas. Então é um estresse e uma ansiedade ampliados — diz o psiquiatra Gustavo Estanislau, organizador do livro “Saúde Mental na Escola: o que os educadores devem saber” (Editora Artmed) e pesquisador do Instituto Ame sua Mente.

O professor de Psiquiatria da Infância e Adolescência na Universidade de São Paulo (USP), Guilherme Polanczyk, ressalta que a exposição de fotos íntimas, embora ilegal, já era algo que ocorria e impactava adolescentes. Porém, havia ao menos a garantia de que, se a pessoa não fizesse nenhum registro fotográfico sem roupas, esse risco não existiria.

— Ao longo dos últimos anos, a questão da exposição de “nudes” tem gerado um impacto muito grande na comunidade escolar e principalmente nas pessoas que são expostas. São situações muito graves e, agora, a inteligência artificial dá um grau de insegurança a mais. Porque com as ferramentas ninguém passa a estar seguro. É possível expor qualquer pessoa, sem que de fato ela tenha feito aquela imagem — diz.

Eles afirmam ainda que os casos são uma nova face do cyberbullying (bullying virtual), e citam como as ferramentas oferecem formas inéditas, e muitas vezes mais nocivas, de perpetuar uma agressão que persiste apesar dos esforços para combatê-la.

— O pré-adolescente e o adolescente via de regra são pessoas que em algum momento vão passar por uma insegurança, são indivíduos ainda com a personalidade em processo de formação. E um dos mecanismos que pessoas inseguras utilizam para se sentir melhor é o de expor, rebaixar, colocar outras pessoas “para baixo”. Isso já acontecia de outras formas, mas com as ferramentas que temos hoje ocorre de maneiras diferentes — diz Estanislau.

Polanczyk lembra que, embora o assunto não seja encarado com a seriedade necessária para muitos, o bullying entre jovens é um fator de risco comprovado para diferentes consequências físicas e psicológicas – entre elas, o suicídio, quarta principal causa de morte entre 10 e 29 anos, segundo a Organização Mundial da Saúde (OMS).

— O bullying é um fator de risco já associado a depressão, ansiedade, esquizofrenia, comportamento de auto lesão. Muitas vezes quando há um suicídio o bullying está presente como um gatilho. Então é algo que precisa ser tratado com muita seriedade e de forma nenhuma ter os impactos no desenvolvimento emocional de crianças e adolescentes subestimados — alerta.

De quem é a responsabilidade?

O tema é sensível: nos casos relatados, tanto vítimas, como autores, são menores de idade. O que suscita um debate: de quem é, afinal, a responsabilidade por garantir que esses jovens entendam os limites éticos e legais do uso de tecnologias como a IA?

Para os especialistas em infância e adolescência ouvidos pelo GLOBO, o assunto transita por três esferas: a família, a escola e o poder público. Isso diz respeito tanto à necessidade de ações prévias, que evitem a ocorrência dos episódios relatados no Rio e em Recife, como à de iniciativas para impedir que eles ocorram em primeiro lugar.

O pediatra Daniel Becker, médico sanitarista do Instituto de Estudos em Saúde Coletiva da Universidade Federal do Rio de Janeiro (UFRJ), defende que a atuação dos pais e tutores é o mais importante, por meio da restrição ao acesso precoce às tecnologias e da educação sobre como utilizá-las da forma adequada.

Diz que o ideal é que os pré-adolescentes recebam o primeiro aparelho apenas a partir dos 13 anos, e que a entrada nas redes sociais seja ainda mais tardia, preferencialmente aos 16. Além disso, defende que em todo esse processo é responsabilidade dos pais desenvolver o pensamento crítico do jovem sobre o que ele encontra nas plataformas.

— É preciso fazer uma espécie de acordo familiar, em que sejam estabelecidas regras, mas que o jovem participe da elaboração delas. E para ensinar sobre os limites das ferramentas, os riscos existentes nas redes, assistir junto é a melhor forma. Isso ajuda a criança a desenvolver pensamento crítico, porque é possível apontar e dizer “isso aqui não pode, isso aqui invade a privacidade do outro”. Então retardar, educar e supervisionar são palavras-chave — diz.

Os especialistas recomendam ainda que os pais tenham as senhas de acesso às redes dos filhos. O ponto pode gerar controvérsia, mas Estanislau afirma que no momento torna-se uma medida necessária. Porém, tudo deve ser feito na base do diálogo, e não na imposição – o objetivo é que a criança e o adolescente entendam, e não simplesmente obedeçam.

— Existe toda uma questão da privacidade da criança e do adolescente, que precisa ser mantida, mas num cenário como esse, em que estamos lidando com questões que estão fora de controle, e com muitos riscos envolvidos, acaba sendo uma estratégia necessária. Mas precisa ocorrer muito por meio do diálogo, mostrando a necessidade, por que aquilo está sendo feito — afirma.

Em relação às escolas, defendem a incorporação no currículo escolar da chamada educação digital para que o jovem seja ensinado sobre o que pode, e não pode, ser feito com as tecnologias. A abordagem em sala de aula é ainda mais importante após episódios como os relatados no Rio e em Recife, justamente para que não se repitam. Além disso, defendem a punição dos responsáveis pela criação das imagens.

— Isso precisa ser trabalhado na escola de maneira que a autoridade pedagógica retorne o acontecido para as crianças. Explique o que ocorreu, os riscos sérios para a saúde física e mental envolvidos, e aborde o que pode ser feito para reparar esse episódio e impedir que novos aconteçam. Todos os alunos precisam estudar, conversar, debater sobre o tema, para chegar numa situação em que seja possível conviver de novo com menos dor e mais esclarecimento — diz Becker.

Procurado, o Colégio Santo Agostinho disse, em nota, que continua “a colaborar com as investigações que se fizerem necessárias”, mas não respondeu se implementou alguma conduta de apoio às vítimas ou para evitar recorrências. O Colégio Marista São Luiz não retornou a reportagem.

Já na rede de ensino Escola Eleva, os alunos têm a disciplina Creative Tech, em que trabalham temas como segurança online, cyberbullying, fake news e uso ético de Inteligência Artificial. A instituição enviou um comunicado aos responsáveis após os episódios em que lembra que, “apesar de serem nativos digitais, não podemos pressupor que nossos alunos são fluentes digitais”.

Políticas públicas

O tema precisa motivar a criação de políticas públicas para implementar de forma sistêmica a educação digital nas escolas e também fornecer aos pais as informações necessárias para que eles possam instruir os filhos, argumentam os especialistas.

Victor Martins Pimenta, diretor do Departamento de Direitos na Rede e Educação Midiática, ligado à Secretaria de Comunicação da Presidência da República (Secom), explica que esse é um dos objetivos com a recém-lançada “Estratégia Brasileira de Educação Midiática”.

— Nossos principais desafios são levar um ensino de qualidade de educação midiática para escolas e para a população como um todo. Estamos construindo diretrizes junto com o Ministério da Educação para o desenvolvimento de atividades, para a formação dos professores, para que o tema seja tratado de forma transversal em diversas disciplinas — diz.

A iniciativa prevê ainda uma série de outras medidas pelo governo federal, entre elas a criação de um guia para uso consciente de telas e dispositivos digitais por crianças e adolescentes. A elaboração está em fase de consulta pública, em que recebe sugestões de especialistas e da sociedade civil. A expectativa é que o documento esteja pronto no ano que vem.

— O objetivo é elaborar um guia que possa orientar familiares, professores, profissionais da saúde, assim como os próprios jovens, sobre como promover um uso consciente das tecnologias. Elas abrem um leque enorme de possibilidades, mas precisam ter um uso saudável — afirma.

Ainda no âmbito das políticas públicas, os médicos defendem que o debate sobre regulamentação das redes sociais e das plataformas de inteligência artificial avance no Brasil para garantir maior segurança aos pequenos.

— É algo indispensável hoje. Você não pode permitir que um site desses, que gera fotos íntimas artificiais, faça um cadastro livre, sem nenhum controle etário, em que qualquer um pode brincar com a privacidade do outro. Isso é inaceitável. É uma situação de cyberbullying grave, uma violência — diz Becker, que participa da elaboração do guia sobre uso consciente de telas do governo federal.