O Conselho Nacional de Educação (CNE) aprovou nesta terça-feira, 1º, diretrizes para o uso de inteligência artificial (IA) na educação. Entre outros pontos, as normas estabelecem níveis de risco para o uso da tecnologia em cada tipo de atividade na área. Agora, o documento segue para homologação do Ministério da Educação (MEC).

O CNE elaborou uma escala de risco para orientar escolas e universidades em relação ao uso de inteligência artificial. Os níveis variam desde "baixo risco" até "risco excessivo ou incompatível com finalidades educacionais", dependendo do tipo de uso. As redes terão até 12 meses para se adequar às normas após homologação do texto.

A intenção do conselho é orientar os gestores para um uso saudável dessas ferramentas, sem acarretar prejuízos aos estudantes.

Veja abaixo quais as atividades vinculadas aos diferentes níveis de risco:

Os usos considerados de baixo risco são, em geral, aqueles para planejamento e organização, que não levam em conta avaliações e outras funcionalidades. Entre eles:

- organização de materiais didáticos;
- apoio à acessibilidade;
- revisão textual não avaliativa;
- ferramentas auxiliares de planejamento;
- sistemas sem perfilização individual significativa.

O CNE classificou como risco moderado os usos que promovem algum nível de interação com os estudantes. Nesse sentido, estão mecanismos que incluem auxílio à produção, feedback, entre outros. Nesse caso, é necessária revisão humana obrigatória e monitoramento frequente.

- sistemas de tutoria;
- ferramentas de feedback formativo;
- assistentes institucionais;
- apoio à produção textual;
- mecanismos de recomendação acadêmica sem efeito decisório automático.

Foram classificadas como atividades de alto risco aquelas que podem ter impacto na vida acadêmica dos estudantes e restringir direitos, por exemplo, a partir da seleção de alunos por meio da IA. A resolução também cita atividades que envolvam risco de tratamento de dados sensíveis.

- sistemas de correção automatizada de avaliações com repercussão acadêmica;
- "proctoring biométrico", ou seja, ferramenta que utiliza a IA para verificar características físicas dos estudantes em tempo real;
- perfilização acadêmica individualizada;
- sistemas relacionados à seleção, certificação, concessão de benefícios ou análise disciplinar;
- aplicações que envolvam tratamento de dados pessoais sensíveis ou inferências comportamentais relevantes.

O relator do texto, Celso Niskier, afirmou: "O juízo avaliativo é do professor, ele não pode ser substituído pela IA. São decisões que afetam o futuro do estudante e têm que haver mediação humana".

O grau mais alto de alerta, definido pelo CNE como risco excessivo ou incompatível com finalidades educacionais, inclui atividades que, segundo o colegiado, podem ser discriminatórias e resultar em violações de direitos dos estudantes.

Nesse sentido, o conselho elenca atividades que promovam perfilamento dos alunos por meio da IA para classificá-los, além de ferramentas que promovam vigilância emocional dos estudantes, entre outros pontos.

- sistemas de pontuação social;
- vigilância emocional;
- exploração de vulnerabilidades de estudantes;
- perfilização psicológica ou biométrica para fins classificatórios ou disciplinares;
- decisões exclusivamente automatizadas com efeitos relevantes sobre promoção, retenção, certificação, permanência, concessão de benefícios ou desligamento.

Para evitar esses riscos, o parecer destaca a importância da atuação dos professores ao longo de todo o processo de uso da inteligência artificial nas escolas e universidades. As diretrizes chamam atenção para a necessidade de protagonismo pedagógico dos docentes neste processo.

Após a aprovação, o presidente do CNE, Cesar Callegari, afirmou que a medida representa um marco para a área e demandará engajamento dos sistemas educacionais.

"É um material de grande importância pela complexidade que foi encaminhada, transformando a alta complexidade desse assunto em algo bastante didático. É um avanço importante. Estamos num momento que nunca foi tão importante que tenhamos capacidade de conhecer nosso próprio processo de pensamento. A interação com a máquina, com a ferramenta, exige um passo muito mais ousado", disse.