CNE aprova diretrizes para uso de inteligência artificial na educação

Gabriel Botelho

Documento segue para homologação no Ministério da Educação (MEC) - (crédito: Maurenilson/CB)

O Conselho Nacional de Educação (CNE) aprovou, nessa segunda-feira (1°/9), as diretrizes que tornam possível o uso de inteligência artificial na educação. As normas estabelecem níveis de risco do eventual emprego da tecnologia em diferentes tipos de atividade na área educacional. O documento, no entanto, ainda precisará ser homologado pelo Ministério da Educação (MEC). 

• Leia também: Pé-de-Meia paga hoje parcela para nascidos em novembro e dezembro
  

Um documento com uma uma escala de risco foi elaborado para orientar escolas e universidades diante da novidade. Os níveis variam de "baixo risco" até "risco excessivo ou incompatível com finalidades educacionais".

Além disso, foi estipulado o período de 1 ano para que as redes se adequem às normas após a homologação do texto. O intuito é orientar gestores para o uso saudável dessas ferramentas, sem que hajam prejuízos aos estudantes. 

Os usos de baixo risco são os destinados, de forma geral, a planejamento e organização. Eles não levam em conta funcionalidades como avaliações. Entre eles estão: 

• organização de materiais didáticos; 
• apoio à acessibilidade; 
• revisão textual não avaliativa; 
• ferramentas auxiliares de planejamento;
• sistemas sem perfilização individual significativa. 
  

Os de risco moderado são os que promovem algum nível de interação com os estudantes. Nesses casos, é indicado que haja revisão humana obrigatória e monitoramento frequente. Entre eles estão:

• sistemas de tutoria; 
• ferramentas de feedback formativo;
• assistentes institucionais; apoio à produção textual;
• mecanismos de recomendação acadêmica sem efeito decisório automático. 

Os de alto risco são as que podem surtir efeitos de forma direta na vida acadêmica dos alunos, assim como restringir direitos. Um exemplo é a seleção de alunos por meio da IA. Entre eles estão: 

• sistemas de correção automatizada de avaliações com repercussão acadêmica; 
• "proctoring biométrico", ou seja, ferramenta que utiliza a IA para verificar características físicas dos estudantes em tempo real;
• perfilização acadêmica individualizada; sistemas relacionados à seleção, certificação, concessão de benefícios ou análise disciplinar; e
• aplicações que envolvam tratamento de dados pessoais sensíveis ou inferências comportamentais relevantes.
  

Já o grau mais alto, definido como risco excessivo ou incompatível com o sistema educacional, incluiu atividades que podem ser discriminatórias, que podem resultar em violações dos direitos estudantis. Entre eles estão: sistemas de pontuação social; vigilância emocional; exploração de vulnerabilidades de  estudantes; perfilização psicológica ou biométrica para fins classificatórios ou disciplinares; e decisões exclusivamente automatizadas com efeitos relevantes. 

• Leia também: Paula Belmonte e Leandro Grass defendem escola em tempo integral

Em entrevista ao Correio, a diretora-presidente da Fundação Telefônica Vivo, Lia Glaz, classifica a aprovação das diretrizes por parte do CNE como um avanço. De acordo com ela, a ação é um primeiro parte importante, já que a presença da inteligência artificial na vida dos estudantes, algo que já é realidade, precisa ser orientada.  

"A aprovação de diretrizes para o uso da inteligência artificial na educação é um avanço. Importante ressaltar que esse é um primeiro passo, pois o MEC ainda precisa homologar para virar regra. É inquestionável que a IA já faz parte da realidade de estudantes e educadores e, diante de uma transformação dessa dimensão, é importante termos diretrizes com princípios claros que orientem seu uso de maneira ética, segura e responsável, sempre tendo a aprendizagem e o desenvolvimento dos estudantes como ponto de partida", assegurou. 

Lia também destaca a importância de traçar uma estratégia clara com o uso da IA. É importante, de acordo com ela, entender quais problemas o consumidor deseja resolver, e como contextualizar o uso em questão. Conforme exemplo citado por ela, usar a ferramenta para ganho de produtividade em um contexto de gestão de dados das escolas é muito diferentes de usá-la na versão generativa dentro das salas de aula. 

"A classificação de riscos que o documento traz é algo que pode apoiar a compreensão de diferentes usos da IA e, com isso, direcionar inclusive o papel do professor. O uso de ferramentas com inteligência artificial embarcada pode ampliar possibilidades pedagógicas, apoiar o planejamento de aulas, oferecer dados para tomadas de decisão e contribuir para experiências de aprendizagem mais personalizadas", detalhou. 

"O grande desafio será equilibrar o cuidado com questões como dados e reforço do papel do professor, por exemplo, com a necessária inovação nesse campo, que ainda é muito novo. Por isso, é importante que as a diretrizes ofereçam princípios, limites e salvaguardas ao mesmo tempo em que se compreenda que elas são publicadas num contexto de mudanças aceleradas", completou.