Pesquisadora defende competências críticas no uso de IA no ensino

A Inteligência Artificial já é uma realidade na educação. Mesmo que não seja mais uma novidade para professores e alunos, ainda existem dúvidas que envolvem ética, aprendizagem e segurança. Com 25 anos de experiência em pesquisa, a cientista social Graziela Castello investiga as novas dinâmicas que se apresentam em sala de aula com a presença de aparatos tecnológicos.

Atual coordenadora de Estudos Setoriais e Métodos Qualitativos do Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação (Cetic) – departamento do Núcleo de Informação e Coordenação do Ponto BR e um dos braços executivo do Comitê Gestor da Internet no Brasil –, ela coordenou um importante estudo sobre os usos e riscos da IA na educação brasileira. Em entrevista para o Educação em Pauta, Graziela compartilha sua visão sobre os desafios de interpretar as transformações da sociedade contemporânea.

A pesquisa “Inteligência Artificial na Educação: usos, oportunidades e riscos no cenário brasileiro” aponta crescimento no uso da IA nas escolas do país. Como alunos e professores estão incorporando essas ferramentas no ambiente escolar?

O estudo investigou de maneira aprofundada, a partir da realização de grupos focais com estudantes e professores do Ensino Médio, como esses públicos têm utilizado ferramentas de IA em seu cotidiano e para suas rotinas de estudo (no caso dos alunos) e na prática docente (no caso dos professores). Os alunos apontam que, para os estudos, o uso dessas ferramentas varia entre o que chamam de apoio pontual (resumos, anotações, ideias para redações) e o que entendem por usos que geram dependência (resolução de exercícios completos, por exemplo).

Os estudantes mencionam o uso de ferramentas variadas: o ChatGPT é o mais mencionado para atividades escolares, dentro e fora da escola, o Gemini é utilizado para pesquisas rápidas, o Character AI, mencionado para criar personagens, e Leonardo AI é utilizado para criação de imagens. A IA é vista pelos estudantes como apoio complementar ao estudo, mas que não substitui professores e livros. Na visão dos adolescentes, há um “pacto silencioso” nas escolas: professores fingem não saber que os alunos usam IA e os alunos fingem não usar. Os estudantes relataram ainda desenvolver estratégias para adaptar os conteúdos que elaboram com IA para evitar a detecção dos professores.

Em uma reportagem da Agência Brasil sobre o estudo, você destacou que o uso da IA exige políticas de segurança rigorosas. Pensando na gestão escolar, quais seriam os pontos inegociáveis no regimento da escola para garantir a proteção de dados e evitar vieses algorítmicos?

O estudo também contemplou entrevistas em profundidade com representantes do governo, academia, sociedade civil, desenvolvedores de IA e gestores de escolas públicas e privadas, todos engajados na agenda de IA na Educação. Um ponto recorrente das entrevistas foi a distinção feita entre a IA preditiva e a generativa. 

A preditiva é usada no ambiente escolar para analisar dados, identificar padrões, prever evasão e otimizar processos. Já a generativa, para apoiar a elaboração de planos de aula, oferecer feedbacks e ampliar debates em sala. Simultaneamente, os especialistas relataram preocupações com “alucinações” das ferramentas, como respostas distorcidas ou erradas, plágio, perfilamento excessivo de estudantes, impactos no desenvolvimento cognitivo e possíveis hierarquizações em avaliações assistidas por IA. 

Perfilamento diz respeito ao possível resultado da IA pensada para avaliar particularmente o desempenho de cada estudante. Ou seja, ela produziria perfis, indicações específicas para cada estudante, o que pode ter como resultado negativo o excesso de vigilância ou até o abandono de casos considerados “muito difíceis”.

Muitos destacaram que benefícios e riscos frequentemente se sobrepõem: a personalização pode ser positiva, mas, se excessiva, pode gerar discriminação; a inovação é desejável, mas, sem propósito pedagógico claro e infraestrutura adequada, pode se tornar um problema.

Assim, os pontos importantes para o regimento escolar devem incluir políticas assertivas de proteção de dados, critérios transparentes para uso das ferramentas, supervisão humana nas decisões pedagógicas e avaliação contínua de riscos e impactos. Em síntese, é a forma de uso — orientada por regras claras e por uma governança colaborativa — que determinará se a IA será um benefício ou um risco na educação.

Alguns professores demonstram receio de que a IA possa substituir o raciocínio crítico. A partir da sua experiência como pesquisadora, como a IA pode atuar como assistente pedagógico? Há evidências de apoio à personalização do ensino ou à redução da carga administrativa?

Os professores demonstram preocupação com os impactos da IA no aprendizado dos estudantes, especialmente quando seu uso pode estimular o imediatismo, favorecer aprendizagens superficiais — pela confiança acrítica nas respostas geradas — ou ampliar a desinformação, quando não há checagem de fontes e confronto com os conteúdos trabalhados em sala.

Ao mesmo tempo, o estudo mostra que o uso de ferramentas de IA já é bastante disseminado entre docentes do ensino médio, tanto em escolas públicas quanto privadas. Elas são utilizadas principalmente no planejamento de aulas e na produção de materiais didáticos, permitindo adaptar conteúdos, diversificar atividades e explorar diferentes formatos, de acordo com os perfis dos alunos.

A IA também é mencionada como apoio em tarefas administrativas, como organização de avaliações, elaboração de listas e registros, contribuindo para reduzir a carga de atividades repetitivas. Ainda assim, os professores ressaltam a importância de revisar criticamente os conteúdos gerados e ajustá-los às necessidades de cada turma.

O uso ético da IA é um tema recorrente entre professores e gestores. Como as escolas podem estruturar uma formação continuada que vá além do uso operacional e estimule estudantes e educadores a questionarem os resultados gerados pela IA?

Na avaliação dos especialistas entrevistados, o uso ético da IA na Educação depende de uma formação continuada que vá além do treinamento técnico. Não basta ensinar a operar ferramentas, é preciso desenvolver competências críticas para compreender como os sistemas funcionam, quais dados utilizam, que limitações apresentam e quais vieses podem reproduzir.

As escolas podem estruturar essa formação integrando a IA ao currículo de maneira transversal, promovendo discussões sobre ética, privacidade, proteção de dados, transparência algorítmica e impacto social da tecnologia. Professores devem ser preparados para questionar resultados gerados por IA, avaliar sua consistência e contextualizá-los pedagogicamente — e os alunos precisam ser estimulados a fazer o mesmo.

Para isso, são essenciais infraestrutura adequada, conectividade, governança clara de dados e diretrizes institucionais que orientem o uso responsável. Com intencionalidade pedagógica, formação consistente e regras transparentes, a IA pode ser utilizada de forma crítica e ética, contribuindo para inclusão, equidade e qualidade na educação.

Um dos riscos apontados na pesquisa é o aprofundamento das lacunas de aprendizagem quando a IA é usada apenas para tarefas mecânicas. Como coordenadores pedagógicos podem transformar a IA em uma ferramenta de equidade, e não apenas um facilitador de plágios ou respostas prontas?

A pesquisa indica que o impacto da IA na aprendizagem depende, em grande medida, da forma como ela é incorporada às práticas pedagógicas. Coordenadores pedagógicos têm um papel importante ao definir diretrizes claras de uso, alinhadas ao projeto pedagógico da escola. Isso inclui incentivar atividades em que a IA seja utilizada como ponto de partida para reflexão, revisão e aprofundamento, e não como substituta do processo de aprendizagem. Também é possível utilizá-la para oferecer apoio personalizado a estudantes com diferentes ritmos e necessidades, desde que haja acompanhamento docente.

Além disso, investir na formação dos professores para compreender limites, potenciais e riscos das ferramentas ajuda a criar um ambiente em que a IA seja usada de forma crítica e responsável. Assim, em vez de apenas facilitar respostas prontas, a tecnologia pode contribuir para ampliar oportunidades de aprendizagem e reduzir desigualdades.

Leia também:
>> O que esperar da próxima década em educação e tecnologia
>> Um novo olhar sobre o uso de telas
>> Do mimeógrafo à Inteligência Artificial, o professor se reinventa

A pesquisa identificou alguma resistência de professores mais velhos em relação ao uso da IA? É possível pensar em estratégias de acolhimento tecnológico para quem enfrenta mais dificuldade?

Como o estudo teve natureza qualitativa, não é possível afirmar que as eventuais resistências ao uso de IA estejam diretamente associadas à idade, embora dados da TIC Educação 2024 indiquem maior incidência de uso entre professores mais jovens.

Nos grupos focais com docentes do ensino médio, a minoria que não utilizava IA apresentou diferentes razões: alguns preferem métodos tradicionais, valorizando reflexão, criatividade e interação direta com os alunos; outros mencionaram medo, falta de confiança ou desconhecimento sobre as ferramentas. Ainda assim, mesmo entre os não usuários, há o reconhecimento de que a IA pode otimizar o tempo e apoiar o planejamento de aulas.

De modo geral, os relatos revelam uma postura marcada por experimentação, pragmatismo e cautela. A IA tende a ser vista como recurso complementar, que pode potencializar o trabalho docente, desde que utilizada com critérios de relevância, adequação pedagógica e responsabilidade. Estratégias de acolhimento tecnológico — como formações práticas, espaços de troca entre pares e apoio contínuo — podem contribuir para ampliar a confiança e favorecer uma adoção mais segura e consciente.

TAGS