“A escola é a controladora dos dados”, alerta Alessandra Borelli

Debate latente na sociedade contemporânea, o uso de inteligência artificial (IA) e da tecnologia, como um todo, ganha ainda mais ênfase no contexto educacional. Formar uma geração em meio a ferramentas desafiadoras exige uma série de cuidados, que começa pela proteção das crianças e adolescentes e chega ao tratamento de informações sensíveis, passando pela formação integral enquanto cidadãos.

A advogada Alessandra Borelli se dedica há quase 20 anos ao direito digital e à proteção de crianças e adolescentes no ambiente digital. Ela é sócia-fundadora da Borelli Advogados, que atua com foco em governança, direito digital e educação. Nesta entrevista, ela comenta os principais desafios para as instituições de ensino, diante de um sem-fim de ferramentas e plataformas que prometem facilitar a vida dos educadores e incrementar o processo de aprendizagem.

“Segurança jurídica, na escola, depende menos de um documento perfeito e mais de saber quem faz o quê, com quais dados, em qual ferramenta e com qual finalidade”, defende. A especialista avalia as normas apresentadas recentemente pelo Conselho Nacional de Educação (CNE), que versam sobre o uso de IA na educação básica, além de trazer dicas práticas para que as escolas estabeleçam uma política robusta de proteção em relação ao mundo digital.

Alessandra é autora de diversos livros, como “Crianças e Adolescentes no Mundo Digital” e “ECA Digital – aspectos práticos e teóricos“, e integra o Grupo Técnico de Trabalho de Cibereducação do Conselho Nacional de Cibersegurança (CNCiber). No dia a dia, atende escolas, edtechs e outras empresas para implementar programas de governança digital, além de ser palestrante, com foco especial na educação, por acreditar que “o direito só protege de verdade quando chega a quem convive com as crianças todos os dias”.

Que particularidades das instituições de ensino devem ser observadas quando se fala de segurança jurídica no tratamento de dados e no uso de inteligência artificial?

A escola não é uma empresa qualquer tratando dados. Ela cuida de pessoas em formação, e isso muda tudo. Os dados que circulam em uma escola contam a história de uma criança, com notas, comportamento, laudos, fotos, conflitos familiares e alergias. Por isso, a Lei Geral de Proteção de Dados (LGPD) exige, no artigo 14, que todo tratamento de dados de crianças e adolescentes observe o melhor interesse deles.

Outra particularidade é que a escola tem muitas portas de entrada. Professor, coordenação, secretaria, fornecedor de plataforma, fotógrafo de evento, grupo de pais no WhatsApp e por aí vai. Cada uma dessas portas é um ponto de exposição e, com a IA, isso se multiplica, porque muitas vezes o professor usa uma ferramenta gratuita com a melhor das intenções e acaba inserindo ali dados de alunos sem saber para onde eles vão.

Segurança jurídica, na escola, depende menos de um documento perfeito e mais de saber quem faz o quê, com quais dados, em qual ferramenta e com qual finalidade.

A que riscos as instituições estão expostas em relação aos menores de idade? 

Vejo três grandes grupos de risco. O primeiro é a exposição indevida, que aparece em fotos publicadas sem cuidado, vazamento de informações sensíveis e dados inseridos em ferramentas de IA abertas. O segundo é a violência digital entre os próprios alunos, como cyberbullying, montagens com IA, os chamados nudes falsos e gravações feitas em sala de aula. O terceiro é o uso comercial dos dados das crianças por plataformas que a escola contratou sem olhar com atenção.

Como mitigá-los?

A mitigação começa por um diagnóstico honesto. A escola precisa mapear quais dados trata, quais sistemas usa e quem tem acesso. A partir daí vêm regras claras, contratos bem feitos, formação da equipe e um protocolo de resposta para quando algo der errado, porque algo sempre pode dar errado. O que faz diferença é a escola saber agir com rapidez e acolhimento quando isso acontece.

A senhora defende que o perigo reside em um uso sem governança de dados, imagens e vozes. Como estabelecer uma política sólida nesse sentido?

Exatamente. A tecnologia em si não é a vilã; o problema é o uso sem critério. Tenho visto escolas que, por medo, proíbem tudo. E também vejo o oposto: escolas sem políticas, fluxos decisórios, planos de respostas a incidentes e mais. 

Uma política sólida trata a imagem em camadas. Registros da rotina escolar podem circular em canais restritos às famílias. Imagens em que a criança não é identificável podem ser usadas com mais liberdade. Já a divulgação de imagem, voz ou nome que identifique o aluno em canais abertos depende de autorização específica, livre e revogável. Usos comerciais, como campanhas publicitárias, exigem um termo próprio para cada caso. Simples assim, e desde muito antes de se falar em Estatuto da Criança e do Adolescente (ECA) Digital. 

Para a IA vale a mesma lógica. A escola precisa definir quais ferramentas estão autorizadas, para quais finalidades e com quais dados. Também deve deixar claro que dados de alunos não entram em ferramentas abertas e que nenhuma decisão importante sobre a trajetória de um estudante pode ficar só com a máquina.

Leia também:
>> Como as novas regras de CNE e CEEd/RS para uso da IA impactam no ensino
>> LGPD nas escolas garante dados protegidos e ensino de qualidade
>> O impacto do novo ECA Digital na rotina das escolas

Que tipos de iniciativa as escolas têm tomado com melhores resultados?

As escolas que estão se destacando tratam o tema como cultura, e não apenas como um documento para arquivar.

Uma das ações é revisar o kit de matrícula, com contratos, termos de uso de imagem e avisos de privacidade, para que as famílias entendam claramente o que estão assinando. Outra é capacitar professores e a equipe administrativa utilizando casos reais, em vez de focar apenas em teoria.

Também é fundamental criar um protocolo claro para incidentes digitais, especificando quem acolhe, quem apura e quem comunica, com prazos, responsáveis e fluxos bem definidos. Por fim, convém levar o tema para a sala de aula, promovendo os alunos a protagonistas no debate sobre privacidade e uso ético da inteligência artificial.

Qual o papel da família nesse processo? 

A família é corresponsável, e o ECA Digital reforçou isso ao tratar do dever de supervisão parental no ambiente digital. A escola cuida do que acontece no seu espaço e nas suas plataformas, mas grande parte da vida digital das crianças acontece em casa, no celular, à noite. Sem a família, nenhuma política se sustenta.

Como deve ser estruturada a comunicação entre escola e responsáveis?

A comunicação precisa ser contínua e simples. Não adianta um documento de vinte páginas assinado na matrícula e esquecido na gaveta. O que funciona são canais oficiais bem definidos, regras explicadas em linguagem acessível, encontros periódicos e transparência quando a escola adota uma ferramenta nova. Outro ponto importante é deixar claro que combinados feitos por canais pessoais não substituem os canais institucionais. Isso protege a família, o aluno e o próprio professor.

Famílias e escolas precisam estar em sintonia, na mesma página e unidas pela mesma causa: o bem-estar e o desenvolvimento de seus filhos/alunos. 

Que cuidados as escolas precisam tomar na hora de contratar plataformas de ensino, sistemas que rodam online ou programas em geral?

Antes de assinar, a escola precisa fazer perguntas. Quais dados a plataforma coleta? Onde ficam armazenados? Há transferência para fora do Brasil? Os dados dos alunos são usados para treinar IA ou para publicidade? Quem acessa? O que acontece com os dados quando o contrato termina? Há recursos de supervisão parental e configurações de privacidade ativados por padrão?

E as respostas precisam ir para o contrato. Recomendo cláusulas de proteção de dados com obrigações claras para o fornecedor, como dever de comunicar incidentes, auditoria, vedação expressa de uso comercial e de treinamento de modelos com dados de alunos, além de regras de exclusão ao fim da relação. Ferramenta gratuita merece atenção redobrada. Quando o produto é de graça, muitas vezes o produto são os dados.

Saber onde os dados são armazenados (e o quão seguros estão) é responsabilidade do contratante, no caso, da escola? Como se proteger legalmente?

Sim. Na maioria dos casos, a escola é a controladora dos dados, ou seja, é ela quem decide por que e como os dados dos alunos são tratados. A LGPD atribui ao controlador o dever de adotar medidas de segurança e de escolher bem seus parceiros. O fornecedor da plataforma atua como operador e também responde, inclusive solidariamente, quando descumpre a lei ou as instruções da escola. Mas isso não tira da escola a responsabilidade perante as famílias.

A melhor proteção é a diligência documentada. Isso significa avaliar o fornecedor antes de contratar, registrar essa avaliação, ter um contrato robusto, manter um inventário dos sistemas usados e revisar periodicamente. Se um dia acontecer um incidente, a escola que consegue mostrar que fez sua parte está em uma posição muito diferente daquela que simplesmente clicou em “aceito”.

O que a legislação diz, hoje, em relação à responsabilidade das escolas? Como funciona em países que a senhora considera referência no assunto?

No Brasil, temos hoje um conjunto robusto. A LGPD trata dos dados pessoais, com cuidado especial para crianças e adolescentes. O ECA (Estatuto da Criança e do Adolescente) estabelece o dever de todos de prevenir violações de direitos. A Lei nº 13.185/2015 e a Lei nº 14.811/2024 tratam do bullying e do cyberbullying. A Lei nº 15.100/2025 regula o uso de celulares nas escolas. O ECA Digital, já em vigor, impõe deveres às plataformas e reforça a supervisão parental. Some-se a isso o CDC (Código de Defesa do Consumidor), que, nas escolas particulares, prevê responsabilidade independentemente de culpa pelos danos causados na prestação do serviço. E agora o CNE caminha para diretrizes específicas sobre IA.

Lá fora, gosto muito de duas referências. A primeira é o Reino Unido, com o Age Appropriate Design Code, conhecido como Children’s Code, que exige que serviços digitais usados por crianças sejam pensados para elas desde a concepção, com privacidade máxima por padrão. A segunda é a União Europeia, que, no seu Regulamento de IA, classificou como de alto risco os sistemas usados para avaliar estudantes ou decidir o acesso à educação e proibiu o reconhecimento de emoções em instituições de ensino. O Brasil está em boa companhia, e o parecer do CNE claramente dialoga com esses modelos.

Como a senhora avalia a normativa do Conselho Nacional de Educação em relação ao uso de inteligência artificial? 

Vejo o parecer com muito bons olhos. Ele foi aprovado pelo Conselho Pleno em setembro e aguarda homologação. O texto acerta ao não demonizar nem endeusar a tecnologia, pois parte da ideia de que a IA pode apoiar o ensino, mas nunca substituir o professor, e deixa isso bastante claro.

Destaco alguns pontos que considero fundamentais. O primeiro é a progressividade por etapa: na Educação Infantil, as crianças não usam IA; nos Anos Iniciais, fica vedada a interação dos alunos com IA generativa ou conversacional; e, nos Anos Finais, o uso só ocorre com a mediação do professor.

O segundo ponto é a classificação por nível de risco, inspirada no modelo europeu, que traz salvaguardas proporcionais a cada caso. O terceiro traz vedações claras com validade imediata desde a publicação, proibindo o reconhecimento de emoções, a vigilância biométrica contínua, a perfilização para fins comerciais ou disciplinares, as decisões exclusivamente automatizadas sobre a vida escolar e o uso de dados de crianças e adolescentes para treinar modelos de terceiros.

O quarto aspecto é a regra de que nenhum aluno pode ser punido com base apenas em detectores de texto gerados por IA – uma medida de justiça elementar, já que essas ferramentas falham com frequência. Por fim, em quinto lugar, destaca-se a exigência de que os contratos com fornecedores prevejam governança, auditoria e responsabilização, estabelecendo um prazo de doze meses para que as escolas se adequem.

Que pontos poderiam ser diferentes, no seu entendimento?

Primeiro, um olhar mais concreto sobre o Ensino Médio, que ficou menos detalhado do que as etapas anteriores. Segundo, a conexão com a realidade das escolas menores. O texto fala em proporcionalidade, mas muitas instituições vão precisar de modelos práticos, como roteiros de avaliação de fornecedores e cláusulas de referência, para sair do papel. Terceiro, a participação das famílias, que aparece sobretudo como destinatária de comunicação, quando poderia ser tratada como parte ativa da governança, em linha com o que o ECA Digital propõe. E, por fim, a formação docente, que está bem desenhada no texto, precisa vir acompanhada de tempo e recursos. Sem isso, corre o risco de ficar só na intenção.

TAGS