ANEXO IGLOSSÁRIO DE PALAVRAS, TERMOS E EXPRESSÕES UTILIZADOS NO CONTEXTO DA INTELIGÊNCIA ARTIFICIAL APLICADA À EDUCAÇÃO
APRESENTAÇÃO
O presente Glossário integra, na condição de Anexo, a proposta de Parecer e de Resolução que instituem Diretrizes para a Utilização da Inteligência Artificial - IA na Educação Brasileira. Sua finalidade é reduzir ambiguidades interpretativas, uniformizar o emprego de palavras, termos e expressões de natureza técnica, pedagógica e jurídico-regulatória, subsidiando a utilização da IA em escolas e universidades por todos os agentes envolvidos, professores, estudantes, gestores, famílias, pesquisadores, técnicos e comunidade em geral. As definições aqui consolidadas combinam três ordens de fontes: a) a terminologia técnica estabilizada em glossários e referenciais nacionais e internacionais da IA; b) os conceitos extraídos do próprio Parecer ou exigidos por sua lógica normativa, como supervisão humana significativa, classificação de risco, mediação docente, integridade acadêmica e proteção de dados pessoais; e c) as expressões jurídico-regulatórias necessárias à interpretação dos comandos normativos, como cláusula aberta, cláusula fechada, rol exemplificativo e conceito jurídico indeterminado. As descrições buscam clareza e precisão, evitando compreensões genéricas incompatíveis com a função orientadora do documento. As definições constantes deste Glossário não substituem a legislação vigente, a Constituição Federal de 1988, a Lei de Diretrizes e Bases da Educação Nacional - LDB, a Lei Geral de Proteção de Dados Pessoais - LGPD, o Estatuto da Criança e do Adolescente - ECA e o ECA Digital, o Marco Civil da Internet, a Lei Brasileira de Inclusão - LBI, a Política Nacional de Educação Digital - PNED e as demais normas aplicáveis. Havendo conflito ou dúvida, prevalecerá a norma de hierarquia superior ou a interpretação mais protetiva dos direitos fundamentais de estudantes, docentes, pesquisadores e demais sujeitos do processo educacional, com primazia da proteção integral e do melhor interesse da criança e do adolescente. Para todos os fins deste Glossário, IA deve ser compreendida como ferramenta de apoio, desprovida de personalidade, autonomia jurídica ou responsabilidade própria. A responsabilidade permanece integralmente atribuída às pessoas naturais e jurídicas que desenvolvem, contratam, disponibilizam, configuram, supervisionam ou utilizam os sistemas.
VERBETES
Os verbetes encontram-se organizados em ordem alfabética e numerados sequencialmente. A remissão interna entre verbetes deve ser interpretada de forma sistemática, à luz do Parecer e da Resolução a que este Glossário se anexa.
1. Acessibilidade apoiada por IA: Uso de sistemas de IA para reduzir barreiras sociais através de suportes comunicacionais, sensoriais, cognitivos, motores ou linguísticos, por meio de transcrição, audiodescrição, legendagem, tradução, leitura assistida, adaptação de interface ou recursos equivalentes. Não se confunde com perfilização por ter finalidade exclusiva de inclusão.
2. Adequação etária: Princípio segundo o qual a concepção, a seleção e a utilização de sistemas de IA na educação devem ser compatíveis com o estágio de desenvolvimento cognitivo, emocional, social e ético dos estudantes, especialmente de crianças e adolescentes. Impõe restrições progressivas de uso, mediação obrigatória por profissionais da educação e vedação de exposição a funcionalidades incompatíveis com a idade, em conformidade com o ECA Digital e com a proteção integral.
3. Agente de IA: Sistemas de IA autônomos ou semiautônomos projetados para processar entradas, planejar etapas, acionar ferramentas, Interfaces de Programação de Aplicações - API ou serviços externos e executar ações orientadas para objetivos específicos previamente definidos. Para o contexto educacional, seu uso exige explicabilidade, transparência quanto à finalidade, à lógica geral de programação, aos comandos operacionais, às ferramentas acionadas e aos limites de atuação do sistema, pois pode produzir efeitos operacionais, pedagógicos, avaliativos, administrativos ou institucionais. Deve haver supervisão humana significativa, registro das ações executadas, possibilidade de interrupção, revisão dos resultados e clara identificação dos responsáveis por sua configuração, autorização e monitoramento.
4. Agentes de tratamento de dados pessoais: Pessoas naturais ou jurídicas responsáveis pelo tratamento de dados pessoais, compreendendo o controlador, a quem competem as decisões referentes ao tratamento, e o operador, que realiza o tratamento em nome do controlador. No contexto educacional, instituições de ensino atuam ordinariamente como controladoras dos dados de estudantes, docentes e famílias, inclusive quando contratam plataformas de IA de terceiros, permanecendo responsáveis pela conformidade do tratamento.
5. Alucinação: Resposta incorreta, fictícia, inconsistente ou sem base factual gerada por sistema de IA generativa, ainda que apresentada com aparência de precisão e autoridade.
6. Análise de dados: Conjunto de procedimentos estatísticos, computacionais ou interpretativos destinados a organizar, descrever e extrair informações de dados.
7. Anonimização: Processo técnico pelo qual um dado deixa de poder ser associado, direta ou indiretamente, a pessoa natural identificada ou identificável, considerados meios técnicos razoáveis e disponíveis. Deve ser criteriosa, pois bases pequenas ou cruzamentos com outros dados podem permitir reidentificação.
8. Aprendizado de máquina: Subcampo da IA que utiliza dados e modelos estatísticos para melhorar o desempenho de sistemas em tarefas específicas, sem programação explícita para cada situação. Pode ser empregado em recomendação de conteúdos, análise preditiva e reconhecimento de padrões educacionais.
9. Aprendizado não supervisionado: Paradigma de aprendizado de máquina em que o modelo identifica padrões, agrupamentos ou estruturas em dados não rotulados, sem respostas previamente definidas. Na educação, pode ser utilizado para agrupamento de perfis de aprendizagem, hipótese que demanda cautela por aproximar-se da perfilização.
10. Aprendizado por reforço: Paradigma de aprendizado de máquina em que o sistema aprende por tentativa e erro, mediante recompensas e penalidades associadas às ações executadas em determinado ambiente, otimizando comportamento ao longo do tempo. Integra o desenvolvimento de sistemas adaptativos e de modelos de linguagem ajustados por retroalimentação humana.
11. Aprendizado profundo: Técnica de aprendizado de máquina baseada em redes neurais artificiais com múltiplas camadas, capaz de aprender representações complexas de dados. Sustenta aplicações como reconhecimento de voz, visão computacional, tradução automática e grandes modelos de linguagem.
12. Aprendizado supervisionado: Paradigma de aprendizado de máquina em que o modelo é treinado a partir de dados rotulados, isto é, exemplos acompanhados das respostas esperadas, para aprender a mapear entradas em saídas. É empregado, por exemplo, em classificação de textos e predição de desempenho. A qualidade e a representatividade dos rótulos condicionam diretamente a ocorrência de vieses.
13. Arquitetura aberta: Solução tecnológica cujo código, documentação, pesos, modelos, padrões ou interfaces são disponibilizados de forma aberta ou interoperável, em diferentes graus. Pode favorecer auditabilidade, adaptação local, soberania tecnológica e controle público, sem afastar deveres de segurança e governança.
14. Arquitetura proprietária: Modelo, plataforma ou infraestrutura cujo código, dados, parâmetros ou funcionamento interno são controlados por fornecedor privado, com acesso limitado por usuários, instituições e reguladores. Demanda atenção à auditabilidade, dependência tecnológica, proteção de dados e transparência suficiente para uso educacional.
15. Auditoria de sistemas de IA: Processo documentado de verificação técnica, jurídica, ética e pedagógica de sistemas de IA, destinado a avaliar conformidade, segurança, viés, desempenho, rastreabilidade, proteção de dados e adequação aos objetivos educacionais. Deve ser proporcional ao risco da aplicação.
16. Autodeterminação informativa: Fundamento da disciplina de proteção de dados pessoais que assegura à pessoa natural o controle sobre suas próprias informações, compreendendo o direito de conhecer, acessar, corrigir e opor-se a tratamentos que lhe digam respeito. No ambiente educacional, orienta a interpretação de consentimentos, a transparência das plataformas e os direitos de estudantes, famílias e docentes perante sistemas de IA.
17. Automação convencional: Execução automática de tarefas previamente definidas por regras fixas, sem aprendizagem adaptativa relevante, inferência complexa ou geração autônoma de conteúdo. Deve ser distinguida de IA para fins de proporcionalidade regulatória.
18. Autonomia intelectual: Capacidade de formular perguntas, construir argumentos, interpretar dados, avaliar fontes, criar hipóteses, sustentar raciocínio próprio e exercer juízo crítico.
19. Autoria intelectual: Atribuição de responsabilidade intelectual a pessoa natural ou grupo de pessoas pela concepção, elaboração, argumentação, análise, discussão e apresentação de trabalho acadêmico ou científico.
20. Avaliação de Impacto Algorítmico: Procedimento prévio e periódico destinado a identificar, avaliar e mitigar riscos produzidos por sistemas algorítmicos, inclusive vieses, erros, discriminação, opacidade, impacto pedagógico, exclusão, vigilância, dependência tecnológica e afetação de direitos.
21. Base de dados educacional: Conjunto estruturado de dados pessoais e não pessoais produzidos, coletados ou mantidos por instituições educacionais e sistemas de ensino, incluindo registros acadêmicos, administrativos e de interação com plataformas digitais. Sua utilização para desenvolvimento, treinamento, ajuste ou integração de sistemas de IA exige base legal, finalidade educacional específica, segurança da informação e vedação de utilização incompatível.
22. Bem-estar digital: Condição de equilíbrio físico, mental e social na relação dos sujeitos do processo educativo com tecnologias digitais, compreendendo a prevenção da sobrecarga cognitiva, da hiperconexão, da dependência tecnológica e de danos à saúde decorrentes do uso intensivo de sistemas, inclusive de IA.
23. Biometria e dados biométricos: Dados pessoais sensíveis relativos a características físicas, fisiológicas ou comportamentais que permitam a identificação única de pessoa natural, como face, voz, íris, impressão digital e padrões de digitação. Sua utilização e tratamento em ambiente educacional exige necessidade estrita e justificada, proporcionalidade e adoção da alternativa menos invasiva.
24. Chatbot educacional: Sistema conversacional automatizado que interage por linguagem natural com estudantes, famílias, docentes ou gestores para apoio ao estudo, atendimento, orientação ou gestão. Seu uso deve informar o caráter automatizado da interação e preservar o canal de atendimento humano quando houver impacto relevante ou demanda sensível.
25. Cidadania digital: Conjunto de conhecimentos, atitudes e competências que habilitam o exercício ético, crítico, seguro e responsável de direitos e deveres nos ambientes digitais, compreendendo participação, respeito, proteção de dados, combate à desinformação e uso responsável de IA.
26. Computação em nuvem: Modelo de fornecimento de recursos computacionais, armazenamento, processamento e serviços, por meio de infraestrutura remota acessada pela internet. A contratação de serviços de IA em nuvem por instituições educacionais deve observar segurança da informação, localização e regime jurídico dos dados, cláusulas de confidencialidade, vedação de reutilização de dados educacionais e condições de portabilidade e reversibilidade.
27. Consentimento informado: Manifestação livre, informada e inequívoca pela qual o titular concorda com o tratamento de seus dados pessoais para finalidade determinada. O consentimento não pode ser presumido, condicionado indevidamente ao acesso a atividades essenciais, nem obtido de forma genérica; tratando-se de crianças e adolescentes, deve observar o melhor interesse, a proteção integral e, quando exigível, o consentimento específico de ao menos um dos pais ou responsável legal.
28. Conteúdo sintético: Texto, imagem, áudio, vídeo ou outro material gerado ou substancialmente modificado por sistemas de IA.
29. Correção automatizada: Utilização de sistemas de IA para correção de instrumentos avaliativos.
30. Curadoria docente: Atividade docente e institucional de seleção, verificação, adaptação, contextualização e validação de conteúdos, inclusive dos gerados por sistemas de IA, à luz dos objetivos de aprendizagem, da exatidão científica, da adequação etária e dos valores educacionais.
31. Dados educacionais: Dados produzidos ou tratados em contexto educacional, incluindo matrícula, frequência, notas, atividades, interações em plataformas, registros de aprendizagem, permanência, atendimento, acessibilidade, comportamento acadêmico e indicadores institucionais entre outros. Podem ser pessoais ou sensíveis, conforme o caso. Possuem finalidade de treinamento quando utilizados para ajustar, ensinar ou calibrar um modelo de IA. Sua qualidade, representatividade, licitude e diversidade influenciam diretamente desempenho, vieses, exclusões e riscos discriminatórios.
32. Dados pessoais sensíveis: Dados sobre origem racial ou étnica, convicção religiosa, opinião política, filiação sindical ou associativa, saúde, vida sexual, dado genético ou biométrico, entre outros, quando vinculados a pessoa natural. Em educação, exigem proteção reforçada, especialmente quando relativos a crianças e adolescentes.
33. Decisão automatizada: Decisão produzida por sistema computacional a partir de tratamento de dados, com ou sem participação humana em alguma fase do processo. No ambiente educacional, decisões apoiadas por IA devem preservar responsabilidade humana, fundamentação, registro e possibilidade de revisão.
34. Detectores de conteúdo gerado por IA: Ferramenta que estima se texto, imagem, áudio ou outro conteúdo foi produzido por IA. Em razão de falsos positivos e falsos negativos, não deve fundamentar sanções acadêmicas ou disciplinares.
35. Embasamento ou grounding: Processo de conectar a resposta de um modelo a fontes verificáveis e contextuais, reduzindo alucinações e aumentando confiabilidade. Em educação, é relevante para assistentes baseados em documentos oficiais, currículos, normas institucionais e materiais validados.
36. Engenharia de comando ou engenharia de prompt: Processo de formular, estruturar e refinar comandos para orientar respostas de modelos generativos. Integra o letramento em IA, mas não substitui domínio conceitual, julgamento crítico, autoria ou validação humana.
37. Equidade no contexto digital: Princípio que impõe a distribuição justa das oportunidades de acesso, uso significativo e apropriação crítica das tecnologias digitais e da IA, com atenção às desigualdades territoriais, socioeconômicas, raciais, de gênero e relativas a pessoas com deficiência.
38. Explicabilidade: Capacidade de fornecer explicações compreensíveis sobre o funcionamento, critérios, dados, limites e resultados de um sistema de IA.
39. Governança de IA: Conjunto de políticas, instâncias, procedimentos e responsabilidades para selecionar, contratar, documentar, monitorar, auditar, revisar e descontinuar sistemas de IA. Inclui gestão de riscos, proteção de dados, transparência, participação, formação e resposta a incidentes.
40. IA agêntica: Categoria de IA capaz de executar sequências de ações com autonomia ou semiautonomia, acionar ferramentas e tomar decisões intermediárias para cumprir metas.
41. IA generativa: Ramo da IA projetado para criar conteúdos, como textos, áudios, imagens, vídeos e até códigos de software. Essa tecnologia se baseia em modelos computacionais avançados, que aprendem padrões a partir de grandes volumes de dados.
42. IA preditiva: Sistema que utiliza dados históricos ou padrões observados para estimar probabilidades, riscos ou tendências futuras, como evasão, desempenho ou necessidade de intervenção. Pode apoiar gestão e acompanhamento, mas não deve produzir decisões automáticas sobre estudantes.
43. Impacto algorítmico: Efeito produzido por sistema algorítmico sobre pessoas, grupos, instituições ou processos educacionais, incluindo consequências pedagógicas, avaliativas, administrativas, distributivas, cognitivas, discriminatórias ou de proteção de dados.
44. Inclusão no contexto digital: Conjunto de políticas, ações e condições destinadas a assegurar a todas as pessoas o acesso efetivo e o uso qualificado das tecnologias digitais, compreendendo conectividade, dispositivos, acessibilidade, competências digitais e apropriação crítica. Constitui pressuposto de equidade na adoção educacional da IA.
45. Inferência comportamental: Conclusão automatizada sobre comportamento, engajamento, emoção, risco, intenção, perfil ou tendência de estudante ou docente a partir de dados observados.
46. Inteligência Artificial - IA: ferramenta tecnológica dedicada ao desenvolvimento de sistemas computacionais capazes de executar, com graus variados de autonomia, tarefas que ordinariamente requerem capacidades cognitivas humanas, como percepção, compreensão de linguagem, raciocínio, aprendizado, planejamento e geração de conteúdo, abrangendo, entre outras aplicações, sistemas preditivos, sistemas generativos, agentes inteligentes e tutores digitais, com diferentes finalidades, graus de autonomia, níveis de transparência, auditabilidade e perfis de risco.
47. Interoperabilidade: Capacidade de sistemas, plataformas e bases de dados operarem de forma integrada, mediante padrões abertos e formatos compatíveis, permitindo intercâmbio de informações, portabilidade e substituição de fornecedores. Constitui salvaguarda contra a dependência tecnológica e instrumento de soberania e continuidade do serviço educacional.
48. Letramento digital: Conjunto de conhecimentos, habilidades e atitudes necessários ao uso crítico, seguro, ético e produtivo das tecnologias digitais, compreendendo busca e avaliação de informações, comunicação, criação de conteúdo, proteção de dados e cidadania digital.
49. Letramento em IA: Conjunto de conhecimentos, habilidades, atitudes e valores necessários para compreender, utilizar, avaliar, contestar e criar com IA de forma crítica, ética, segura e socialmente responsável. Abrange dimensões técnicas, pedagógicas, jurídicas, científicas e cidadãs.
50. LLM - grande modelo de linguagem: Modelo de IA treinado em grande volume de dados textuais, capaz de processar linguagem natural, gerar texto, resumir, traduzir, responder perguntas e apoiar tarefas acadêmicas. Seu funcionamento baseia-se em padrões probabilísticos e não equivale a compreensão humana.
51. Manipulação comportamental: Emprego de técnicas computacionais, inclusive de IA, destinadas a influenciar de modo oculto, enganoso ou subliminar decisões, emoções ou comportamentos de pessoas naturais, em desacordo com sua autonomia e melhor interesse.
52. Mecanismos de recomendação acadêmica: Mecanismo que sugere conteúdos, trilhas, disciplinas, atividades, intervenções, atendimento ou decisões de gestão a partir de dados educacionais. A recomendação automatizada não é ato neutro: ao ordenar, priorizar ou filtrar opções, condiciona de fato as escolhas de estudantes, docentes e gestores, razão pela qual sua adoção exige finalidade educacional específica, transparência sobre os critérios gerais de recomendação e preservação da liberdade de escolha do destinatário, vedado que a sugestão se converta, por desenho de interface, por omissão de alternativas ou por aceitação tácita, em decisão dissimulada.
53. Mineração de dados: Processo de exploração de grandes volumes de dados para identificação de padrões, correlações e conhecimentos não evidentes, mediante técnicas estatísticas e de aprendizado de máquina.
54. Minimização de dados: Princípio segundo o qual apenas os dados estritamente necessários, adequados e proporcionais à finalidade declarada devem ser coletados ou tratados. É requisito essencial em sistemas educacionais, especialmente com crianças e adolescentes.
55. Modelo de fundação: Modelo amplo, treinado com grande quantidade de dados e capaz de ser adaptado a diversas tarefas, inclusive texto, imagem, áudio e vídeo. Serve de base para múltiplas aplicações generativas ou preditivas.
56. Modelo proprietário de IA: Sistema cujo funcionamento, pesos, dados, código, métricas ou documentação são controlados por fornecedor, com acesso restrito. Sua utilização educacional exige garantias contratuais de transparência, auditabilidade, proteção de dados e responsabilidade.
57. Moderação de conteúdo: Atividade de análise, filtragem, sinalização ou remoção de conteúdos em plataformas digitais, realizada por meios humanos, automatizados ou híbridos. Em ambientes educacionais, deve proteger estudantes contra conteúdos ilícitos ou inadequados à idade, com transparência de critérios, precisão proporcional e possibilidade de revisão humana das medidas adotadas.
58. Monitoramento automatizado: Uso de sistemas computacionais para observar, registrar, classificar ou emitir alertas sobre condutas, interações, desempenho ou presença de estudantes, docentes ou demais membros da comunidade educacional. No contexto educacional, sua admissibilidade é excepcional e de interpretação restritiva.
59. Não discriminação algorítmica: Princípio que veda a produção, por sistemas de IA, de tratamento desigual injustificado, direto ou indireto, em razão de origem, raça, cor, gênero, idade, deficiência, condição socioeconômica, território, religião, convicção ou qualquer outro fator de discriminação. Impõe deveres de prevenção, teste, monitoramento e correção de vieses em todo o ciclo de vida do sistema.
60. Opacidade algorítmica: Característica de sistemas cujo funcionamento interno não é compreensível, acessível ou explicável aos usuários, às instituições ou aos órgãos de controle, seja por complexidade técnica, seja por restrições proprietárias. A opacidade não afasta os deveres de transparência e explicabilidade: quando a explicação adequada for inviável, a utilização do sistema em processos com impacto relevante sobre direitos deve ser evitada.
61. Pensamento computacional: Capacidade de compreender, analisar e resolver problemas mediante estratégias como decomposição, reconhecimento de padrões, abstração e construção de algoritmos, de forma crítica e criativa. Integra as competências digitais previstas nos referenciais curriculares.
62. Perfilização: Tratamento automatizado de dados pessoais destinado a avaliar, classificar, prever ou inferir aspectos relativos ao comportamento, ao desempenho, às características, às preferências, aos interesses, aos riscos, às trajetórias ou à vulnerabilidade de estudantes ou de outros integrantes da comunidade educacional.
63. Personalização da aprendizagem: Adaptação de conteúdos, ritmo, atividades, trilhas ou feedback ao perfil ou desempenho do estudante. A personalização da aprendizagem não se confunde com a individualização do currículo nem com a fragmentação do percurso formativo.
64. Plataforma externa de IA: Solução de terceiro acessada por internet, API, aplicativo ou ambiente em nuvem, sem controle integral pela instituição educacional.
65. Pontuação social: Sistema de avaliação, classificação ou ranqueamento de pessoas com base em comportamento, características ou dados pessoais, apto a condicionar acesso a direitos, serviços ou oportunidades. Nos sistemas de ensino, sua utilização é vedada.
66. Processamento de linguagem natural - PLN: Área da IA dedicada à compreensão, interpretação, geração e tradução da linguagem humana por sistemas computacionais. Fundamenta aplicações como chatbots, tradutores automáticos, corretores, sumarizadores e grandes modelos de linguagem.
67. Proctoring: utilização de sistemas computacionais, com ou sem dados biométricos, para monitorar estudantes durante avaliações ou atividades acadêmicas, mediante captação de imagem, som, tela, ambiente, olhar, voz, movimento ou padrões de comportamento, com finalidade de verificação de identidade ou sinalização de suspeitas de fraude.
68. Prompt (ou comando): Instrução, pergunta, documento, imagem, áudio ou conjunto de entradas fornecido ao sistema de IA generativa para solicitar respostas ou tarefas. Pode conter contexto, exemplos, restrições, papéis e formato esperado.
69. Prompt oculto ou system prompt: Conjunto de instruções internas, em regras invisíveis ao usuário, que orientam comportamento, limites, tom, função e respostas de um modelo de IA.
70. Pseudonimização: Tratamento por meio do qual um dado perde a possibilidade de associação direta a seu titular, senão pelo uso de informação adicional mantida separadamente em ambiente controlado e seguro. Diferentemente da anonimização, o dado pseudonimizado permanece dado pessoal.
71. Rastreamento ou rastreabilidade: Capacidade de registrar e reconstruir decisões, entradas, saídas, versões, dados relevantes, parâmetros, responsáveis e intervenções humanas relacionadas ao uso de IA. Indispensável para auditoria, contestação, revisão e responsabilização.
72. Reconhecimento de emoções: Técnica que pretende inferir estados emocionais, afetivos ou psicológicos de pessoas a partir de expressões faciais, voz, texto, sinais fisiológicos ou padrões comportamentais.
73. Reconhecimento facial: Técnica de identificação ou verificação biométrica baseada em características faciais. Por envolver tratamento de dado pessoal sensível e captar atributo permanente, inalterável e exposto da pessoa, submete-se a regime de restrição rigorosa no ambiente educacional, com admissibilidade excepcional e de interpretação restritiva, especialmente quando aplicada a crianças e adolescentes ou associada a controle disciplinar, aferição de frequência ou gestão da conduta.
74. Rede neural artificial: Modelo computacional inspirado no funcionamento de neurônios biológicos, composto por unidades de processamento interconectadas e organizadas em camadas, capaz de aprender representações a partir de dados. Constitui a base técnica do aprendizado profundo e dos grandes modelos de linguagem.
75. Relatório de Impacto à Proteção de Dados Pessoais - RIPD: Documentação que descreve os processos de tratamento de dados pessoais contendo os riscos às liberdades civis e aos direitos fundamentais, bem como as medidas, salvaguardas e mecanismos de mitigação adotados.
76. Revisão humana: Validação por pessoa qualificada de conteúdo, recomendação, classificação ou resultado produzido por IA. Deve ser efetiva, contextualizada e proporcional ao risco; não deve ser meramente formal, especialmente quando houver impacto sobre direitos ou avaliação.
77. Rotulagem de conteúdo gerado por IA: Identificação clara, acessível e verificável de que determinado conteúdo foi gerado ou substancialmente modificado por sistema de IA, mediante avisos, metadados ou marcas técnicas (como marca d'água digital). Constitui medida de transparência apta a prevenir desinformação, fraude e confusão sobre a origem de materiais utilizados no ambiente educacional. Na perspectiva das relações da prestação de serviços educacionais, a rotulagem integra o direito básico à informação adequada e clara sobre os serviços prestados, assegurado aos estudantes e responsáveis na condição de consumidores dos serviços de instituições privadas, e, nas instituições públicas, decorrente dos princípios da publicidade, da transparência e da boa-fé administrativa.
78. Segurança da informação: Conjunto de medidas técnicas e administrativas destinadas a proteger dados e sistemas contra acessos não autorizados, vazamentos, alterações indevidas, indisponibilidade e outros incidentes, compreendendo confidencialidade, integridade e disponibilidade. Constitui dever permanente das instituições educacionais e condição de contratação de plataformas de IA.
79. Segurança de sistemas de IA: Conjunto de atributos que expressam a capacidade do sistema de operar de forma confiável, resistir a falhas, erros, usos indevidos e ataques, inclusive manipulação de comandos e contaminação de dados, e de manter desempenho adequado em condições diversas. Constituem requisitos de adoção institucional e devem ser monitorados durante todo o ciclo de vida.
80. Sistema de Inteligência Artificial: Sistema computacional que, com graus variados de autonomia e adaptabilidade, infere, a partir das entradas que recebe, como gerar saídas, previsões, conteúdos, recomendações ou decisões capazes de influenciar ambientes físicos ou virtuais. A definição orienta a identificação das aplicações sujeitas às Diretrizes e à classificação de risco, distinguindo-as da automação convencional.
81. Sistema de tutoria inteligente: Sistema baseado em IA que oferece orientação, feedback, acompanhamento ou adaptação de atividades ao estudante.
82. Supervisão humana significativa: Atuação humana com capacidade efetiva de compreender, acompanhar, interpretar, contestar, revisar, corrigir ou interromper os resultados produzidos por sistemas de IA, exercida em condições institucionais adequadas.
83. Tecnologia assistiva: Produtos, recursos, metodologias, práticas e serviços destinados a promover a funcionalidade, a participação e a autonomia de pessoas com deficiência ou mobilidade reduzida, podendo incorporar IA, tais como leitores de tela inteligentes, comunicação alternativa e legendagem automática.
84. Transparência: Dever de informar, de forma clara, acessível e adequada ao público destinatário, quando a IA é utilizada, qual sua finalidade, seus limites, seus responsáveis e seus possíveis efeitos. Alcança estudantes, famílias, docentes, gestores e pesquisadores, conforme o contexto, com linguagem adaptada à capacidade de compreensão de cada público, inclusive de crianças e adolescentes.
85. Tratamento de dados pessoais: Toda operação realizada com dados pessoais, como coleta, produção, recepção, classificação, utilização, acesso, reprodução, transmissão, distribuição, processamento, arquivamento, armazenamento, eliminação, avaliação, modificação, comunicação, transferência, difusão ou extração.
86. Treinamento de modelo: Processo pelo qual um sistema de IA aprende padrões a partir de dados, mediante ajuste de seus parâmetros internos, compreendendo o treinamento inicial, o ajuste fino e a calibragem a partir de interações de uso. Em educação, a utilização de dados de estudantes, docentes ou instituições para treinamento requer base legal, finalidade educacional específica, minimização de dados, segurança da informação e vedação de exploração incompatível com a relação educacional.
87. Uso individual de IA: Uso realizado por estudante, docente ou pesquisador por iniciativa própria, fora de sistema institucional controlado. Embora não decorra de adoção institucional, não constitui espaço de irrelevância normativa: quando realizado em contexto pedagógico ou acadêmico, na elaboração de trabalhos, pesquisas, avaliações, produções submetidas à instituição ou atividades docentes, sujeita-se às normas institucionais sobre utilização de IA, aos deveres de integridade acadêmica e científica, inclusive quanto à declaração de uso quando exigida, às normas de proteção de dados pessoais, sendo vedada a inserção, em plataformas externas, de dados pessoais de estudantes, colegas ou terceiros, de produções alheias e de informações institucionais sigilosas e às vedações gerais das Diretrizes.
88. Uso institucional de IA: Uso definido, contratado, recomendado, disponibilizado ou integrado por sistema de ensino, rede ou instituição educacional. Diferencia-se do uso individual espontâneo por estudantes ou docentes e atrai deveres reforçados de governança, transparência, formação e responsabilidade. Caracteriza-se pelo ato institucional de adoção, qualquer que seja sua forma, contratação, licenciamento, integração a ambiente virtual, recomendação oficial, disponibilização de acesso ou incorporação a processo pedagógico, avaliativo ou administrativo, e a recomendação ou a exigência de uso de ferramenta externa por docente, no exercício de suas funções e com anuência ou tolerância institucional, equipara-se ao uso institucional para fins de responsabilidade.
89. Validação humana: Procedimento pelo qual pessoa natural qualificada e investida de competência para tanto examina e confirma, mediante juízo próprio e fundamentado, a adequação, a segurança, a qualidade, a coerência pedagógica ou a justiça de resultado produzido por sistema de IA, como condição para que esse resultado produza efeitos.
90. Viés algorítmico: Tendência de sistema de IA de, ao processar dados, produzir resultados injustos, discriminatórios, imprecisos ou inadequados para determinados indivíduos e grupos O viés algorítmico pode comprometer a igualdade de tratamento entre estudantes, a justiça dos processos avaliativos e a distribuição equitativa de oportunidades, impondo aos fornecedores o dever de testar, documentar e informar os vieses conhecidos e as limitações das bases de treinamento, inclusive quanto à adequação ao contexto brasileiro, e às instituições o dever de exigir essa demonstração na diligência prévia, de monitorar periodicamente impactos desproporcionais sobre grupos específicos e de comunicar à comunidade educacional os riscos relevantes identificados, nos termos do dever de transparência.
91. Viés de automação: Tendência humana de depositar confiança excessiva em resultados produzidos por sistemas automatizados, com redução da análise crítica e do julgamento próprio, conduzindo à aceitação de saídas de IA sem verificação suficiente.
92. Viés de exclusão: Espécie qualificada de viés algorítmico decorrente da ausência ou da sub-representação de grupos, territórios, linguagens, culturas ou necessidades nos dados e nos modelos, produzindo resultados inadequados, imprecisos ou discriminatórios em desfavor das populações não representadas.
93. Vigilância emocional: Utilização de sistemas de IA para inferir, classificar, pontuar, registrar ou monitorar, de forma pontual ou continuada, estados emocionais, afetivos ou psicológicos de estudantes ou de profissionais da educação, a partir de rosto, voz, comportamento, escrita, postura, sinais fisiológicos ou padrões de interação digital. Constitui forma agravada de reconhecimento de emoções, qualificada pelo caráter observacional e de controle, e submete a esfera íntima da pessoa, seus estados internos, a análise automatizada incompatível com a dignidade humana, a privacidade, a liberdade de expressão, o livre desenvolvimento da personalidade e o ambiente de confiança inerente à relação educacional, com potencial de inibição da participação, da experimentação e do erro que integram o processo de aprendizagem.
94. Visão computacional: Área da IA voltada ao processamento, à análise e à interpretação automatizada de imagens ou vídeos, compreendendo funcionalidades como detecção e classificação de objetos, reconhecimento de padrões visuais, leitura de documentos e rastreamento de movimento. No contexto educacional, admite aplicações de natureza inclusiva e instrumental, como audiodescrição automática, leitura assistida, digitalização e organização de acervos e materiais, mas, quando dirigida à captação ou à análise de imagens de pessoas, opera sobre dados aptos à identificação e à inferência sensível, aproximando-se da biometria e da vigilância, razão pela qual sua admissibilidade nessas hipóteses é excepcional e de interpretação restritiva, vedada a conversão de finalidades legítimas, acessibilidade, registro ou segurança patrimonial, em via indireta de monitoramento de estudantes e profissionais da educação.
