🎯 Supervisão Humana Significativa
Em poucas palavras
Modelo inegociável de governança no qual os sistemas de IA atuam estritamente como instrumentos de apoio (copilotos). Exige que um agente humano, com capacidade efetiva de compreender, interpretar, contestar, corrigir ou interromper os resultados, realize a curadoria, validação crítica, revisão metodológica e tomada de decisão final antes que os resultados da máquina produzam efeitos educacionais, científicos ou administrativos. Sendo assim, a decisão final cabe sempre a uma pessoa, inclusive em processos de baixo risco; nas decisões com repercussão avaliativa, disciplinar ou administrativa, a validação deve ser efetiva, prévia, individual e documentada, vedadas a validação em bloco e a homologação tácita.
📝 Notas e Desenvolvimento
- “Significativa” é a palavra-chave: não basta haver uma pessoa no fluxo. Quem valida precisa entender o que está validando, ter tempo e informação para isso e poder discordar da máquina sem custo. Um clique de “aprovar” em lote é supervisão só no nome.
- Falhas típicas:
- Validação em bloco: aprovar dezenas de resultados de uma vez, sem olhar cada um.
- Homologação tácita: o resultado vale se ninguém se opuser em certo prazo.
- Viés de automação: a tendência a confiar no resultado da máquina mais do que no próprio julgamento.
- Proporcional ao risco (CNE) × sempre presente (FEI):
| Conselho Nacional de Educação | Política da FEI | |
|---|---|---|
| Baixo risco | basta a possibilidade de supervisão humana | decisão final sempre de uma pessoa |
| Alto risco | validação efetiva, prévia, qualificada e documentada | validação efetiva, prévia, individual e documentada |
| Em comum | vedadas a validação em bloco e a homologação tácita | idem |
- Por que a FEI vai além: a decisão de manter a pessoa no centro mesmo no baixo risco decorre da tradição jesuíta e da centralidade da pessoa humana defendida na Magnifica Humanitas.
- Exemplo do CNE: a pré-correção de redações por IA é só etapa preparatória; o professor deve ler o texto inteiro, e nota, aprovação ou certificado exigem validação humana prévia.
- Condição: só é possível com letramento algorítmico e com sistemas minimamente explicáveis — num sistema de caixa-preta, o supervisor precisa checar o resultado por outros meios.
📚 Referências e Fontes
🔗 Conexões do Cofre
- Conceitos:
- Instituição: Centro Universitário FEI