🎯 Alucinação Algorítmica
Em poucas palavras
Fenômeno em que um modelo de IA gera informações falsas, eventos inexistentes ou referências bibliográficas fictícias, mas as apresenta de forma convincente, com aparência de objetividade e veracidade. É típico da IA generativa e o principal motivo para que nenhum resultado de máquina produza efeito sem verificação humana.
📝 Notas e Desenvolvimento
- Por que acontece: os Grandes modelos de linguagem geram texto pela probabilidade da próxima palavra, aprendida no treinamento, e não por consulta a uma base de fatos. Uma resposta fluente e plausível pode, portanto, ser falsa; o modelo não tem, por construção, um mecanismo que distinga o que sabe do que está inventando.
- Formas comuns:
- referências bibliográficas, autores, DOIs e citações que não existem;
- números, datas e eventos fabricados;
- trechos atribuídos a leis, normas ou documentos que não os contêm;
- código que chama funções ou bibliotecas inexistentes.
- Por que é perigosa: a fluência do texto disfarça o erro. Quanto mais o usuário confia na ferramenta, menos confere — e a alucinação passa adiante como fato.
- Mitigação:
- supervisão humana e verificação das fontes antes de usar qualquer resultado;
- instruções que peçam fontes verificáveis e admitam “não sei” (ver Engenharia de prompt);
- letramento algorítmico, para que o usuário saiba que o erro é estrutural, e não acidental.
- Responsabilidade: na maioria das instituições e aplicações, o usuário responde, ou deveria responder, integralmente pelo conteúdo publicado, inclusive por alucinações geradas pelas ferramentas.
📚 Referências e Fontes
🔗 Conexões do Cofre
- Conceitos: