Alucinação de IA: por que um número inventado pode custar caro no seu fechamento
"Alucinação" é o nome que se dá ao comportamento mais traiçoeiro da IA generativa: apresentar uma informação inventada com total confiança. Sem hesitar, sem avisar, com a mesma fluência de quando está certa. Em muitos usos, isso rende só um constrangimento. Na área financeira, rende um número errado dentro do fechamento — assinado.
Hoje eu quero te explicar por que isso acontece, onde dói mais no nosso trabalho, e as defesas práticas que ensinamos em todos os nossos programas. Porque a resposta profissional para a alucinação não é abandonar a IA — é usá-la de um jeito que o erro não passe.
Por que a IA inventa (e por que com tanta confiança)
Um modelo de linguagem, no fundo, prevê texto: dada a conversa até aqui, ele gera a continuação mais provável. É por isso que ele funciona tão bem para organizar, resumir, propor e explicar — e não é confiável como fonte de fatos nem como calculadora.
O exemplo que uso em toda turma: pergunte no chat "quanto é 18% de R$ 2,4 milhões?" e você corre um risco real de receber um número errado, entregue com toda a segurança do mundo. A IA de chat prevê texto — não é calculadora. Ela não "sabe" que errou, porque não fez conta: gerou uma resposta plausível.
O jeito seguro
Use a IA na lógica, não na aritmética: ela escreve a fórmula, o Excel faz o cálculo. Resultado exato, auditável e conferível por qualquer pessoa que abra a planilha.
Onde a alucinação dói mais na área financeira
Quatro situações da rotina em que esse comportamento é mais perigoso — e que ensinamos a controlar:
- Dados "lembrados" pela IA: alíquota, prazo, artigo de norma citados de memória pelo modelo. Podem estar desatualizados ou simplesmente inventados — em matéria fiscal e normativa, a IA confere contra a fonte que VOCÊ fornece; ela não é a fonte.
- Preenchimento do que falta: diante de um campo ilegível ou de uma informação ausente, a IA tende a completar com algo que "soa certo". O certo é instruí-la a marcar a lacuna, nunca preencher.
- Explicações que soam prontas: peça o "porquê" de uma variação sem dar contexto e a IA tende a redigir uma causa plausível e genérica. Explicação sem lastro no dado é narrativa, não análise.
- Contas no chat: o caso clássico do 18% acima — aritmética nunca na conversa, sempre na planilha.
As quatro defesas práticas
- Valide contra a fonte, sempre. Todo dado factual da resposta precisa apontar para a origem: o arquivo, a célula, o documento que você forneceu. Se a IA não mostra de onde tirou, trate como não verificado.
- Mande marcar, não resolver. A instrução explícita de sinalizar dúvidas e lacunas ("liste o que ficou ambíguo para eu decidir") muda o comportamento da ferramenta — e devolve a decisão para quem responde por ela.
- Fórmula na planilha, nunca conta no chat. A IA escreve a lógica; o Excel executa. Vale para percentual, rateio, projeção — qualquer aritmética.
- Exija trilha. Prompts guardados, alterações aprovadas uma a uma, histórico registrado. Tudo o que a IA faz precisa ser rastreável — sem trilha, não entra em produção.
O equilíbrio que falta nessa conversa
Aqui, uma honestidade que o alarmismo não faz: a IA acerta muito. Bem usada, ela transforma dias de trabalho braçal em horas, com qualidade — é o que vemos, mês após mês, nas equipes financeiras que treinamos. O problema nunca foi usar IA; é tratá-la como infalível.
O profissional que entende a alucinação não desconfia de tudo nem confia cegamente: ele instala as defesas e colhe o ganho. Eu uso IA todos os dias no meu próprio trabalho — e vim da auditoria, então digo com tranquilidade: você não pode simplesmente confiar. Pode, e deve, verificar. É exatamente essa a diferença entre "gerar uma resposta com IA" e entregar um número em que você pode assinar embaixo.
Uma camada antes das defesas: o dado
As defesas acima cuidam da qualidade do resultado; a segurança do dado vem antes: dado sensível não entra em IA pública aberta. Para treinar as técnicas deste artigo, use uma base fictícia; na rotina, use os planos corporativos aprovados pela empresa — nos quais os dados não são usados para treinar o modelo. Critério primeiro, ferramenta depois.
Recapitulando
Alucinação não é defeito raro — é característica de como a IA generativa funciona, e ela não avisa quando acontece. Na área financeira, a resposta é método: validar contra a fonte, marcar em vez de preencher, calcular na planilha e exigir trilha de tudo. A IA propõe; o julgamento e a responsabilidade continuam com o profissional. É assim que a liderança passa a confiar no resultado — e é assim que você usa o ganho da IA sem herdar o risco dela.
O método que torna a IA confiável
Contexto, Requisição, Inspeção, Validação e Olhar crítico: conheça o CRIVO, o método próprio que aplicamos em todos os nossos programas.
Conhecer o método CRIVO