A IA está aprendendo a dizer “não” e a impor limites

A IA está aprendendo a dizer “não” e a impor limites. A IA tem tendência de responder errado quando sofre “alucinação”. 

Vivemos um momento em que a inteligência artificial generativa tornou-se aliada cotidiana de profissionais e organizações: resume reuniões, redige relatórios, analisa contratos e responde perguntas complexas em frações de segundo. No Brasil, essa revolução silenciosa já alcançou proporções expressivas: de acordo com a pesquisa TIC Domicílios 2025, do Comitê Gestor da Internet no Brasil (CGI.br), cerca de 50 milhões de brasileiros com 10 anos ou mais utilizam ferramentas de IA generativa — o equivalente a 32% dos usuários de Internet no país.  No entanto, há uma camada adicional de alerta que ultrapassa a questão do acesso: mesmo entre os que têm contato com a tecnologia, muitos desconhecem seus riscos mais insidiosos — em especial, a tendência da IA de produzir respostas incorretas ou inventadas com total segurança, um fenômeno conhecido como “alucinação”.

Suponha que alguém pergunte a uma ferramenta de IA: “O que foi discutido sobre a regulação da inteligência artificial durante a última edição do Fórum da Internet no Brasil?” A resposta pode soar impecável: “No painel de maio de 2025, o coordenador do CGI.br afirmou que o Brasil será o primeiro país da América Latina a exigir auditoria algorítmica obrigatória para sistemas de IA de alto risco.” O tom é correto, a citação parece literal, mas talvez esse painel nunca tenha existido, a frase jamais tenha sido proferida — ou tenha sido dita em outro contexto, distorcida por uma combinação probabilística de textos. Esse é um dos grandes problemas estruturais da inteligência artificial atual: as alucinações. Diante da falta de informação confiável, muitos modelos não respondem “não sei”. Em vez disso, preenchem os vazios com construções que apenas soam verdadeiras.

É nesse cenário que surge o conceito de RAG (Retrieval-Augmented Generation), ou “geração aumentada por recuperação”, uma abordagem que começa a transformar o uso da IA em empresas e organizações. Em vez de se apoiar unicamente na memória estatística — padrões aprendidos da internet — a ferramenta consulta fontes pré-definidas: arquivos internos, contratos, políticas, artigos científicos, relatórios ou bases de conhecimento. Primeiro, busca evidências; depois, responde.

O processo envolve três etapas. A primeira e mais crucial é a recuperação: o sistema vasculha bases de conhecimento em busca de informações específicas. O que é recuperado ali torna-se a única realidade disponível para o modelo naquela interação. Em seguida vem o raciocínio, no qual a IA interpreta e organiza as informações encontradas. Por fim, ocorre a geração, que converte essa análise em uma resposta em linguagem natural. A principal consequência é simples e radical: se um dado não foi recuperado na primeira etapa, ele simplesmente não existe para a IA.

O paralelo com uma pessoa responsável em uma reunião de trabalho é claro. Em vez de improvisar, ela abre a pasta correta, examina os documentos e só então responde. Essa mudança introduz algo que durante muito tempo faltou à inteligência artificial: a capacidade de impor limites.

Com RAG, se o sistema não encontra informação confiável sobre determinado evento — como uma suposta declaração no Fórum da Internet no Brasil —, ele não deve inventá-la. Deve responder, com transparência: “Não encontrei evidências suficientes para confirmar essa informação.” Uma resposta simples, porém, mil vezes mais útil do que uma ficção elaborada. De acordo com o AI Hallucination Rate Benchmarks 2026, ferramentas de RAG com recuperação de alta qualidade reduzem as alucinações em consultas factuais de 50% a 80%.

O problema de muitas ferramentas atuais não é apenas que erram, mas que erram com convicção. E quanto mais naturais e sofisticadas as interfaces se tornam, mais difícil é detectar a invenção. O RAG tenta reverter essa dinâmica: em vez de operar por probabilidades estatísticas descoladas da realidade, obriga o sistema a fundamentar cada afirmação em evidências concretas. Sem evidências, não deve haver afirmação.

Essa tecnologia torna a IA mais honesta e a submete a um princípio básico da comunicação humana responsável: trabalhar sobre informações verificáveis. O verdadeiro avanço da inteligência artificial — no Brasil e no mundo — acontecerá quando ela for capaz de colaborar lado a lado com os humanos. E isso exige, acima de tudo, a coragem de mostrar, de forma transparente, a própria ignorância.

Por: Francisco Larez é vice-presidente da Progress Software para América Latina e Caribe.

Clique e fale com representante oficial Netwrix Endpoint Protector

Veja também:

• A adoção em massa da IA amplia os riscos de cibersegurança às PMEs
• Aumentaram os ataques se passando por IA às PMEs
• 26 vetores usados em fraudes de boleto no Brasil
• Invasão à Defesa Civil expõe vulnerabilidade digital do setor público
• IA acelera ataques cibernéticos e eleva pressão por ferramentas defensivas mais avançadas
• A IA acelera e valida o desenvolvimento de softwares, mas….
• Evolução das técnicas de phishing
• LGPD e recrutamento: quais cuidados as empresas devem tomar com dados de candidatos
• Golpe no WhatsApp para PC
• FortiBleed expõe 75.000 firewalls da Fortinet
• Ataque a Macs evolui de roubo de senhas para controle de dispositivos
• IA explicável muda a forma como as empresas enxergam o risco humano