E se o chatbot inventar? Como evitar que uma IA dê informação falsa no seu site

Uma mulher examina um livro com uma lupa ao lado do portátil

É provavelmente o medo mais comum quando se fala em pôr um chatbot com IA num site: que diga a um cliente um preço errado, um horário errado ou uma condição que não existe. E é um medo com fundamento, porque isso acontece às IA. O que nem toda a gente sabe é que tem solução.

Porque é que uma IA inventa coisas

Os modelos de linguagem, como os que estão por trás dos assistentes de IA, aprenderam a escrever textos que soam bem. Quando lhes pergunta algo, geram a resposta mais provável segundo tudo o que leram. Se não têm o dado, muitas vezes não dizem «não sei»: escrevem algo plausível. A isso chama-se alucinação, e é por isso que um assistente generalista lhe pode dizer com toda a segurança algo que é falso.

Se perguntar a uma IA genérica quanto custa uma destartarização na sua clínica, ela não tem forma de o saber. Vai dar-lhe um preço que parece razoável, mas não é o seu.

Livros, um caderno e uma lupa sobre uma mesa

A solução: que só possa responder com a sua informação

A técnica que resolve isto chama-se geração aumentada por recuperação, ou RAG, pela sigla em inglês. A ideia é simples: antes de escrever a resposta, o sistema procura na informação do seu negócio os excertos que falam do que lhe perguntaram. Depois, a IA redige a resposta usando apenas esses excertos.

Se procura e não encontra nada, a resposta certa é reconhecer que não sabe e oferecer outra via, como deixar um telefone ou falar com alguém da equipa, em vez de improvisar.

Que se possa verificar

Há mais um passo que faz a diferença: que cada resposta diga de onde vem. Tal como um bom artigo cita as suas fontes, um bom assistente deve indicar a página do seu site onde está o dado. Assim, quem pergunta pode confirmar se quiser e, do seu lado, pode ver a qualquer momento porque é que o assistente respondeu o que respondeu.

O que continua a depender de si

Nenhum sistema consegue responder bem com informação má. Se o seu site diz que abre às nove e na verdade abre às dez, o assistente vai dizer às nove. Por isso é importante que a informação esteja atualizada e que o assistente se atualize quando muda o site. E por isso convém ver de vez em quando o que as pessoas perguntam.

Como o faz o OX·IA

No OX·IA o assistente foi construído assim desde o início. Só responde com o que está no seu site e com o que lhe ensinar; cada dado leva um número que abre a página exata e destaca a frase de onde vem. Se não encontra a resposta, di-lo com simpatia, oferece o seu contacto e regista a pergunta no painel para que lha ensine num instante. Todas as noites revê o seu site e aprende o que mudou, e se usa WordPress, com o nosso plugin aprende no momento.

Se quiser ver como responde com o seu próprio site, faça o teste grátis e pergunte-lhe algo que sabe que não está lá. É a melhor forma de comprovar.

Prefere falar com uma pessoa?

Ligue-nos e explicamos-lhe tudo, sem compromisso.