Et si le chatbot invente ? Éviter qu’une IA donne de fausses informations sur votre site

Une femme examine un livre à la loupe à côté de son ordinateur portable

C’est sans doute la crainte la plus répandue quand on parle d’installer un chatbot IA sur un site : qu’il annonce à un client un prix erroné, de mauvais horaires ou une condition qui n’existe pas. Cette crainte est fondée, car cela arrive aux IA. Ce que tout le monde ne sait pas, c’est qu’il existe une solution.

Pourquoi une IA invente

Les modèles de langage, comme ceux qui font tourner les assistants IA, ont appris à écrire des textes qui sonnent juste. Quand vous leur posez une question, ils génèrent la réponse la plus probable d’après tout ce qu’ils ont lu. S’ils n’ont pas l’information, souvent ils ne disent pas « je ne sais pas » : ils écrivent quelque chose de plausible. C’est ce qu’on appelle une hallucination, et c’est pour cela qu’un assistant généraliste peut affirmer avec aplomb quelque chose de faux.

Si vous demandez à une IA généraliste combien coûte un détartrage dans votre cabinet, elle n’a aucun moyen de le savoir. Elle vous donnera un prix qui paraît raisonnable, mais ce ne sera pas le vôtre.

Des livres, un carnet et une loupe sur une table

La solution : qu’il ne puisse répondre qu’avec vos informations

La technique qui règle le problème s’appelle la génération augmentée par récupération, ou RAG (de l’anglais retrieval-augmented generation). Le principe est simple : avant d’écrire la réponse, le système cherche dans les informations de votre entreprise les passages qui parlent de la question posée. Ensuite, l’IA rédige la réponse en s’appuyant uniquement sur ces passages.

S’il cherche et ne trouve rien, la bonne réaction n’est pas d’improviser, mais de reconnaître qu’il ne sait pas et de proposer une autre solution, comme laisser un numéro ou parler à quelqu’un de l’équipe.

Que l’on puisse vérifier

Une étape de plus fait la différence : que chaque réponse indique d’où elle vient. Comme un bon article cite ses sources, un bon assistant devrait renvoyer vers la page de votre site où se trouve l’information. Le client peut ainsi vérifier s’il le souhaite, et vous pouvez contrôler à tout moment pourquoi l’assistant a répondu ce qu’il a répondu.

Ce qui dépend toujours de vous

Aucun système ne peut bien répondre avec de mauvaises informations. Si votre site indique que vous ouvrez à neuf heures alors que vous ouvrez à dix, l’assistant dira neuf heures. C’est pour cela qu’il est important que les informations soient à jour et que l’assistant se mette à jour quand vous modifiez votre site. Et c’est pour cela qu’il vaut la peine de regarder de temps en temps ce que les gens demandent.

Comment fait OX·IA

Chez OX·IA, l’assistant est construit ainsi depuis le départ. Il ne répond qu’avec ce qui figure sur votre site et ce que vous lui enseignez ; chaque information porte un numéro qui renvoie à la page exacte et met en évidence la phrase d’où elle vient. S’il ne trouve pas la réponse, il le dit poliment, propose vos coordonnées et note la question dans le tableau de bord pour que vous la lui enseigniez en un instant. Chaque nuit, il parcourt votre site et apprend ce qui a changé, et si vous utilisez WordPress, notre extension lui fait apprendre vos changements immédiatement.

Si vous voulez voir comment il répond avec votre propre site, faites l’essai gratuitement et posez-lui une question dont vous savez que la réponse n’y figure pas. C’est la meilleure façon de vérifier.

Vous préférez parler à quelqu’un ?

Appelez-nous, nous vous expliquons tout, sans engagement.