I si el chatbot s’ho inventa? Com evitar les al·lucinacions de la IA

Una dona examina un llibre amb una lupa al costat del portàtil

Probablement és la por més estesa quan es parla de posar un chatbot amb IA en una web: que digui a un client un preu que no és, un horari equivocat o una condició que no existeix. I és una por amb fonament, perquè a les IA els passa. El que no tothom sap és que té solució.

Per què una IA s’inventa coses

Els models de llenguatge, com els que hi ha darrere dels assistents d’IA, han après a escriure textos que sonen bé. Quan els preguntes alguna cosa, generen la resposta més probable segons tot el que han llegit. Si no tenen la dada, sovint no diuen «no ho sé»: escriuen alguna cosa versemblant. Això s’anomena al·lucinació, i és la raó per la qual un assistent general et pot dir amb tota seguretat una cosa que és falsa.

Si preguntes a una IA genèrica quant costa una neteja dental a la teva clínica, no té cap manera de saber-ho. Et donarà un preu que sembla raonable, però que no és el teu.

Llibres, una llibreta i una lupa sobre una taula

La solució: que només pugui respondre amb la teva informació

La tècnica que ho resol s’anomena generació augmentada per recuperació, o RAG per les sigles en anglès. La idea és senzilla: abans d’escriure la resposta, el sistema busca en la informació del teu negoci els fragments que parlen del que t’han preguntat. Després, la IA redacta la resposta fent servir només aquests fragments.

Si busca i no troba res, la resposta correcta no és improvisar, sinó reconèixer que no ho sap i oferir una altra via, com deixar un telèfon o parlar amb algú de l’equip.

Que es pugui comprovar

Hi ha un pas més que marca la diferència: que cada resposta digui d’on surt. Igual que un bon article cita les fonts, un bon assistent hauria d’enllaçar a la pàgina de la teva web on hi ha la dada. Així el client ho pot comprovar si vol, i tu pots revisar en qualsevol moment per què ha respost el que ha respost.

El que continua depenent de tu

Cap sistema no pot respondre bé amb informació dolenta. Si la teva web diu que obres a les nou i en realitat obres a les deu, l’assistent dirà les nou. Per això és important que la informació estigui al dia i que l’assistent s’actualitzi quan canvies la web. I per això convé revisar de tant en tant què pregunta la gent.

Com ho fa OX·IA

A OX·IA, l’assistent està construït així des del principi. Només respon amb el que hi ha a la teva web i amb el que tu li ensenyis; cada dada porta un número que enllaça a la pàgina exacta i en ressalta la frase d’on surt. Si no troba la resposta, ho diu amablement, ofereix el teu contacte i t’apunta la pregunta al tauler perquè li ensenyis la resposta en un moment. Cada nit revisa la teva web i aprèn el que ha canviat, i si fas servir el WordPress, amb la nostra extensió ho aprèn a l’instant.

Si vols veure com respon amb la teva pròpia web, fes la prova gratis i pregunta-li alguna cosa que sàpigues que no hi és. És la millor manera de comprovar-ho.

Prefereixes parlar amb una persona?

Truca’ns i t’ho expliquem, sense compromís.