E se il chatbot si inventa le risposte? Come evitare informazioni false sul tuo sito

Una donna esamina un libro con una lente d’ingrandimento accanto al portatile

È probabilmente la paura più diffusa quando si parla di mettere un chatbot AI su un sito: che dica a un cliente un prezzo sbagliato, un orario errato o una condizione che non esiste. Ed è una paura fondata, perché alle AI succede. Quello che non tutti sanno è che una soluzione c’è.

Perché un’AI si inventa le cose

I modelli linguistici, come quelli che stanno dietro agli assistenti AI, hanno imparato a scrivere testi che suonano bene. Quando gli fai una domanda, generano la risposta più probabile in base a tutto quello che hanno letto. Se non hanno il dato, spesso non dicono «non lo so»: scrivono qualcosa di plausibile. Si chiama allucinazione, ed è il motivo per cui un assistente generico può dirti con tutta sicurezza una cosa falsa.

Se chiedi a un’AI generica quanto costa un’igiene dentale nel tuo studio, non ha modo di saperlo. Ti darà un prezzo che sembra ragionevole, ma non è il tuo.

Libri, un quaderno e una lente d’ingrandimento su un tavolo

La soluzione: che possa rispondere solo con le tue informazioni

La tecnica che risolve il problema si chiama generazione aumentata dal recupero, o RAG dalla sigla inglese (retrieval-augmented generation). L’idea è semplice: prima di scrivere la risposta, il sistema cerca nelle informazioni della tua attività i passaggi che parlano di ciò che ti hanno chiesto. Poi l’AI scrive la risposta usando solo quei passaggi.

Se cerca e non trova niente, la cosa giusta non è improvvisare, ma ammettere di non saperlo e offrire un’altra strada, come lasciare un numero di telefono o parlare con qualcuno del team.

Che si possa verificare

C’è un passo in più che fa la differenza: che ogni risposta dica da dove viene. Come un buon articolo cita le sue fonti, un buon assistente dovrebbe rimandare alla pagina del tuo sito dove si trova il dato. Così il cliente può controllare se vuole, e tu puoi verificare in qualsiasi momento perché ha risposto quello che ha risposto.

Quello che dipende ancora da te

Nessun sistema può rispondere bene con informazioni sbagliate. Se il tuo sito dice che apri alle nove e in realtà apri alle dieci, l’assistente dirà le nove. Per questo è importante che le informazioni siano aggiornate e che l’assistente si aggiorni quando cambi il sito. E per questo conviene controllare ogni tanto cosa chiedono le persone.

Come fa OX·IA

In OX·IA l’assistente è costruito così fin dall’inizio. Risponde solo con quello che c’è sul tuo sito e con quello che gli insegni tu; ogni dato ha un numero che rimanda alla pagina esatta ed evidenzia la frase da cui viene. Se non trova la risposta, lo dice con gentilezza, offre il tuo contatto e ti annota la domanda nel pannello perché tu gliela insegni in un attimo. Ogni notte controlla il tuo sito e impara ciò che è cambiato, e se usi WordPress, con il nostro plugin lo impara all’istante.

Se vuoi vedere come risponde con il tuo sito, fai la prova gratis e chiedigli qualcosa che sai che non c’è. È il modo migliore per verificarlo.

Preferisci parlare con una persona?

Chiamaci e ti spieghiamo tutto, senza impegno.