Le allucinazioni dell'intelligenza artificiale: perché succedono e come difendersi

Chiunque abbia usato un chatbot per un po' di tempo ci si è imbattuto: una risposta impeccabile nella forma, scritta con sicurezza, che contiene un'informazione completamente inventata. Un libro mai pubblicato, una sentenza inesistente, una percentuale che non compare in nessuna statistica. Nel linguaggio dell'intelligenza artificiale questo fenomeno si chiama allucinazione.

Perché un'intelligenza artificiale inventa

Per capire le allucinazioni bisogna ricordare come funziona un modello linguistico: genera il testo prevedendo, un pezzo alla volta, la continuazione più plausibile. Il suo obiettivo implicito è produrre un testo che sembri giusto, non verificare che lo sia.

Nella maggior parte dei casi plausibile e vero coincidono, perché il modello ha visto quell'informazione molte volte durante l'addestramento. Quando invece l'informazione è rara, molto specifica o del tutto assente dai dati, il modello non ha un meccanismo naturale per dire "non lo so". Continua a fare ciò che sa fare: produce la risposta più verosimile. E una citazione verosimile, con autore, titolo e anno, può essere del tutto falsa.

Ci sono situazioni in cui il rischio cresce sensibilmente:

• domande su fatti molto specifici, come numeri di articoli di legge, date precise o dati di aziende poco note;
• richieste di fonti e riferimenti bibliografici;
• eventi recenti, successivi ai dati di addestramento;
• domande formulate dando per scontato qualcosa di falso, che il modello tende ad assecondare.

Come riconoscere una risposta sospetta

Le allucinazioni non hanno un aspetto diverso dalle risposte corrette, ed è proprio questo il problema. Alcuni segnali, però, meritano attenzione. Diffida dei dettagli molto precisi che non hai fornito tu, come cifre al decimale o nomi di studi e autori. Controlla le citazioni tra virgolette attribuite a persone reali. Fai attenzione ai riferimenti normativi con numero e anno, e ai link che il modello scrive di suo invece di ricavarli da una ricerca.

Un buon test è chiedere al modello stesso: "Quanto sei sicuro di questa informazione? Da dove proviene?". Non è una garanzia, ma spesso porta il modello a ridimensionare l'affermazione o ad ammettere l'incertezza.

Le abitudini che proteggono

Le allucinazioni non si eliminano del tutto, ma si possono ridurre molto e soprattutto intercettare prima che facciano danni.

1. Fornisci tu le fonti. Se incolli il documento e chiedi di rispondere solo sulla base di quel testo, il rischio scende drasticamente. Puoi aggiungere: "Se l'informazione non è presente nel documento, dimmelo".
2. Usa strumenti con ricerca e citazioni. Gli assistenti che cercano sul web e mostrano le fonti permettono di verificare con un clic da dove arriva ogni affermazione.
3. Autorizza il dubbio. Scrivi esplicitamente che preferisci una risposta "non lo so" a una risposta inventata. I modelli rispondono bene a questa indicazione.
4. Verifica ciò che conta. Nomi, numeri, date, norme e citazioni destinati a un documento ufficiale, a un cliente o a una decisione vanno controllati su una fonte primaria.
5. Separa bozza e verità. Usa l'AI per strutturare, riformulare e accelerare, e tieni per te l'ultima parola sui fatti.

Una regola pratica: tratta la risposta di un chatbot come la bozza di un collaboratore brillante ma appena arrivato. Spesso è ottima, a volte sbaglia, e non sempre se ne accorge.

In azienda serve una regola chiara

Quando l'intelligenza artificiale entra nei processi aziendali, le allucinazioni diventano un tema organizzativo, non solo individuale. Conviene stabilire quali contenuti richiedono sempre una revisione umana, come comunicazioni ai clienti, documenti contrattuali e dati pubblicati, e chi la fa. Anche chiarire il perimetro degli strumenti aiuta: un assistente che risponde solo sulla documentazione aziendale sbaglia molto meno di uno lasciato libero di attingere alla propria memoria.

Le allucinazioni sono il rovescio della medaglia della flessibilità dei modelli generativi. Conoscerle non significa rinunciare all'AI, ma usarla con il giusto mix di fiducia e verifica.