RAG: come usare l'AI con i documenti aziendali

La RAG (Retrieval-Augmented Generation, generazione aumentata dal recupero) è la tecnica che permette a un'intelligenza artificiale di rispondere usando i documenti della tua azienda: prima cerca i passaggi pertinenti in un archivio, poi li consegna al modello insieme alla domanda, e il modello risponde basandosi su quel materiale, indicando le fonti. In questo modo l'AI può parlare di procedure, listini e contratti che non ha mai visto durante l'addestramento.

Questa guida spiega la RAG a chi non è tecnico: come funziona passo per passo, che cosa serve per realizzarla, dove è utile e quali limiti tenere presenti.

Perché un modello AI non conosce i tuoi documenti

Un modello linguistico impara durante l'addestramento, su grandi quantità di testi pubblici. Il manuale interno della tua azienda, il listino aggiornato, i contratti con i fornitori o lo storico dei ticket di assistenza non fanno parte di quei dati. Se chiedi a un assistente generico quali sono le condizioni di reso della tua azienda, nel migliore dei casi ti dirà che non lo sa; nel peggiore inventerà una risposta plausibile, il fenomeno noto come allucinazione.

Ci sono due modi per colmare la lacuna. Il primo è riaddestrare il modello sui tuoi dati, il cosiddetto fine-tuning: è costoso, va ripetuto a ogni aggiornamento e non garantisce che il modello ricordi con precisione un singolo dettaglio. Il secondo è la RAG: il modello resta com'è, ma a ogni domanda riceve i documenti giusti da consultare. Per la maggior parte delle esigenze aziendali la seconda strada è più semplice, più economica e più facile da tenere aggiornata.

Come funziona la RAG, passo per passo

Un sistema RAG lavora in due momenti distinti: una preparazione dell'archivio, che si fa una volta e si aggiorna quando cambiano i documenti, e la risposta alle domande, che avviene ogni volta che qualcuno chiede qualcosa.

1. Raccolta e pulizia dei documenti

Si parte dalle fonti: PDF, documenti di testo, pagine web, fogli di calcolo, email, ticket. I documenti vengono convertiti in testo leggibile. È una fase meno banale di quanto sembri: tabelle, scansioni e PDF con impaginazione complessa possono perdere informazioni nella conversione, e la qualità delle risposte dipende molto da qui.

2. Suddivisione in frammenti

Ogni documento viene diviso in frammenti di lunghezza contenuta, per esempio qualche paragrafo. Il motivo è pratico: alla domanda "qual è il termine per il reso?" serve passare al modello il paragrafo giusto del regolamento, non l'intero manuale di cinquanta pagine.

3. Embedding e indicizzazione

Ogni frammento viene trasformato in un embedding, cioè una sequenza di numeri che ne rappresenta il significato. Frammenti che parlano di cose simili ottengono numeri vicini, anche se usano parole diverse. Gli embedding vengono salvati in un archivio adatto a cercarli rapidamente, spesso chiamato database vettoriale.

Questo passaggio è ciò che permette di cercare per significato. Una ricerca tradizionale trova "reso" solo se la parola compare nel testo; una ricerca basata su embedding trova anche il paragrafo che parla di "restituzione della merce" o di "diritto di recesso".

4. La ricerca

Quando un utente fa una domanda, anche la domanda viene trasformata in embedding. Il sistema cerca nell'archivio i frammenti con il significato più vicino e ne seleziona alcuni. Molti sistemi combinano la ricerca per significato con quella per parole chiave, utile per codici prodotto, nomi propri e numeri, e poi riordinano i risultati per pertinenza.

5. La risposta con le fonti

I frammenti trovati vengono inseriti nel prompt insieme alla domanda e a istruzioni precise: rispondi solo sulla base di questi testi, indica da quale documento proviene ogni informazione, e se la risposta non c'è dillo chiaramente. Il modello scrive la risposta e il sistema mostra i riferimenti, così l'utente può aprire il documento originale e controllare.

6. L'aggiornamento dell'archivio

I documenti aziendali cambiano: nuovi listini, procedure riviste, contratti rinnovati. Un sistema RAG affidabile deve accorgersi delle modifiche, ricalcolare gli embedding dei file aggiornati ed eliminare quelli dei documenti ritirati. Se questo passaggio manca, dopo qualche mese l'assistente continua a rispondere con informazioni superate, e la fiducia degli utenti si perde rapidamente.

A che cosa serve la RAG in azienda?

La RAG è utile ogni volta che le persone perdono tempo a cercare informazioni che esistono già, ma sono sparse in documenti diversi. Alcuni usi tipici:

• assistente interno che risponde ai colleghi su procedure, regolamenti, istruzioni operative e politiche aziendali;
• supporto tecnico che consulta manuali, schede prodotto e soluzioni a problemi già risolti;
• chatbot per il sito che risponde ai clienti solo sulla base dei contenuti ufficiali, come descritto nella guida sul chatbot per il sito aziendale;
• area commerciale che trova rapidamente condizioni, listini e offerte precedenti;
• studi professionali che consultano archivi di pareri, modelli e documentazione interna.

Che cosa serve per realizzare un sistema RAG

Gli ingredienti sono sempre gli stessi, anche se le soluzioni vanno dai servizi pronti, in cui carichi i file e inizi a fare domande, ai sistemi costruiti su misura e integrati con i programmi aziendali.

Piattaforme di automazione come n8n permettono di costruire l'intero percorso, dalla lettura dei documenti all'aggiornamento automatico dell'archivio quando un file cambia, senza dover sviluppare tutto da zero.

Quali sono i limiti della RAG?

La RAG riduce molto le invenzioni, ma non le elimina, e porta con sé alcuni problemi specifici. Conoscerli è il modo migliore per progettare un sistema che funzioni.

Il limite principale è che la risposta può essere buona solo quanto i frammenti trovati. Se la ricerca recupera il paragrafo sbagliato, o non trova quello giusto, il modello risponderà sulla base di informazioni incomplete. Per questo la qualità della ricerca conta quanto, se non più, della qualità del modello.

Altri limiti da tenere presenti:

• documenti contraddittori o superati: se nell'archivio convivono il listino vecchio e quello nuovo, il sistema può citare quello sbagliato;
• domande che richiedono una visione d'insieme, come "quali sono i temi ricorrenti in tutti i reclami dell'anno": la RAG recupera pochi frammenti e non è pensata per analizzare l'intero archivio;
• tabelle, grafici e scansioni, che possono perdere informazioni nella conversione in testo;
• calcoli: il modello può leggere bene i numeri ma sbagliare un'operazione fatta su di essi;
• interpretazione: anche con la fonte giusta, il modello può riassumerla in modo impreciso, quindi per le decisioni importanti va aperto il documento originale.

Privacy, permessi e riservatezza dei documenti

Un sistema RAG concentra in un unico punto informazioni che prima erano distribuite in cartelle con accessi diversi. Se non viene progettato con attenzione, può diventare un modo per aggirare quei permessi: un dipendente potrebbe ottenere, con una domanda ben posta, il contenuto di un documento che non avrebbe potuto aprire.

La regola è che il sistema deve rispettare gli stessi permessi dei documenti originali, filtrando i risultati in base a chi fa la domanda. A questo si aggiungono le scelte sul trattamento dei dati: dove vengono conservati gli embedding, quale fornitore elabora i testi, con quale accordo ai sensi dell'art. 28 del GDPR, oppure se conviene usare modelli installati sui propri server. Ne parliamo nella guida su intelligenza artificiale e privacy.

Da dove cominciare

Il modo più efficace è partire da un archivio piccolo e ben curato, con un pubblico preciso: per esempio le procedure dell'ufficio amministrativo o i manuali di un'unica linea di prodotti. Prepara un elenco di domande reali con le risposte corrette e usalo per verificare il sistema prima di metterlo a disposizione dei colleghi.

Una volta che il sistema risponde bene su quel perimetro, puoi aggiungere altre fonti, migliorando nel frattempo la cura dei documenti. Spesso il beneficio collaterale più grande di un progetto RAG è proprio questo: scoprire quali informazioni aziendali sono mancanti, duplicate o non aggiornate.