Cos'è la RAG e come porta i dati aziendali dentro l'AI

Dopo una demo di intelligenza artificiale, quasi ogni manager fa la stessa domanda: "può farlo anche con i nostri dati?" La risposta è sì, e il metodo principale si chiama RAG, Retrieval Augmented Generation, cioè generazione aumentata dal recupero di informazioni. Non è l'unica strada, ma è quella che funziona meglio nella maggior parte dei casi aziendali, ed è alla base di molti degli strumenti di AI più utili oggi in produzione.

Il problema che la RAG risolve, e l'alternativa del fine-tuning

Un modello linguistico sa moltissime cose, ma nulla di specifico sulla tua azienda: non conosce i tuoi contratti, i manuali tecnici, le procedure interne, le conversazioni con i clienti, i dati di vendita degli ultimi due anni. Per portare questa conoscenza dentro il modello ci sono due strade: addestrarlo sui tuoi dati (fine-tuning) oppure dargli accesso ai dati al momento della domanda (RAG). Il fine-tuning modifica il modello addestrandolo su nuovi dati, ed è costoso, lento e va ripetuto ogni volta che i dati cambiano: ha senso quando si vuole cambiare il comportamento del modello, il tono, lo stile, la capacità di muoversi in un dominio molto specialistico in cui il linguaggio di base non basta, ma non ha senso per portare dentro informazioni fattuali che cambiano nel tempo.

La RAG, al contrario, è più flessibile, meno costosa e sempre aggiornata: è la scelta giusta per informazioni che cambiano, documenti aziendali specifici e basi di conoscenza in evoluzione, perché non modifica il modello, ma gli fornisce il contesto giusto al momento giusto. L'idea è semplice: prima di rispondere, il sistema cerca nei tuoi documenti le parti più pertinenti, le inserisce nel contesto e chiede al modello di rispondere basandosi su quelle. In molti casi le due tecniche si combinano: un modello adattato al linguaggio del settore, potenziato dalla RAG per l'accesso ai dati più recenti. Per capire se la RAG fa al caso tuo bastano tre domande: hai documenti aziendali su cui vuoi fare domande in linguaggio naturale? I dati cambiano spesso? Ti serve citare le fonti nelle risposte? Se hai risposto sì anche a una sola, la RAG merita di essere esplorata concretamente.

Come funziona, passo dopo passo

Il processo ha due fasi. Nella prima, l'indicizzazione, i documenti aziendali, come PDF, file Word, email, pagine web e dati strutturati, vengono divisi in porzioni e trasformati in rappresentazioni numeriche chiamate embedding: un embedding è una sequenza di numeri che cattura il significato di un pezzo di testo, in modo che testi dal significato simile abbiano rappresentazioni vicine. Questi vettori vengono salvati in un database vettoriale, come Pinecone, Weaviate, Chroma o pgvector, ottimizzato per trovare rapidamente i contenuti più simili. Nella seconda fase, il recupero e la risposta, quando qualcuno fa una domanda anche questa viene trasformata in embedding: il sistema cerca nel database le porzioni di testo più vicine per significato, le inserisce nella richiesta al modello insieme alla domanda, e il modello risponde basandosi su quel contesto. Il risultato è un sistema che "conosce" i tuoi documenti, risponde in linguaggio naturale e può indicare le fonti da cui ha tratto la risposta.

Cosa cambia rispetto a un modello da solo

Senza RAG, un modello risponde con le conoscenze acquisite in addestramento: generali, ferme a una certa data, prive di qualsiasi specificità aziendale. Con la RAG risponde sulla base di documenti reali, aggiornabili e controllati dall'azienda. Le conseguenze pratiche sono tre: risposte verificabili, perché il sistema può citare il documento da cui ha tratto la risposta, e se la risposta è sbagliata si individua subito il documento da correggere; dati sotto controllo, perché il modello non viene addestrato sui dati proprietari, e la conoscenza aziendale non viene trasferita in modo permanente al fornitore; e aggiornamento semplice, perché basta aggiungere o modificare i documenti nell'indice, senza riaddestrare nulla.

Molti strumenti utili si basano su questo schema: un assistente sulla knowledge base interna, che risponde su procedure, regole HR e manuali tecnici, invece di cercare nel PDF il dipendente fa una domanda; un assistente commerciale sui contratti, che interroga contratti passati, offerte e clausole standard, facendo risparmiare ore su ogni proposta; un'assistenza clienti sulla documentazione di prodotto, con risposte tecniche accurate perché legate ai documenti aggiornati; e l'analisi di grandi archivi, per trovare informazioni specifiche in report, email e verbali impossibili da leggere a mano.

I limiti da conoscere

La RAG non è una bacchetta magica, e in alcuni scenari funziona meno bene. Il recupero può fallire: se la domanda è formulata in modo molto diverso dai documenti, il sistema può non trovare le parti giuste, e molto dipende da come i documenti vengono divisi e indicizzati. I documenti mal strutturati peggiorano i risultati: PDF scansionati senza un buon riconoscimento del testo, impaginazioni complesse e tabelle non sempre si trasformano bene in embedding. E le informazioni sparse sono difficili da mettere insieme: se la risposta dipende da dati distribuiti in molti documenti che non vengono recuperati insieme, il sistema fatica, e si interviene con tecniche più evolute, come la riformulazione delle domande, il riordino dei risultati e la ricerca ibrida che combina parole chiave e significato.

La qualità di un sistema RAG dipende moltissimo dall'ingegneria che c'è dietro, non solo dalla scelta del modello o del database. Un sistema progettato male produce risposte inaffidabili; uno progettato bene diventa uno degli strumenti più usati in azienda, perché diventa il primo posto in cui le persone cercano una risposta invece dell'ultimo. Se vuoi valutare un assistente sui tuoi documenti, scrivici.