Cos'è un LLM: i grandi modelli linguistici spiegati alle aziende

Se lavori in azienda senti parlare di LLM tutti i giorni, ma non sei sicuro di cosa significhi davvero, sei in buona compagnia. Il termine è ovunque, ma viene spesso usato come sinonimo di "AI" o di "ChatGPT", in modo impreciso. Questa guida spiega cosa sono i large language model, come funzionano senza ricorrere alla matematica e soprattutto cosa significano per chi guida un'azienda o un team.

Cosa fa un LLM, in parole semplici

Un large language model, o grande modello linguistico, è un software addestrato su enormi quantità di testo per imparare a prevedere quale parola viene dopo, dato un contesto. Non "capisce" nel senso umano del termine: calcola probabilità, su miliardi di parametri, fino a produrre testi che sembrano ragionati. Il risultato sorprende perché il linguaggio umano è pieno di logica implicita, e imparare a scrivere in modo coerente significa aver assorbito, in modo diffuso, moltissime strutture concettuali. "Large" è da prendere alla lettera: i modelli più capaci hanno centinaia di miliardi di parametri e sono stati addestrati su libri, articoli, codice, forum e molto altro. È questa vastità a spiegare perché sanno fare cose così diverse: tradurre, riassumere, scrivere, spiegare, programmare.

App e API: due modi diversi di usarli

Molti manager hanno conosciuto i modelli linguistici tramite ChatGPT o strumenti simili: si apre il browser, si scrive, si riceve una risposta. È l'uso tramite interfaccia. L'uso tramite API è un'altra cosa: il modello viene chiamato da un'applicazione, un processo o un agente, senza una persona che scrive. Il modello diventa un componente di un sistema più ampio, ed è questa la modalità che conta per le integrazioni aziendali: un assistente sui documenti interni, un sistema che elabora le email, un agente che compila report passano tutti dalle API. La differenza pratica è enorme: usare ChatGPT a mano non scala, integrare un modello via API in un processo può gestire migliaia di operazioni al giorno.

Da qui un punto che molti sottovalutano: un modello linguistico non è un prodotto finito, ma un'infrastruttura, come un database o un motore di ricerca, su cui costruire applicazioni. Il valore non sta nel modello, ma in come viene integrato con i dati, i processi e i controlli dell'azienda. ChatGPT è un prodotto per il pubblico; un sistema aziendale costruito su un modello linguistico accede ai tuoi documenti, dialoga con i tuoi sistemi, rispetta le tue regole e viene monitorato nel tempo. Comprare licenze di un assistente e costruire un agente su misura sono cose diverse per costo, complessità e valore: la prima è immediata e limitata, la seconda richiede progettazione ma rende molto di più.

Cosa sanno fare, e cosa no

I modelli linguistici eccellono nella scrittura di testi, come email, report, contenuti e documentazione; nella sintesi di documenti lunghi; nell'estrazione di informazioni strutturate da testi liberi; nella traduzione e nell'adattamento linguistico; nelle risposte a domande su una base di conoscenza; nel supporto alla programmazione; e nella classificazione dei testi. Sono attività che coprono una parte enorme del lavoro intellettuale ripetitivo di un'azienda.

Altrettanto importante è conoscerne i limiti. Un modello non ha memoria tra una sessione e l'altra, a meno che non venga costruita apposta, e non sa cosa è successo ieri nella tua azienda. Non accede a sistemi esterni se non è collegato a strumenti specifici. E non ragiona in senso stretto: produce risultati plausibili, non necessariamente veri, e può generare informazioni false con la stessa sicurezza di quelle corrette, le cosiddette allucinazioni, un limite strutturale che va gestito con l'architettura del sistema, non sperando che il modello "stia attento". Per questo non è adatto a decisioni che richiedono certezza assoluta senza verifica umana, a calcoli precisi su grandi volumi di dati o a operazioni critiche senza supervisione.

I principali modelli, e come sceglierli per un progetto aziendale

Il mercato si è concentrato attorno a poche famiglie, con caratteristiche diverse: GPT di OpenAI, i modelli che hanno reso famosa questa tecnologia, disponibili tramite ChatGPT e via API, ottimi per uso generale e molto diffusi nelle integrazioni aziendali; Claude di Anthropic, spesso preferito per ragionamenti lunghi e precisi, per la programmazione e dove l'affidabilità è prioritaria, con un'ampia finestra di contesto; Gemini di Google, integrato in Google Workspace, forte nella multimodalità e nell'accesso a informazioni aggiornate; Llama di Meta e altri modelli aperti, come Mistral, che si possono scaricare ed eseguire su infrastrutture proprie, interessanti per chi ha forti esigenze di riservatezza o vuole evitare la dipendenza da servizi esterni. Nessuno è superiore in assoluto: la scelta dipende dal caso d'uso, dai volumi, dai requisiti di conformità e dall'architettura del sistema da costruire.

Quando si confrontano modelli per un progetto specifico, contano sei criteri: la qualità sul compito specifico, non in generale, perché un modello ottimo per scrivere testi può essere mediocre nell'estrarre dati strutturati; la finestra di contesto, cioè quanto testo riesce a considerare in una sola chiamata, importante per documenti lunghi e conversazioni estese; la latenza, decisiva nelle applicazioni in tempo reale come i voice agent; il costo per token, perché i modelli più capaci costano di più e con volumi alti la scelta pesa molto; la modalità di utilizzo, servizio cloud, API o installazione in sede, rilevante per privacy e conformità; e le garanzie per le aziende, livelli di servizio, accordi sul trattamento dei dati, certificazioni di sicurezza. Nessuna azienda dovrebbe scegliere in base ai benchmark generici o alla notorietà del momento: il test che conta è sul proprio caso d'uso, con i propri dati.

C'è poi una conseguenza pratica del fatto che il mercato cambia in fretta, con modelli migliori e prezzi più bassi ogni pochi mesi: le architetture ben costruite sono indipendenti dal modello, cioè progettate per poterlo sostituire senza riscrivere tutto. Chi si è legato rigidamente a un solo modello ha già scoperto quanto costa migrare.

Se vuoi capire quale modello e quale architettura fanno per te, parliamone.