Come funziona un LLM
Una rete neurale non è un oggetto fisico e non è un programma nel senso classico, è una funzione matematica complessa composta da milioni di piccole unità di calcolo, i nodi, connessi fra loro. Un nodo è un’unità di calcolo che riceve un input, lo elabora e produce un output. Ogni nodo fa una cosa semplice: riceve dei numeri, li combina e produce un numero in uscita, che passa ad altri nodi. Presi uno a uno sono banali; sono i milioni di nodi in cascata, su molti strati, a far emergere comportamenti complessi.
Ogni collegamento fra nodi ha un peso ossia un numero che indica quanto conta il segnale che lo attraversa: peso alto, collegamento influente; peso vicino a zero, quasi ignorato. Ogni nodo ha poi un bias, un valore che regola quanto facilmente si “accende”. Pesi e bias insieme sono i parametri del modello che vanno dalla decina di miliardi per modelli piccoli che possono girare in locale (es: 10B di parametri, billions = miliardi) fino a qualche migliaio di miliardi per i modelli di frontiera (GPT-4 ne aveva circa 1,8T; trillion = 1000 miliardi).
Addestrare la rete significa cercare i valori che le permettono di indovinare la parola successiva in un testo più plausibile (tecnicamente il token che non è esattamente una parola), e poi quella dopo, e quella dopo ancora, fino a comporre una risposta intera. Nessuno li sceglie: emergono da soli durante le fasi di addestramento e di quelle successive come effetto di milioni di cicli di scrittura parametri - generazione output - correzione - aggiustamento parametri.
L’addestramento consiste nella “digestione” di enormi quantità di testo da internet, libri e codice; i modelli più recenti aggiungono anche immagini. Non immagazzinano fatti verificati, ma le strutture statistiche del linguaggio, le regolarità con cui le parole si concatenano. Conseguenza diretta: tutto ciò che c’è nei dati, errori e pregiudizi compresi, entra nel modello. Per l’addestramento i modelli grandi richiedono migliaia di processori specializzati che girano per mesi.
Finita questa fase la rete sa prevedere testo e risponde anche a richieste pericolose. Va quindi allineata con i valori etici di sicurezza, mancanza di pregiudizio, non pericolosità delle risposte, e simili. Le si insegna quali risposte sono preferibili premiando quelle che rispettano una serie di principi stabiliti, fase che viene effettuata con un mix di valutazioni umane e di altri modelli AI usati come giudici.
Una volta finita la fase di addestramento, oggi i modelli sono “chiusi”, ossia non hanno la possibilità di apprendere e modificare i loro pesi e parametri e di conseguenza, non sanno niente di cosa è accaduto dopo la data di fine addestramento, non sono quindi in grado di autoaggiornarsi e se volete conoscere la notizia di ieri dovete chiedergli di fare ricerche in internet, anche se i modelli moderni l’operazione di ricerca la fanno anche in autonomia.
Un concetto importante e più pratico è la finestra di contesto: quanto testo il modello tiene sotto gli occhi in una singola chat, misurato in token. È un budget unico e condiviso fra la vostra domanda, i documenti che incollate e la risposta stessa: riempitelo con un input lungo e la risposta si accorcia. È anche il motivo per cui le chat lunghe perdono colpi, quando il discorso supera la finestra i primi dettagli si sfumano. Le finestre sono cresciute molto, da poche migliaia di token fino a milioni nei modelli recenti, ma restano un limite.
Ora che abbiamo un’idea di come sono fatti andiamo a capire i vantaggi che questa tecnologia ci può dare.
In cosa sono bravi
Abbiamo visto che gli LLM non sono database, non sono motori di ricerca e non sono “intelligenze” nel senso umano del termine. Però sono strumenti potentissimi in una cosa precisa: lavorare sul linguaggio e trasformare informazione.
Lavorare sul linguaggio
Riscrivere, riassumere, tradurre, cambiare registro, sistemare la forma, adattare un testo a un pubblico diverso. Qui sono fortissimi perché lavoreranno su testo che gli abbiamo fornito noi e quindi non devono recuperare informazioni dalla loro memoria. Più gli dai testo, contesto e vincoli chiari, più diventano affidabili. Capito questo punto, avete capito gli LLM. Quindi, su questioni importanti, recuperate le fonti che ritenete affidabili, dategliele in pasto e lui vi aiuterà a capirle, ad analizzarle, a trovare schemi ricorrenti, etc.
Ovviamente sarà una delle cose che affronteremo in questo corso. Ad onor del vero, oggi tutti gli LLM utilizzano funzioni di ricerca per trovare informazioni al di fuori della loro memoria e non “sparano la prima cosa che gli viene in mente” come succedeva una volta, quindi, se utilizzati bene, è possibile ottenere informazioni con un discreto grado di affidabilità anche se non gli forniamo noi le fonti, ma non è un processo automatico ancora quindi la regola d’oro è NON FIDATEVI.
Riconoscere e continuare gli schemi
Un LLM, tramite l’addestramento, ha imparato regolarità linguistiche, strutturali, semantiche. Lo stesso vale per le altre AI: i generatori di immagini hanno imparato schemi da miliardi di immagini, quelli musicali ascoltando musica, quelli vocali ascoltando conversazioni. Se il compito è riconoscere pattern e i dati sono puliti, battere un’AI è quasi impossibile. Un LLM quindi sa com’è fatta una frase, come prosegue un certo tipo di testo, che forma ha una tabella, una lista, una mail, un verbale, un contratto, un post, una spiegazione tecnica. Gli dai l’inizio di qualcosa e lui lo continua nello stesso stile. Gli dai appunti disordinati e li trasforma in una scaletta. Gli dai tre esempi e produce il quarto coerente con gli altri. Gli dai testo libero e lui ne estrae dati ordinati. Tre email diventano una tabella con nomi, date e importi. Cento recensioni si dividono per aspetti positivi, negativi e richieste ricorrenti. Un verbale confuso diventa un elenco di decisioni prese, problemi aperti e prossime azioni. Non ha una comprensione “umana” (argomento che merita un approfondimento a parte), ma riconosce forma, contesto e relazioni tra concetti: sa trasformare il caotico in materiale strutturato.
Classificare e valutare
Gli LLM sono anche bravi a classificare contenuti secondo criteri dati. Puoi chiedere: queste email sono urgenti o non urgenti? Questi ticket clienti parlano di problemi tecnici, amministrativi o commerciali? Questi CV rispettano i requisiti minimi? Queste risposte sono favorevoli, contrarie o neutre? La cosa importante è dare una griglia chiara. Se il criterio è vago, anche la risposta sarà vaga. Se il criterio è preciso, il modello può diventare un ottimo assistente di prima selezione. Non sostituisce il giudizio finale, ma riduce molto il lavoro sporco.
Generare varianti
Altro punto fortissimo: produrre alternative. Titoli diversi, esempi diversi, versioni più semplici, più tecniche, più dure, più eleganti, più commerciali, più divulgative. Una persona spesso si blocca sulla prima formulazione. Un LLM può produrne dieci in pochi secondi. Non è detto che siano tutte buone. Anzi, spesso molte non lo sono. Però servono a esplorare lo spazio delle possibilità. Provocazione: non è questa una forma di creatività?
Da linguaggio umano a linguaggio tecnico
Questa è una delle rivoluzioni più pratiche. Tu scrivi in italiano normale: “trovami le righe dove si parla di questa cosa”, “fammi una tabella con questi dati”, “creami una formula”, “preparami una query”, “trasformami questi appunti in una procedura”. Il modello traduce la richiesta in un linguaggio tecnico: codice, formula, query, prompt, struttura dati, comando, schema, documento. Non elimina la competenza tecnica, ma abbassa la barriera d’ingresso. Non devi sempre conoscere già il linguaggio della macchina. Devi sapere spiegare bene cosa vuoi ottenere.
Codice
Il codice è un caso particolare dei punti precedenti. È linguaggio, o meglio sono tanti linguaggi, ma molto più regolari e strutturati rispetto al linguaggio umano: hanno sintassi rigida, strutture ricorrenti e moltissimi esempi disponibili. Per questo gli LLM sono diventati molto forti nella programmazione comune: scrivere funzioni, correggere errori, spiegare codice, generare script, trasformare un’idea in una prima bozza funzionante. Storicamente non brillavano su problemi rari, complessi o molto specifici ma le prestazioni dei modelli più recenti, sono impressionanti. Resta una regola: il codice va testato. Un LLM può scrivere codice apparentemente perfetto e comunque sbagliato. Siccome abbiamo visto che gli LLM sono bravi nel trasformare il linguaggio umano in codice, questo ha dato inizio a quello che è stato chiamato “vibe coding” ossia è possibile creare app e software semplicemente descrivendolo a parole e con gli agenti questa capacità si è ulteriormente rafforzata.
Spiegare e fare da tutor
Spiegare è uno degli usi più naturali degli LLM ed è una conseguenza dei punti precedenti. A mio personale parere, già oggi se fossero utilizzati come strumenti didattici e non sostituiti per fare i compiti, potrebbero trasformare radicalmente l’apprendimento, a qualsiasi livello, rendendolo più divertente e interattivo, diminuendo drasticamente i tempi di preparazione del materiale didattico e adattandolo facilmente alle esigenze specifiche dell’allievo, mettendo a disposizione un insegnante instancabile che ci può interrogare e guidare al superamento delle nostre lacune. È uno degli usi migliori, soprattutto per imparare. Ma con un limite fondamentale: dagli tu il materiale, perché altrimenti potrebbe spiegare con la stessa sicurezza anche ciò che è sbagliato.
Usare strumenti
Qui c’è uno dei salti più importanti e più impattanti per la nostra società. Un LLM da solo risponde con quello che ha imparato e con il contesto che gli dai. Ma collegato a strumenti può fare molto di più: cercare sul web, leggere documenti, interrogare database, eseguire codice, usare una calcolatrice, chiamare altri software per chiedere e dare informazioni o comandi, modificare file, compilare tabelle, pilotare software. Questo sta cambiando la natura del lavoro. Dove ci porterà tutto questo? Non si sa.
Qui si chiude il cerchio. Oggi, le reti neurali degli LLM e delle AI non contengono un archivio di risposte vere da consultare: contengono quei miliardi di parametri che costituiscono una mappa statistica di come si comporta il linguaggio, le immagini o altri tipi di informazioni; sono strumenti potentissimi che bisogna saper usare.