Tendenze e limiti#
Chiudere un capitolo sui Transformer con le previsioni è un esercizio rischioso: questo campo brucia le profezie in fretta. Più utile fissare le direzioni di lavoro visibili oggi, e i problemi aperti che le motivano. Perché il paradosso è proprio questo: mai un’architettura ha funzionato così bene, e mai è stato così chiaro quanto costa farla funzionare.
Dove punta la ricerca#
Tre cantieri, su tutti, e conviene nominarli prima di scendere in uno.
Il primo è fare di più con meno: i grandi modelli sono motori potentissimi che consumano moltissimo, e buona parte della ricerca è una gara di efficienza, per farli stare in un telefono invece che in un centro di calcolo. Il secondo è unire i sensi: modelli che leggono, guardano e ascoltano insieme, come l’assistente a cui mostri una foto e fai una domanda a voce. Il terzo è superare i limiti dell’architettura stessa: l’assemblea in cui ogni parola parla con ogni altra costa troppo sui testi lunghi, perché raddoppiando le parole le conversazioni quadruplicano, e questo spinge a cercare modi più economici di far comunicare le parti di un testo.
Del primo cantiere vale la pena vedere da vicino il metodo più elegante, che si chiama distillazione: si prende un modello grande e bravo, lo si mette a fare il maestro, e se ne addestra uno piccolo a imitarlo.
Fig. 13.25 Perché imparare dal maestro batta imparare dalla risposta giusta. La risposta giusta dice solo qual è; il maestro dice anche quali errori erano quasi ragionevoli, e quella è informazione in più.#
Il dettaglio di Fig. 13.25 che fa funzionare la distillazione è che cosa passa dal maestro all’allievo. Non la risposta, ma l’intera graduatoria: davanti a una foto di gatto il maestro non dice «gatto», dice «gatto quasi certamente, lince un pochino, camion per niente». È un’informazione che nessun elenco di risposte giuste conterrebbe, perché quella esitazione fra gatto e lince dice all’allievo che i due si somigliano, e imparare quali cose si somigliano è metà del mestiere.
Gli altri modi di rimpicciolire un modello sono due, e sono più bruti. Il primo è scrivere ogni suo numero con meno cifre: dove prima ne servivano dieci adesso ne bastano due o tre, il modello occupa quattro o otto volte meno spazio, e in cambio è un po’ meno preciso, spesso molto meno di quanto ci si aspetterebbe. Il secondo è togliere di mezzo i numeri che contano poco: in una rete addestrata ce ne sono moltissimi vicini allo zero, che si possono azzerare del tutto senza che quasi nulla cambi.
Sul contesto lungo la ricerca prova invece a far comunicare le parole senza convocarle tutte insieme, e i due filoni più promettenti hanno un capitolo ciascuno subito dopo questo. Sul fronte dei sensi si costruiscono mappe del significato condivise, dove una foto di gatto e la parola «gatto» cadono nello stesso punto. E c’è un cantiere in più, che dieci anni fa nessuno avrebbe messo in un elenco di ricerca: rendere questi modelli utili e non dannosi, cioè il post-training della sezione precedente, che nel frattempo è diventato una disciplina a sé.
Sul fronte dell’efficienza: distillazione (un modello piccolo addestrato a imitare le uscite di uno grande), quantizzazione (pesi a 8 o 4 bit invece che a 32, con perdite di qualità spesso modeste), pruning, e architetture mixture-of-experts che attivano solo una frazione dei parametri per ogni token. Sul fronte del contesto lungo: attenzioni sparse e lineari, ottimizzazioni di memoria come FlashAttention, e gli state space model (Mamba); a questi ultimi, e alle attenzioni lineari, sono dedicati i due capitoli che seguono. Sul fronte multimodale: spazi di rappresentazione condivisi tra testo, immagini e audio, con il transfer learning contrastivo alla CLIP come collante. A cui si aggiunge il filone dell’allineamento: tecniche (come il fine-tuning con feedback umano) per rendere i modelli più utili e meno dannosi, che è oggi un’area di ricerca a pieno titolo, non un ritocco finale.
Pensare più a lungo sulle cose difficili#
C’è un filone che vale la pena isolare, perché nasce da un’osservazione così semplice da sembrare ingenua e perché la sua storia insegna qualcosa su come procede questo campo.
Un Transformer fa sempre lo stesso numero di passaggi. Che gli si chieda quanto fa due più due o di sbrogliare un ragionamento in dieci mosse, il testo attraversa esattamente gli stessi strati, e quindi riceve la stessa quantità di calcolo. Detta così suona strana, perché non è affatto come funzioniamo noi: sulle cose facili rispondiamo a colpo, sulle difficili ci fermiamo a pensare.
L’idea, allora, è di lasciare che il modello decida quanto pensare, e nel 2018 qualcuno ci provò con una mossa che risolve il problema alla radice. Il guaio è che i piani della torre sono sei, o sessanta, ma comunque un numero deciso in anticipo: sono pezzi diversi l’uno dall’altro, quindi non se ne può usare qualcuno in più. E se invece il piano fosse uno solo, sempre lo stesso, riapplicato più volte di fila? Allora il numero di volte non sarebbe più scritto nell’architettura, e si potrebbe decidere caso per caso: due giri per una domanda facile, venti per una difficile. In più, a ogni giro ogni parola può dire «io ho finito» e smettere, mentre le altre continuano a girare.
All’epoca non prese piede, e la ragione è soprattutto una: un piano solo riapplicato molte volte costa, in ore di computer, quanto una pila di piani diversi, perché il lavoro è lo stesso, ma di numeri da imparare ne ha molti di meno, quindi a parità di conto impara meno cose. Nel frattempo la strada dell’ingrandire funzionava benissimo, e nessuno aveva un buon motivo per complicarsi la vita. L’idea è tornata attuale adesso, per una strada inaspettata: i modelli che «ragionano» prima di rispondere fanno, in fondo, la stessa cosa, cioè spendere più calcolo sulle domande difficili. Solo che lo fanno scrivendo il ragionamento, un passo alla volta in parole, invece di girare più volte dentro sé stessi in silenzio. Quale delle due strade sia la migliore è una questione aperta: la prima è più economica, la seconda si può leggere.
L’Universal Transformer [DGV+19] (l’articolo è del luglio 2018, presentato a ICLR l’anno successivo, che è la data della voce in bibliografia) sostituisce gli \(L\) strati distinti con un solo blocco applicato ricorrentemente in profondità, cioè con i pesi legati fra le iterazioni. La motivazione dichiarata è recuperare il bias induttivo ricorrente che il Transformer aveva buttato via insieme alla ricorrenza temporale, e che serve sui compiti a struttura gerarchica e sulla generalizzazione a lunghezze non viste in addestramento.
Sopra ci mettono l’Adaptive Computation Time di Graves [Gra16]: a ogni iterazione, per ogni posizione, una piccola unità emette una probabilità di arresto; le posizioni che si fermano vengono copiate invariate mentre le altre continuano a essere aggiornate, e una penalità sul numero di passi (il ponder cost) impedisce di pensare all’infinito. Il calcolo diventa così condizionato all’ingresso invece che fissato dall’architettura.
Vale la pena essere precisi su un punto che il titolo lascia intuire, e altrettanto precisi su quanto quel punto sia solido. Gli autori dimostrano che legare i pesi e iterare rende il modello Turing-completo, ma la loro stessa formulazione lo dice sotto certe ipotesi, e l’ipotesi che porta il peso è la solita: un numero di passi non limitato a priori. Il ragionamento è che un Transformer standard esegue un numero di passi sequenziali fissato dall’architettura, mentre una ricorrenza in profondità lo fa dipendere dai dati.
Sarebbe però scorretto presentare la Turing-incompletezza del Transformer standard come un fatto assodato, perché la letteratura contiene anche il risultato opposto: Pérez, Barceló e Marinković [PerezBarceloM21] dimostrano che il Transformer encoder-decoder è Turing-completo, con precisione aritmetica arbitraria e un numero illimitato di passi di decodifica. E quell’ultima ipotesi è esattamente la generazione autoregressiva, cioè la seconda strada di cui parla il paragrafo qui sotto. Le due prove non si contraddicono, cambiano le ipotesi; ma la morale da portarsi via è che «quanti passi può fare» conta più di «come sono legati i pesi», e che una frase secca sull’espressività di un’architettura, senza le sue ipotesi accanto, è quasi sempre una frase sbagliata.
L’idea è rimasta a lungo marginale e oggi è di nuovo centrale, arrivata però dall’altra parte. I modelli che ragionano allocando più calcolo in inferenza fanno la stessa cosa nello spazio dei token invece che nello spazio latente: generano una catena di passi intermedi, e più il problema è difficile più ne generano. Le due vie hanno un compromesso opposto e non risolto. Il calcolo latente è più economico (nessun token da produrre e rileggere) e non è ispezionabile; quello in token costa di più, è più facile da addestrare con la supervisione esistente, e lascia una traccia che si può leggere, il che nel capitolo sull’interpretabilità è tutt’altro che un dettaglio. Che la traccia sia poi una descrizione fedele del calcolo svolto è una domanda a sé, e la risposta corrente è: non necessariamente.
I limiti che restano#
Un elenco onesto, da tenere accanto agli entusiasmi:
Costo: addestramento e inferenza dei modelli maggiori richiedono risorse (economiche, energetiche, di hardware) concentrate in poche aziende; la ricerca indipendente lavora per necessità su scala ridotta.
Dati: le grandi raccolte di testo prese dal web (i corpora) si stanno esaurendo come fonte gratuita di materiale di qualità, e portano con sé le distorsioni sistematiche di ciò che è stato scritto online, i bias, che i modelli assorbono insieme al resto.
Affidabilità: le allucinazioni (risposte fluenti ma false) derivano dal mestiere stesso di questi modelli, che è scrivere una parola alla volta scegliendo ogni volta la continuazione più probabile; probabile non vuol dire vero, e nulla nel meccanismo distingue le due cose. Mitigarle (con il recupero di fonti esterne, la verifica, la calibrazione) è un problema aperto.
Comprensione: su cosa i modelli capiscano davvero il dibattito scientifico è tutt’altro che chiuso, e attribuire loro intenzioni o ragionamento senza prove è un errore prima ancora che una scortesia verso i fatti. Prudenza, qui, non è modestia di facciata: è il modo in cui si tratta un’affermazione che non si sa ancora come verificare.
Il posto dei Transformer in questo libro#
Con questo capitolo si chiude un tratto del percorso tecnico del libro: dai neuroni del percettrone all’attenzione, ogni pezzo dei Transformer è un concetto che hai già incontrato, montato in una configurazione nuova. L’evidenziatore che pesa le parole, il posto numerato che dice l’ordine, la riunione e il lavoro individuale che si alternano piano dopo piano, la mappa del significato dove le cose simili stanno vicine, il provare-e-correggere che sistema i numeri un’inezia alla volta: se hai seguito queste immagini hai seguito tutto, e questi sono i loro nomi propri, quelli che troverai scritti altrove (attenzione, positional encoding, feed-forward, embedding, discesa del gradiente). È la lezione migliore di questa storia: le «rivoluzioni» dell’AI, viste da vicino, sono quasi sempre ricombinazioni ingegnose di idee semplici, rese possibili da più dati e più calcolo. Chi conosce le idee semplici non insegue le mode: le legge.
Da ricordare
La ricerca punta su efficienza (la distillazione, cioè l’apprendista che impara dal maestro; la quantizzazione, cioè scrivere ogni numero con meno cifre per farlo stare in un telefono; e i modelli che tengono acceso solo un pezzo di sé per ogni parola), contesto lungo (modi più economici di far parlare fra loro le parti di un testo, fino agli state space model) e multimodalità (leggere, guardare e ascoltare con lo stesso meccanismo).
Un Transformer spende lo stesso calcolo su ogni ingresso, facile o difficile che sia. Nel 2018 si provò a togliere quel vincolo con un piano solo riapplicato più volte, lasciando a ogni parola il diritto di dire «io ho finito» e fermarsi. Allora non prese piede, e l’idea è tornata attuale dalla parte opposta: i modelli che ragionano spendono più calcolo sulle difficili scrivendo i passi invece di girare in silenzio. La prima strada costa meno, la seconda si può leggere.
I limiti sono strutturali: costi concentrati, bias dei dati, e il fatto che un modello che sceglie ogni volta la continuazione più probabile non ha modo di distinguere il probabile dal vero. Su che cosa questi modelli «capiscano» davvero il dibattito è tutt’altro che chiuso.
Tutti gli ingredienti dei Transformer li hai già studiati in questo libro: ciò che è nuovo è la composizione, non i mattoni.
Da ricordare
Le direzioni di frontiera: efficienza (distillazione, quantizzazione a 8 o 4 bit, pruning, architetture mixture-of-experts che attivano solo una frazione dei parametri per token), contesto lungo (attenzioni sparse e lineari, ottimizzazioni di memoria come FlashAttention, state space model) e multimodalità (spazi di rappresentazione condivisi fra testo, immagini e audio). A cui si aggiunge l’allineamento, che è oggi un’area di ricerca a pieno titolo e non un ritocco finale.
Il calcolo condizionato all’ingresso: l’Universal Transformer [DGV+19] lega i pesi fra le iterazioni, e sopra ci mette l’Adaptive Computation Time [Gra16], che a ogni giro dà a ogni posizione una probabilità di arresto. La Turing-completezza che ne segue vale sotto ipotesi, e quella che pesa è il numero di passi non limitato a priori.
Lo stesso filone è tornato dalla porta opposta: invece di iterare in silenzio dentro la pila, i modelli che ragionano allungano la generazione e scrivono i passi. Si paga in token prodotti, si guadagna che il ragionamento resta leggibile.
Limiti aperti: il costo quadratico \(O(n^2)\) dell’attenzione piena e l’archivio degli appunti che cresce a ogni token generato (la KV cache); costi concentrati e bias dei dati; e lo scarto fra massimizzare la verosimiglianza di una continuazione e stabilire che sia vera.
C’è però un conto che questo capitolo nomina e non salda. Se ogni parola guarda tutte le altre, il lavoro cresce col quadrato della lunghezza, e mentre il modello scrive l’archivio dei suoi appunti si allunga a ogni parola prodotta: sono i due prezzi dell’attenzione, e li paga chi vuole leggere lungo. Da lì riparte Attenzione lineare, che per abbassarli mette le mani sull’unico pezzo che qui non abbiamo mai discusso, quello che decide come l’attenzione si spartisce fra le parole.