Ciao, e benvenuto nella sesta puntata della ventunesima stagione. Nelle scorse puntate abbiamo capito le fondamenta: imparare dai dati, le reti neurali, il riconoscere schemi. Oggi arriviamo a ciò che, per la maggior parte delle persone, è diventato il volto stesso dell'intelligenza artificiale: le macchine che parlano, quei sistemi con cui possiamo conversare, che scrivono testi, rispondono a domande, sembrano capire e usare il linguaggio come noi. Come funzionano? Cosa fanno davvero, sotto la superficie fluente? Oggi lo scopriamo, con la solita onestà.
Partiamo da cosa sono, in essenza, questi sistemi. Sono modelli che hanno imparato i modelli del linguaggio a partire da quantità sterminate di testo. Immagina di far leggere a una macchina una porzione enorme di tutto ciò che è stato scritto e messo online: libri, articoli, conversazioni, pagine di ogni tipo. Da tutto questo testo, con il processo di apprendimento che conosciamo, la macchina impara i modelli ricorrenti del linguaggio: quali parole tendono a seguire quali altre, come sono fatte le frasi, come si concatenano le idee nei discorsi. Non impara le regole grammaticali come le studiamo noi: impara, dagli esempi, gli schemi statistici di come funziona il linguaggio scritto.
Ora arriva la parte sorprendente, il meccanismo di fondo con cui funzionano, che è più semplice di quanto immagini. Alla base, questi sistemi fanno una cosa apparentemente banale: prevedere la parola successiva. Dato un pezzo di testo, il sistema prevede quale parola è probabile che venga dopo, basandosi sui modelli che ha imparato. Poi aggiunge quella parola, e prevede la successiva, e la successiva ancora, una parola alla volta, costruendo così, pezzo dopo pezzo, intere frasi e interi discorsi. Tutto ciò che scrivono nasce da questo: prevedere ripetutamente la prossima parola più plausibile, data tutta la conversazione fino a quel punto. Un meccanismo semplice, ripetuto, da cui emerge qualcosa di straordinario.
Voglio che ti fermi un attimo su quanto sia sorprendente questo, perché è quasi incredibile. Da un meccanismo così semplice, prevedere la parola dopo, emergono risposte fluenti, coerenti, spesso utili e sensate, che sembrano frutto di pensiero. È uno di quei casi in cui, da una regola semplice ripetuta su scala enorme, con una quantità sterminata di modelli appresi, emerge un comportamento di una ricchezza inattesa. Nessuno ha programmato queste macchine per rispondere a domande o scrivere poesie: hanno solo imparato benissimo a prevedere la parola successiva, e da lì, come per emergenza, nasce la capacità di conversare. È un risultato che ha stupito gli stessi ricercatori.
Ma proprio qui, capito il meccanismo, dobbiamo essere onesti su cosa questo implica, perché spiega tutto, poteri e difetti. Siccome il sistema, alla base, prevede la parola plausibile successiva, sta producendo continuazioni probabili, non verità verificate. Non consulta un archivio di fatti per rispondere: genera testo che suona plausibile, coerente con i modelli del linguaggio che ha imparato. La maggior parte delle volte, il testo plausibile è anche corretto, perché ha imparato da testi in gran parte corretti. Ma non c'è, nel meccanismo, nessuna garanzia di verità: c'è solo la ricerca della continuazione linguisticamente plausibile. Questa è la chiave per capire sia perché sono così bravi, sia perché a volte sbagliano con sicurezza.
Voglio sfatare esplicitamente un fraintendimento diffuso, perché è importante per usarli bene. Quando conversi con una di queste macchine e ti sembra che capisca e ragioni come te, è naturale attribuirle una mente, una comprensione. Ma, come abbiamo visto, sotto non c'è comprensione nel senso umano: c'è un magistrale abbinamento di schemi linguistici, una previsione raffinatissima della parola successiva. Il sistema non sa cosa sta dicendo nel modo in cui lo sai tu; produce testo che, statisticamente, è il tipo di cosa che verrebbe detta. Questa somiglianza con il pensiero è affascinante e utilissima, ma resta una somiglianza esteriore, non la stessa cosa. Ricordare questo ti tiene lucido nell'usarli.
Voglio chiudere collegando questo alla stagione sui linguaggi, perché c'è un legame bello. Ricordi che i linguaggi di programmazione sono un modo per esprimere l'intento alla macchina? Con questi sistemi, siamo arrivati a un punto sorprendente della scalata verso il pensiero umano: possiamo esprimere ciò che vogliamo alla macchina nel linguaggio umano di tutti i giorni, e lei, avendo imparato i modelli del linguaggio, ci risponde nello stesso linguaggio. È un gradino altissimo di quella scala, il linguaggio naturale come modo di interagire con le macchine. Non perché la macchina capisca come noi, ma perché ha imparato talmente bene gli schemi del nostro linguaggio da poterlo usare fluentemente. Un traguardo affascinante, da capire per ciò che è.
Per oggi ci fermiamo qui. Le macchine che parlano hanno imparato i modelli del linguaggio da quantità sterminate di testo, e funzionano con un meccanismo di fondo sorprendentemente semplice: prevedere ripetutamente la parola successiva più plausibile, costruendo così frasi e discorsi interi. Da questa semplice regola, su scala enorme, emerge la capacità di conversare in modo fluente e utile. Ma proprio perché producono continuazioni plausibili e non verità verificate, sono bravissimi eppure privi di garanzia di correttezza, e sotto la fluidità non c'è comprensione umana, ma abbinamento di schemi. Nella prossima puntata affrontiamo proprio i loro errori e limiti: allucinazioni, pregiudizi e altro. Nelle note trovi qualche spunto. Se ti è utile, condividila. Grazie per l'ascolto, e ci sentiamo alla prossima.