Ciao, e benvenuto nella settima puntata della ventunesima stagione. Nelle scorse puntate abbiamo capito i poteri dell'intelligenza artificiale. Oggi affrontiamo, con la massima onestà, l'altra faccia della medaglia: i suoi errori e i suoi limiti. Perché una stagione che si chiama l'intelligenza artificiale spiegata bene deve raccontare non solo cosa sa fare, ma anche, e soprattutto, dove sbaglia e perché. E capire perché sbaglia non è un dettaglio: è ciò che ti permette di usarla in modo saggio invece che ingenuo. Oggi parliamo di allucinazioni, pregiudizi e limiti profondi.
Cominciamo dal problema forse più sorprendente e insidioso, quello delle cosiddette allucinazioni. Le macchine che parlano, di cui abbiamo parlato, a volte producono risposte che suonano perfettamente sicure, fluenti e convincenti, ma che sono semplicemente false, inventate di sana pianta. Ti danno con tono sicuro un fatto sbagliato, una citazione mai esistita, un dettaglio inventato, il tutto con la stessa scioltezza con cui dicono cose vere. È un fenomeno spiazzante: non è che dicano non lo so, o esitino; affermano il falso con la stessa sicurezza del vero. Questo si chiama, con una parola suggestiva, allucinazione.
Ma perché succede? E qui la scorsa puntata ci dà la risposta, che voglio rendere chiara. Ricordi che questi sistemi, alla base, producono la continuazione più plausibile del testo, non verità verificate? Ecco la radice delle allucinazioni: il sistema genera ciò che suona plausibile, ciò che statisticamente sembra il tipo di risposta giusta, ma plausibile non vuol dire vero. Quando non ha appreso l'informazione giusta, o quando i modelli lo portano fuori strada, produce comunque qualcosa di plausibile, che però è falso. Non sta mentendo, perché non ha il concetto di verità: sta solo generando testo verosimile. L'allucinazione non è un difetto occasionale da correggere facilmente: è una conseguenza diretta di come funzionano queste macchine.
Il secondo grande problema, altrettanto importante, riprende un tema della stagione sulla sicurezza: i pregiudizi. Ricordi che l'intelligenza artificiale impara dai dati, dagli esempi che le diamo? Ebbene, quei dati vengono dal mondo umano, e il mondo umano è pieno di pregiudizi, distorsioni, iniquità. Se una macchina impara da dati che contengono pregiudizi, imparerà quei pregiudizi, e potrà riprodurli, o persino amplificarli, nelle sue risposte e decisioni. Non perché sia cattiva, ma perché ha assorbito fedelmente ciò che c'era nei dati, difetti compresi. La macchina è uno specchio dei dati con cui impara: se i dati sono distorti, lo saranno anche i suoi risultati. Ed è un problema serio, perché queste macchine vengono usate per decisioni che riguardano le persone.
Voglio che tu colga perché il problema dei pregiudizi sia tanto difficile da risolvere, perché è più sottile di quanto sembri. Non basta dire alla macchina di non avere pregiudizi: lei non capisce cosa sia un pregiudizio, ha solo assorbito modelli dai dati. I pregiudizi possono nascondersi in modo subdolo dentro i dati, in forme difficili da individuare e rimuovere. Ripulire i dati, accorgersi delle distorsioni, correggerle senza introdurne altre, è un lavoro complesso e mai perfetto. È una sfida aperta e importante, su cui si lavora molto, ma che ci ricorda una verità fondamentale: la qualità e l'equità di un'intelligenza artificiale dipendono profondamente dalla qualità e dall'equità dei dati con cui è stata addestrata.
C'è un terzo limite, più generale, che unifica gli altri e riprende il cuore della stagione: queste macchine non hanno vera comprensione né buon senso. Non sanno cosa non sanno. Un umano, di fronte a una domanda su cui è ignorante, di solito se ne accorge e lo dice; queste macchine, spesso, no, perché non hanno consapevolezza dei propri limiti. Mancano del buon senso di fondo che a noi permette di riconoscere l'assurdo, di dire questo non ha senso. Per questo possono produrre errori che a un umano non verrebbero mai, incongruenze palesi, perché manca loro quella comprensione di base del mondo che noi diamo per scontata. Sono sapienti negli schemi, ma prive del senso comune.
Voglio trarre da tutto questo la lezione pratica più importante, che è liberatoria invece che scoraggiante. Sapere che l'intelligenza artificiale può allucinare, può avere pregiudizi, non ha vero buon senso, non è un motivo per rifiutarla, ma per usarla nel modo giusto: come uno strumento potente ma fallibile, da tenere sotto controllo. Verifica ciò che ti dice, soprattutto quando conta. Non affidarle ciecamente decisioni delicate. Tieniti nel circuito, come giudice ultimo. Usala per amplificare le tue capacità, non per sostituire il tuo giudizio. Uno strumento potente e fallibile, usato con consapevolezza dei suoi limiti, è utilissimo; usato con fiducia cieca, è pericoloso. La differenza la fa il capire questi limiti.
Per oggi ci fermiamo qui. Con onestà, abbiamo visto i limiti dell'intelligenza artificiale. Le allucinazioni: risposte false ma sicure e fluenti, che nascono dal produrre continuazioni plausibili invece di verità verificate. I pregiudizi: distorsioni assorbite dai dati del mondo umano, difficili da individuare e rimuovere, perché la macchina è uno specchio dei suoi dati. E la mancanza di vera comprensione e buon senso, per cui non sa cosa non sa e può sbagliare in modo assurdo. La lezione non è rifiutarla, ma usarla come strumento potente e fallibile: verificare, non affidarle ciecamente ciò che conta, restare nel circuito. Nella prossima puntata vediamo come si prova a insegnarle i valori: allineamento e sicurezza. Nelle note trovi qualche spunto. Se ti è utile, condividila. Grazie per l'ascolto, e ci sentiamo alla prossima.