“L’inganno dell’intelligenza artificiale”: tra catastrofisti ed entusiasti
Nell’agenzia dove lavoro, una manica di nerd più o meno incalliti sviluppa E-commerce. Usiamo tecnologie. Tutti i giorni. Evolvono e invecchiano insieme a noi. Ogni linguaggio che si aggiorna è una ruga sempre più profonda, è qualcosa di destinato a morire ma che ancora non vuole lasciare spazio ai giovani. Ogni linguaggio che muore è una parte di noi persa per sempre. Poi ci sono le tecnologie che entrano e cambiano tutto. Come l’IA, o forse no.
L’espressione “Pappagallo stocastico” è stata coniata dalla linguista e informatica americana Emily Menon Bender (e co-autrice di questo saggio). È il modo con cui ha cercato dall’inizio di contrastare l’espressione Intelligenza Artificiale, che ha la stessa funzione delle foto nelle scatole delle merendine varie con scritto in piccolo “L’immagine ha solo scopo illustrativo” (grazie al flauto, appunto che sono illustrazioni che devono illustrare bene). L’aggettivo stocastico fa riferimento a un sistema casuale e probabilistico, e che ci crediate o no, l’Intelligenza Artificiale è esattamente questo.
Per questa recensione però ho pensato di lanciarci in un esperimento. Se si possono usare i modelli linguistici per scrivere email (le autrici a tal proposito si chiedono chi vorrà spendere tempo a leggere email che altri non hanno voluto scrivere), codice e per prendere decisioni, perché non usarli per scrivere la recensione di un libro che la scredita? Sarà neutra? Sarà efficace? Decidete voi.
Emily M. Bender e Alex Hanna arrivano a L’inganno dell’intelligenza artificiale dopo anni di critica serrata all’industria tecnologica americana. Bender, linguista computazionale, è diventata una figura centrale nel dibattito sull’IA grazie al celebre paper sui “pappagalli stocastici”, mentre Hanna, sociologa ed ex ricercatrice di Google, ha lavorato soprattutto sugli effetti sociali e politici dei sistemi algoritmici. Il loro libro nasce da una convinzione precisa: gran parte del discorso pubblico sull’intelligenza artificiale si fonda su una mistificazione linguistica e culturale.
Il bersaglio principale del saggio è infatti l’idea stessa di “intelligenza artificiale”. Per le autrici il termine non descrive realmente ciò che fanno questi sistemi, ma serve a costruire un’aura quasi umana attorno a software statistici estremamente sofisticati. Modelli linguistici, chatbot e generatori di immagini non “capiscono”, non “pensano”, non hanno intenzioni né coscienza: producono risultati plausibili sulla base di enormi quantità di dati. Eppure aziende, investitori e divulgatori insistono continuamente nell’utilizzare metafore antropomorfe, perché attribuire sembianze umane alle macchine rende più semplice venderle come inevitabili, rivoluzionarie e perfino autonome.
Uno degli aspetti più interessanti del libro è il modo in cui mette sullo stesso piano gli entusiasti dell’IA e i suoi profeti apocalittici. Da una parte ci sono le grandi corporation tecnologiche che promettono produttività infinita, creatività automatizzata e un futuro liberato dal lavoro ripetitivo; dall’altra i teorici della catastrofe che immaginano macchine coscienti pronte a prendere il controllo del mondo. Secondo Bender e Hanna, entrambe le narrazioni condividono la stessa premessa: credere che questi sistemi siano realmente intelligenti. Il risultato è un dibattito pubblico dominato da scenari futuristici che finiscono per oscurare problemi molto più concreti e immediati.
Ed è proprio quando il libro torna alla concretezza materiale dell’IA che diventa più convincente. Le autrici ricordano che dietro l’apparente magia dei modelli generativi esistono data center energivori, lavoro umano invisibile, moderatori sottopagati, enormi archivi di dati raccolti spesso senza consenso e una concentrazione di potere senza precedenti nelle mani di poche aziende private. L’IA non appare quindi come una nuova forma di intelligenza, ma come un modello industriale fondato sull’estrazione continua di dati, lavoro e attenzione.
Molto efficace è anche la riflessione sulle promesse storiche dell’automazione. Da decenni ogni rivoluzione tecnologica viene accompagnata dalla stessa promessa: lavoreremo meno, avremo più tempo per dedicarci alla cultura, alle relazioni e alla creatività. Oggi questa retorica ritorna identica nelle dichiarazioni dei dirigenti tech che presentano l’IA come uno strumento capace di liberarci dalle attività più noiose. Bender e Hanna osservano però che la storia recente racconta altro. L’aumento dell’efficienza raramente ha ridotto il lavoro complessivo; più spesso ha semplicemente alzato gli standard di produttività e accelerato i ritmi. Se una tecnologia permette di fare qualcosa in metà tempo, il sistema economico tende a chiedere il doppio del risultato, non metà dell’impegno.
Il merito principale de L’inganno dell’intelligenza artificiale è allora quello di riportare il discorso sull’IA fuori dalla fantascienza e dentro la politica. Il libro non si chiede se le macchine svilupperanno coscienza, ma chi trae profitto dalla convinzione che possano farlo. In un panorama culturale dominato dall’hype tecnologico e dal catastrofismo futurista, Bender e Hanna propongono una critica lucida, spesso polemica, ma necessaria: prima di domandarci se l’intelligenza artificiale diventerà umana, dovremmo forse chiederci quali effetti molto umani stia già producendo oggi.
[Chat GPT]
Devo ammettere controvoglia che è un’ottima analisi, e in pochi caratteri ha espresso in modo chiaro e semplice il pensiero delle autrici. Con una fluidità di linguaggio (e sarei portato a dire di pensiero, vedi dopo) che non mi appartiene. E se pensate che la scrittura sia un po’ noiosa beh, potrei dire la stessa cosa di quella delle autrici, le quali riflessioni sono esatte e condivisibili, ma come intrattenitrici fanno più fatica. Il libro ahinoi, non ha un guizzo che sia uno, non per questo è meno efficace a spiegare il fenomeno dietro la spinta dell’IA.
“Chi parla male, pensa male e vive male.”
Fazi Editore
Torniamo a dove eravamo rimasti. Nell’IA, di intelligente ci sono solo le persone che l’hanno sviluppata. Nessuna scintilla, nessuna coscienza, nessuna intenzione. Infatti correggo l’IA quando dice “Secondo Bender e Hanna, entrambe le narrazioni condividono la stessa premessa: credere che questi sistemi siano realmente intelligenti”. Il punto non è credere, ma FAR credere, perché è impossibile che chi maneggia la materia possa cadere in questo errore. Quello che fa l’IA è spezzettare quello che viene chiamato prompt in tanti frammenti e da questi andare a ricercare le parole più vicine e attinenti.
L’inganno viene facile perché siamo portati a pensare che chi parla bene pensa bene. E l’IA scrive benissimo, mai un refuso, mai una frase incerta, mai un errore di concordanza. Il suo lavoro tuttavia resta quello di infilare una parola dietro l’altra scegliendo quelle più vicine. L’IA non ha la più pallida idea di cosa sta dicendo, e per questo non ha dubbi. È sicura quando sbaglia nella stessa maniera di quando è esatta. Non dice mai “credo”, o “potrebbe”. L’output è convincente (e convinto) finché non gli fai notare il contrario, allora arriva presto un “Hai ragione!”.
L’IA è uno strumento potentissimo che cambierà per forza di cose il modo di lavorare e di vivere, ma tutti i proclami che la vogliono indipendente sono del tutto infondati. E i modelli che si basano sugli automatismi senza controllo umano sono destinati a fallire.
L’Hype da IA
“L’inganno dell’intelligenza artificiale” parla solo in minima parte dell’aspetto tecnico. Il lavoro maggiore lo fa sviluppando critiche sociali, insinuando dubbi sulla neutralità delle risposte, portando esempi di come modelli automatizzati (anche prima dei grandi modelli linguistici) abbiano penalizzato le minoranze rispetto ai bianchi. Spiega che persino la lingua diventa un filtro per il risultato. Si chiede se dobbiamo considerare lecita una tecnologia che non tratta tutti allo stesso modo, o che il lavoro di migliaia di artisti sia dato in pasto ai modelli. O accettare che eserciti di invisibili lavorino nell’ombra come i complici dei maghi. Si chiede in che modo possiamo affidare la vita lavorativa a questi modelli, e ci racconta di come qualcuno la vita se l’è giocata davvero, usando l’IA come terapeuta. Si chiede chi pagherà per gli errori che danneggiano (o addirittura uccidono) le persone.
Il filo conduttore per tutto questo materiale restano le big tech che cercano di convincerci che alla base di tutto c’è una piccola, piccolissima scintilla di intelligenza, che un giorno chissà dove potrà arrivare. Che ci vogliono convincere che l’adozione dell’IA è irrinunciabile. Che se il vostro capo non la usa sarà obsoleto (spoiler, il mio ne è un entusiasta), e che voi quindi siete costretti ad usarla per non essere licenziati. Le autrici chiamano questo movimento Hype da IA, e concludono il libro dicendo che la prossima volta che un articolo, un giornale, un podcast, fermatevi, prendete fiato, e fatevi una grassa risata.
Dietro le quinte
Questo è il prompt che ha generato la recensione, i guru diranno che è sbagliato (a proposito, ma prima dell’IA questi geni del prompt cosa facevano?), ma sono almeno 15 anni che ho deciso di non essere schiavo del computer. Se devo spendere tempo per curarlo è solo un altro lavoro.
Fai una ricerca sulle pubblicazioni di Emily M. Bender e Alex Hanna, e scrivimi una recensione di due, massimo tre cartelle editoriali del libro L’inganno dell’intelligenza artificiale. Il libro parla delle grandi corporazioni che cercano di diffondere l’idea che l’intelligenza artificiale si basi su una vera intelligenza, e dei catastrofisti che spendono parole e tempo su un futuro in cui l’IA prenderà coscienza e controllo. Il libro parla anche delle dichiarazioni che ipotizzano che le nuove tecnologie ci lasceranno più tempo per dedicarci a noi e alle arti, proprio come accaduto con tutte le altre rivoluzioni, ma che in realtà hanno portato solo più competitività e lavoro.
Fun fact: siccome avevo il dubbio che la recensione prodotta fosse oltre le tre cartelle gli ho chiesto di contare i caratteri. In base alla risposta l'ho fatta ridurre a tre cartelle e glieli ho fatti contare un'altra volta. Ha sbagliato il conto tutte e due le volte.
Fun fact 2: rileggendo attentamente la recensione generata (che avevo letto a spot visto che non dovevo verificarne l'esattezza) mi sono reso conto di aver usato e accostato due parole in maniera identica "coscienza" e "intenzione". Sono preoccupato.
