Nella scorsa newsletter abbiamo visto la presa di posizione di Geoff Hinton, uno dei ricercatori più importanti per lo sviluppo del deep learning, sulla corsa all’AI e i suoi rischi.
Anche se ho cercato di evitare quell’etichetta, molti media lo hanno definito il padrino dell’AI. Ora il Guardian ha intervistato quello che chiama “il padre dell’AI”, il ricercatore tedesco Jürgen Schmidhuber, attualmente direttore dell’iniziativa sull’AI della King Abdullah University of Science and Technology in Arabia Saudita. Il quale ci fa sapere che la corsa all’AI è inarrestabile.
AI inarrestabile e non dobbiamo preoccuparci, dice Schmidhuber
“Sicuramente non a livello internazionale – dice al Guardian – perché un Paese potrebbe avere obiettivi molto diversi da un altro. Quindi, ovviamente, non parteciperanno a una sorta di moratoria. Ma penso che non la si dovrebbe nemmeno fermare. Perché nel 95% dei casi, la ricerca sull’AI ha a che fare con il nostro vecchio motto, che è quello di rendere le vite umane più lunghe, più sane e più facili“.
Bisogna però notare che le sue idee al riguardo erano già così anni fa, e quindi non sarebbero dovute a un’analisi degli ultimissimi sviluppi. Diceva infatti nel 2017, sempre al Guardian: “Molto presto, i decisori più intelligenti e più importanti potrebbero non essere umani. Siamo sull’orlo non di un’altra rivoluzione industriale, ma di una nuova forma di vita, più simile al big bang“.
Perché è difficile seguire il dibattito
Dare conto del dibattito in corso comporta una certa fatica. Una fatica espressa questa settimana dal giornalista Casey Newton, che nella sua ultima newsletter – intitolata Perché ho problemi a coprire l’AI – scrive: “Il motivo per cui ultimamente ho difficoltà a occuparmi di AI è che c’è un’elevata varietà nel modo in cui le persone che hanno esaminato la questione più approfonditamente pensano al rischio.
Quando l’elenco dei possibili futuri va da un comunismo di lusso pienamente automatizzato alle rovine fumanti della nostra attuale civiltà, da dove dovrebbe iniziare il giornalista? (La risposta abituale è parlare con molte persone. Ma qui le persone interessate dicono cose molto diverse)”.
A questa prospettiva – disegnata da un settore in rapida e tumultuosa evoluzione, ma anche deformata da una quantità di tecnologie, prodotti e applicazioni molto diversi, tutti forzatamente fatti rientrare dentro l’asso pigliatutto chiamato AI – aggiungerei il carico dell’hype mediatico e finanziario cui stiamo assistendo (del primo ho parlato qua – del secondo ne accenna questo podcast del WSJ in cui si dice che gli investitori stanno correndo a mettere soldi su startup di AI che non hanno nemmeno ancora né modello di business, né nome).
La lettera ai media e ai politici su come viene rappresentata l’AI
A movimentare un po’ il quadro – dato che già ci stavamo annoiando – questa settimana è arrivata anche una lettera aperta ai media e ai legislatori da parte di alcune ricercatrici e accademicə (si definiscono “donne e persone non binarie”), che lavorano sull’intelligenza artificiale e che chiedono senza mezzi termini di espandere il bacino di esperti sentiti su questi temi.
Riporto frammenti della lettera: “Per troppo tempo la copertura mediatica delle minacce e dei rischi di questa tecnologia è stata definita dai CEO del settore tech e dai loro dipartimenti di pubbliche relazioni. Nel frattempo, i danni causati dalle stesse continuano a ricadere in modo sproporzionato sulle comunità di cui facciamo parte”.
Abbiamo scritto libri – prosegue la lettera – denunciato alcune delle più grandi aziende tecnologiche, condotto ricerche, “eppure, nelle consultazioni sui rischi e le sfide che queste tecnologie comportano, rimaniamo ai margini. Poiché discutiamo di pericoli reali e attuali e non di fantascienza, le nostre preoccupazioni vengono presentate come trascurabili. Nel frattempo, ex dirigenti di aziende tecnologiche, dopo aver tratto profitto dai sistemi che hanno creato, diventano improvvisamente attivisti (..) Rifiutiamo la premessa che solo uomini bianchi e ricchi possano decidere cosa costituisce una minaccia esistenziale per la società”.
Firmano varie ricercatrici e accademiche tra cui Timnit Gebru e Safiya U. Noble (e se avevate letto la newsletter scorsa, questa lettera non vi sorprenderà).
AI e il rapporto col potere
Questo genere di critica è portata avanti in modo ancora più profondo e duro da un libro (poco citato, rispetto ad altri) uscito nel 2020 e intitolato: Artificial Whiteness. Politics and Ideology in Artificial Intelligence, di Yarden Katz per la Columbia University Press.
Penso che sia il libro di critica più radicale che abbia letto finora sul tema (lo sottolineo perché almeno sapete a cosa andate incontro: è un libro di critica politica e ideologica fortemente angolato).
La whiteness a cui si riferisce il titolo è ovviamente un costrutto sociale e un concetto politico: in sostanza, per Katz l’intelligenza artificiale è ed è stata sempre un’etichetta nebulosa che poteva riconfigurarsi al servizio del potere.
Per spiegarlo, l’autore tratteggia gli stretti legami tra ricerca, accademia, industria e governi, e in questi ultimi in particolar modo col settore militare. E non si salva quasi nessuno, nemmeno molti degli stessi critici dell’AI, perché incapaci – secondo Katz – di andare alla radice della questione; perché soffermarsi solo sui dati o sui bias è come spalare acqua durante un’inondazione con un cucchiaino (il libro però è del 2020, e negli ultimi tre anni le voci critiche sono cresciute e si sono approfondite).
Katz sottolinea la presunzione che questi sistemi rappresentino “uno sguardo da nessun luogo” – una “intelligenza” universale non segnata da politica e contesto sociale. Anzi, secondo la sua visione l’AI aspira invece “a essere totalizzante: a dire qualcosa di definitivo sui limiti e potenziali della vita umana”.
La sua critica è molto forte, e sebbene ci siano delle parti delle sue argomentazioni che trovo più deboli, incluse le pagine dedicate alle alternative, prendere anche solo un pezzo di questa prospettiva ci aiuta a capire di più lo scontro di vedute, previsioni e soluzioni a cui stiamo assistendo. E qui chiudo la parentesi di critica ideologica.
In sintesi
Torniamo alla corsa all’AI. Ricapitolando, da quando questa è andata avanti a briglia sciolta, dal lancio di ChatGPT in avanti, abbiamo assistito:
alla lettera di scienziati e imprenditori assortiti (tipo Musk) che vogliono fermarla per sei mesi;
a chi (Hinton), pur non firmando la suddetta lettera, dice di lasciare (Google) per esprimersi in modo più libero sui rischi esistenziali per l’umanità posti da una tecnologia che ha contribuito a sviluppare;
a chi ci rassicura (si fa per dire) che l’AI sarà così intelligente che manco ci calcolerà (Schmidhuber);
e a chi (la lettera aperta appena citata). sottolinea come molti di questi rischi esistenziali siano una comoda copertura, particolarmente amata da ricchi ricercatori maschi occidentali, per non parlare dei danni o delle storture che questi sistemi hanno già fatto, stanno facendo e continueranno a fare a chi non rientra in quella ristretta categoria.
Insomma, l’AI non è e non sarà un pranzo di gala. E la diversità di vedute è anche una diversità di visioni politiche, cognitive, ideologiche. Già nel 2020 Jaron Lanier scriveva che “l’AI si comprende di più come ideologia politica e sociale che come un insieme di algoritmi“.
E intanto c’è chi propone un ‘progetto Manhattan’ per la sicurezza dell’AI – il progetto Manhattan fu il piano di ricerca e sviluppo, promosso dal governo degli Stati Uniti, che portò alla progettazione e alla costruzione della prima bomba atomica.
“L’analogia con il Progetto Manhattan non è perfetta, ma aiuta a segnare la differenza con coloro che sostengono che la sicurezza dell’AI richieda di sospendere del tutto la ricerca di modelli più potenti. Il progetto non mirava a rallentare la costruzione di armi atomiche, ma a dominarla”, scrive su Politico l’autore Samuel Hammond, un economista di scuola liberista.
C’è ovviamente una contraddizione interna in questa analogia e l’autore se ne rende conto, quando scrive “per certi versi l’obiettivo è esattamente l’opposto del primo Progetto Manhattan, che ha aperto le porte a distruzioni inimmaginabili. Questa volta, l’obiettivo deve essere quello di prevenire distruzioni inimmaginabili, oltre a quelle semplicemente difficili da prevedere”.
Ma il riferimento al progetto Manhattan nasce dall’idea che gli Stati (in questo caso gli Usa) debbano arrivare per primi a dominare una tecnologia nuova, dirompente e anche rischiosa, il che riporta l’AI nel campo della lotta geopolitica e in qualche modo qua ci ricolleghiamo a Katz.
* dalla newsletter Guerre di Rete
- © Riproduzione possibile DIETRO ESPLICITO CONSENSO della REDAZIONE di CONTROPIANO
Ultima modifica: stampa
Eros Barone
Il confronto tra il “naturale” e l'”artificiale” nel dominio dei processi intellettivi va condotto non sul terreno del comportamento attuale, ma nella prospettiva delle loro future relazioni e collaborazioni. La storia della meccanizzazione è connessa frequentemente alla competizione fra l’uomo e le nuove macchine che si presentano principalmente come fattori di destabilizzazione del livello di occupazione. Si è così creata una situazione in cui il crescente divario fra lavoro fisico e lavoro intellettuale assume dimensioni sempre più vaste e può essere aggravato con la costruzione di macchine e dispositivi che tendono a privare l’uomo delle sue funzioni più peculiari e ad isolarlo in campi, quantitativamente e qualitativamente, più limitati. L’esperienza mostra che simili tendenze vanno combattute ritrovando a un livello superiore le mansioni dell’uomo. Questa non è solo una richiesta morale, ma anche una necessità tecnica da quando i successi dell’IA hanno permesso di risolvere a favore delle macchine, per velocità e accuratezza nell’esecuzione, molte attività di tipo ripetitivo ed alienante che l’uomo eseguiva proprio al servizio delle macchine, e hanno progressivamente condotto alla formazione di sistemi automatici complessi. Così, accanto ai successi dell’automazione, c’è un altro aspetto, ed è che i risultati effettivamente raggiunti nella costruzione di macchine “intelligenti”, dopo gli entusiasmi iniziali, si sono rivelati di scarsa applicazione pratica al controllo di simili sistemi complessi: come viene rilevato anche nell’articolo, quando sono immessi in contesti reali (e non solo sperimentali) di oggetti, di parole o di scelte ottimali i dispositivi costruiti hanno dimostrato i loro limiti provando coi fatti che il pensiero umano non consiste di sole connessioni logiche. Da qui la necessità di non rimuovere affatto l’intervento umano, ma piuttosto di trasformarlo come supervisore o ‘partner’ di sistemi complessi. L’uomo e le macchine devono essere posti a lavorare insieme anziché in competizione: questo è l’insegnamento che si trae dai processi avvenuti e che vale anche per i nuovi sistemi sorti dalla tecnica elettronica. La massima che deve guidare razionalmente il progresso dell’automazione nell’epoca dell’IA può quindi essere condensata in questo imperativo: “Tu, macchina, non prevaricare; tu, uomo, non abdicare”.
Ettore Cauli
Per me è pura scemenza artificiale che aggiunta a quella dell’uomo… Poveri noi.
WALTER GAGGERO
Caro Eros, secondo me bisogna cambiare il concetto di progresso, e anche li concetto ottocentesco di libertà ovvero quello signorile di non dover lavorare più per vivere, ci sono sempre più schiavi e servi piu o meno privilegiati,
D’altronde i Grundrisse Marx non lo ha voluto pubblicare, no?
Redazione Contropiano
Ha pubblicato Il Capitale, infatti, non i quaderni degli appunti…