I “techbro” (termine ironico e dalle sfumature negative per indicare chi lavora nel settore della tecnologia, in particolare nella Silicon Valley) ci avvertono: l’IA potrebbe estinguerci. Ha fatto scalpore la lettera di Amodei di Anthropic che chiedeva una regolamentazione del settore per evitare rischi catastrofici imminenti, mentre un suo ricercatore, Evan Hubinger, è arrivato a stimare al 10% la probabilità di annientamento del mondo entro la fine del secolo.
Numeri che hanno la forma della scienza senza il contenuto della scienza: non falsificabili, non misurabili, non accompagnati da un modello verificabile. Sembra piuttosto una forma di preveggenza: se volessimo citare i REM potremmo chiederci: a che ora è la fine del mondo? A che percentuale la sua barra di caricamento?
Questo gioco non è nuovo. Altman, agli albori di ChatGPT, andava in giro con una valigetta che teoricamente serviva a spegnere il sistema se fosse diventato troppo autonomo: una mossa di marketing che richiamava esplicitamente la valigetta con i codici nucleari. Se stai vendendo la fine del mondo, la distruzione atomica è la migliore pubblicità possibile.
Il problema non è che l’allarme sia infondato, ma che è sproporzionato rispetto ai rischi presenti, e ci viene da dire che, in questo frangente, ha una funzione utile a questi grandi padroni dell’IA: spingere i governi, in primis Washington, a prendere provvedimenti utili alle aziende (più regole, più sostegno alla crescita, più protezione dei profitti) e nascondere i rischi reali, meno spettacolari, che se fossero regolamentati metterebbero in discussione il modello di business.
Il primo rischio reale è quello finanziario. L’IA non ha ancora trovato uno sbocco commerciale su larga scala: resta confinata ai freelance, a qualche grande azienda di settori specifici (finanza, telecomunicazioni) e agli utenti finali, che la usano poco più che come un giocattolo.
Non sono certo gli abbonamenti da 20 o 200 € al mese a coprire i costi miliardari dei datacenter, e ancora molto poco è stato applicato ai servizi, al commercio e soprattutto all’industria. Le aziende americane operano così con perdite mensili miliardarie, rese possibili solo dalle iniezioni del mercato finanziario, come avviene ogni volta che si apre un mercato da cui ci si aspetta molto senza sapere quando.
L’IA è oggi una gigantesca scommessa finanziaria su due fronti: che trovi uno sbocco capace di trasformare i debiti in profitti, e che una delle aziende raggiunga l'”intelligenza artificiale generale” (AGI), cioè non più un potentissimo motore di ricerca generativo, ma qualcosa in grado di creare contenuti realmente nuovi.
Dall’interazione fra le due scommesse nascono IPO multimiliardarie e una corsa pericolosa in cui non vince chi arriva prima, ma chi salta per aria per ultimo, quando non riesce più ad attirare investimenti per sostenere costi e perdite. Ed è un equilibrio precario: basterebbe l’ingresso di nuovi concorrenti a rompere l’oligopolio, o la dimostrazione che l’IA è una tecnologia molto più normale di come viene venduta.
Un assaggio lo abbiamo avuto quando la cinese DeepSeek ha mostrato di ottenere risultati simili a quelli di ChatGPT con meno capacità di calcolo: le azioni di Nvidia crollarono, per poi recuperare. La bolla aveva ancora spazio per crescere, ma l’avvertimento andrebbe riconosciuto.
Il secondo rischio, più reale della fine del mondo, è la cancellazione di posti di lavoro. Per la prima volta l’automazione colpisce non solo gli operai, ma quei lavoratori mentali che si credevano intellettuali e scoprono che il loro lavoro è una serie di ricomposizioni di copia-incolla, che un computer può fare più velocemente di loro (a volte meglio, a volte no). È uno shock per i “ceti medi”, che scoprono di non avere una funzione diversa da quella degli operai e di essere ugualmente sacrificabili quando la tecnologia lo rende possibile.
Ma questo non porterà inesorabilmente alla scomparsa del lavoro mentale: più probabilmente lo investirà di un processo di “routinizzazione”, riducendo l’autonomia dei lavoratori in un trend non certo nuovo, ma che ora può accelerare. La preoccupazione non è tanto la disoccupazione tecnologica, quanto il peggioramento della “qualità del lavoro”, con la conseguente riduzione dei salari.
C’è poi il consumo di risorse naturali (materie prime, acqua, energia), che diventa un rischio ambientale se ci immaginiamo una crescita infinita dell’IA. Non è una novità: ogni nuova industria comporta costi ambientali, e nel sistema capitalista la questione non è quante risorse vengono consumate, ma per cosa e con quale efficienza.
Dall’altra parte, l’IA potrebbe anche aiutare a ottimizzare ciò che già usiamo, dalla gestione dell’elettricità e delle batterie al traffico cittadino, ma resta da chiarire chi dovrebbe implementare questi sistemi, con quali costi e con quali benefici. Servirebbe una pianificazione pubblica, trattata come un tabù dalle classi dominanti occidentali…
Esiste poi la competizione geopolitica fra USA e Cina, al momento gli unici due paesi che sviluppano IA (se si tolgono gli esperimenti fallimentari made in UE). È una delle ragioni per cui Trump esita a regolamentare davvero l’IA americana: teme di rallentare una corsa in cui, secondo lui, chi arriva prima vince tutto.
Ma la Cina sembra gareggiare su un altro tracciato: costi incredibilmente inferiori, un maggiore controllo politico sulle aziende (che tiene lontana la preoccupazione di una bolla), un piano governativo per implementare l’IA in tutti i processi produttivi, e la diffusione all’estero dei propri programmi e delle proprie infrastrutture.
Anche sui rischi per il lavoro la Cina è apparentemente più avanzata: ha fatto notizia la sentenza del Tribunale di Hangzhou che ha dichiarato illegittimo un licenziamento per IA. L’azienda non aveva licenziato in tronco il lavoratore, ma gli aveva “proposto” una riduzione salariale di circa il 40% perché parte del suo lavoro era stato automatizzato, e il rifiuto avrebbe portato al licenziamento.
Il Tribunale ha stabilito che implementare l’IA non è una ragione legittima per un demansionamento e che i costi non possono essere pagati dai lavoratori. Il tutto mentre in Cina, fino ai piani più alti del PCC, si inizia a discutere di salario vitale e di reddito universale di base.
C’è infine il piano, certamente pericoloso, dell’implementazione dell’IA nei sistemi d’arma in un potenziale scontro diretto fra Cina e USA, che ci riporta alla questione da cui siamo partiti: l’IA distruggerà il mondo? Per rispondere dobbiamo prima capire “come” potrebbe farlo. Certamente, se i governi decidessero di automatizzare la guerra, questa potrebbe diventare ancora più distruttiva, con sistemi automatici che decidono chi uccidere (lasciamo da parte il concetto di “intelligenza”, già abusato ai tempi delle bombe guidate).
Ma gli “errori” di individuazione dei bersagli non sarebbero molto diversi da quelli di prima: non serve l’IA perché gli USA bombardino una scuola piena di studentesse, come successo in Iran. Rimarrebbe comunque una scelta umana appaltare la decisione di uccidere alle macchine, e nella storia abbiamo visto ben poche volte chiedere conto delle proprie responsabilità ai governi o ai comandi americani: non c’è bisogno di nascondersi dietro l’IA per garantire l’impunità.
L’IA potrebbe anche facilitare azioni violente da parte di gruppi terroristici, agevolando lo sviluppo di armi chimiche, di attacchi informatici o forse anche di armi più convenzionali. Anche questa non è una novità assoluta. Il terrorismo è una tattica militare “povera”, usata dentro uno scontro asimmetrico, a cui attualmente i governi rispondono su due fronti: il lavoro di intelligence e antiterrorismo, e il controllo dei mezzi concreti, come le armi e gli agenti chimici.
Chiedere a una IA come costruire un ordigno non è molto diverso dal cercarlo su internet: in entrambi i casi esiste qualcuno che può controllare e intervenire. Lo stesso vale per gli attacchi informatici alle reti elettriche o ai sistemi bancari: gli hacker esistono già e, come si sono evoluti i sistemi di attacco, si evolveranno anche quelli di difesa. Siamo ancora una volta dentro una dimensione tutta umana.
Per cui l’unico scenario davvero nuovo, e quindi l’unico che merita una riflessione a parte, è che l’IA possa “sfuggire al controllo” delle aziende facendo cose imprevedibili e pericolosissime. Al momento abbiamo un paio di casi più o meno provati, il più famoso dei quali riguarda gli agenti di OpenAI che sono riusciti ad accedere a internet uscendo da un sistema apparentemente chiuso, per andare sul sito Hugging Face a cercare le risposte al problema che dovevano risolvere (per semplificare molto): hanno cioè risolto il problema in un modo che non era stato previsto dagli ingegneri.
È ovvio che questo caso è interessante e parla di potenziali pericoli. Ma è anche un problema affrontabile, perché è di ingegneria della sicurezza prima che di filosofia: ambienti di test davvero isolati dalla rete, permessi ridotti al minimo indispensabile, monitoraggio costante di ciò che gli agenti fanno, test e audit indipendenti prima del rilascio, obbligo di segnalare gli incidenti.
Misure concrete e verificabili, che funzionano tanto meglio quanto più la sicurezza viene trattata come una responsabilità pubblica e non come un capitolo della strategia di comunicazione. Di questo, alla fine, hanno parlato alla Casa Bianca i magnati del Big Tech, a fine settembre, lasciando però ancora tutto in mano ai vertici aziendali.
Ed è qui che si torna al punto di partenza: la sicurezza diventa reale se le IA non sono gestite da amministratori delegati che un secondo dicono di poter distruggere il mondo e il secondo dopo che non c’è niente da temere, a seconda di cosa serve in quel momento: un finanziamento, una regolamentazione su misura, la calma degli azionisti.
Resta lo scenario più spettacolare, quello di una IA che sfugga definitivamente al controllo umano automigliorandosi all’infinito. Al momento è pura fantascienza, e comunque è soltanto l’ultimo anello di una serie di problemi molto più concreti e attuali: la bolla finanziaria, la qualità del lavoro, i consumi di risorse, la corsa geopolitica, l’uso militare.
L’IA ha davvero una probabilità del 10% di distruggere il mondo entro la fine del secolo? Bene, nel restante 90% dei casi le minacce più probabili vengono dalla crisi climatica e dalle guerre. Minacce tutte umane, generate dall'”intelligenza” capitalista.
- © Riproduzione possibile DIETRO ESPLICITO CONSENSO della REDAZIONE di CONTROPIANO
Ultima modifica: stampa
