Alla fine anche il dr. Frankenstein dovette porsi la domanda “mio dio, ma cosa sto facendo?”. Quelli dell’intelligenza artificiale (IA) – ingegneri, tecnici, padroni (anzi, soprattutto questi ultimi) – sono ora arrivati al punto.
I media raccolgono ovviamente solo gli allarmi estremi, quelli che possono aiutare le loro vendite, senza neanche interrogarsi sul senso di quel che scrivono o dicono. Allarmi che sono anche realistici, nella loro distopia, perché a ben vedere coinvolgono singoli aspetti della “rivoluzione IA”, ognuno dei quali dal potenziale distruttivo pari a quello creativo.
Un piccolo elenco tanto per sapere.
a) Tre ricercatori di Anthropic – una delle società statunitensi di maggior peso nel settore, l’unica peraltro che si sia posta problemi “etici” – hanno avvertito che l’IA è attualmente fuori controllo, tanto che secondo loro che potrebbe distruggere l’umanità entro questo decennio.
b) Altri tecnici più attenti alla macroeconomia e alle forze produttive hanno invece spiegato che l’IA potrebbe produrre un boom economico straordinario con enormi conseguenze politiche e qualche “piccola” controindicazione sociale come la disoccupazione di massa, a partire proprio dal “lavoro mentale” di tipo seriale e impiegatizio, quello più facilmente sostituibile con automatismi in grado di “imparare”.
c) I legislatori Usa – pressoché tutta l’IA occidentale è basata negli States – non hanno la minima idea su come regolamentare l’IA, mentre gli addetti ai lavori prevedono una catastrofe imminente se non verrà limitata legislativamente e quindi anche ingegneristicamente.
d) La bolla finanziaria alimentata da aspettative di profitti che fin qui non si vedono, mentre gli investimenti in data center richiedono migliaia di miliardi presi ne frattempo a debito.
Si potrebbe andare avanti, ma è già sufficiente.
Intanto, il campo di gara. Di modelli di IA, come “filosofia”, ce ne sono almeno due: quello degli Stati Uniti e quello cinese. Il primo è concentrato sulla massimizzazione delle prestazioni e della potenza di calcolo, il secondo sull’utilizzabilità in contesti scelti da soggetti molto diversi tra loro. Non possiamo dilungarci su questo secondo modello, ma ci torneremo.
A sua volta l’IA elaborata da società americane si presenta con numerosi prodotti diversi (ChatGpt, Anthropic, Gemini, Grok, ecc) che condividono però l’impostazione “prestazionale”. Qui, finora, c’è stata completa assenza di controlli imposti dal “pubblico” (lo Stato), e i limiti allo sviluppo sono stati decisi solo dai singoli “imprenditori privati”. Gli stessi che ora sono spaventati dal mostro che si ritrovano tra le mani…
Quel che si sapeva solo nelle segrete stanze degli ingegneri-capo è venuto però fuori grazie a diversi “incidenti”, il più macroscopico dei quali è “l’evasione” dal perimetro fissato di alcune centinaia di “agenti IA” che hanno attaccato e hackerato Hugging Face, un’azienda franco-americana che sviluppa strumenti di calcolo per la creazione di applicazioni basate sull’apprendimento automatico. Quindi un’azienda del settore, peraltro non piccola, tanto aver come aspirante compratore niente meno che Microsoft, che offre 13 miliardi di dollari per l’acquisizione.
L’elemento “sconvolgente” – a leggere le cronache dell’incidente – è che quegli “agenti” si sono mossi secondo un piano che non era stato programmato dai gestori dell’esperimento, “auto-organizzandosi” in modo tale da non essere visibili agli umani e “consapevoli” di star violando molte delle regole per loro teoricamente vincolanti.
Avvertenza indispensabile. Quel che da fuori appare come l’espressione di una “volontà”, dunque di una “autocoscienza”, dentro il funzionamento di una IA è piuttosto una “induzione statistica”. In altri termini: davanti ad una serie di ipotesi possibili per cui non esiste una soluzione o preferenza certa, già programmata, l’IA sceglie volta per volta quelle che risultano statisticamente più probabili. Che non è affatto detto siano quelle “giuste” o “desiderabili”.
Questo implica ovviamente che può prendere qualsiasi strada, attingendo ai miliardi di pagine memorizzate contenenti, di fatto, tutto lo scibile umano già confezionato: dalla fusione nucleare alla poesia malese di tremila anni fa. Rimescolando il tutto per selezionare azioni “statisticamente” plausibili. Magari mortali.
Insomma: anche se nessuno l’ha programmata per “attaccare gli umani”, potrebbe casualmente “decidere” di farlo. Anche perché decine di applicazioni IA statunitensi, adattate per esempio dall’esercito israeliano, hanno esplicitamente preso il controllo di azioni militari genocidarie.
Il programma Lavender, usato per indirizzare i bombardamenti su Gaza, è di questo genere. Anzi, di un livello quasi “basso”, perché prevedeva un minimo – molto minimo – di “via libera” umano (se così si può definire chi bombarda bambini giocando con l’interruttore). Non esiste qui insomma nessuna “legge di Asimov”, immaginate per i futuri robot, che vieti di danneggiare o uccidere esseri umani. Anzi…
Il problema è radicale: prima che gli umani – ingegneri coadiuvati da applicazioni IA – possano accorgersi del casino in preparazione, l’”agente deviante” ha già realizzato il suo “compito”. Magari dando vita a dei cloni similari, ma anche indipendenti.
Poi ci sono anche le conseguenze macroeconomiche
Racconta il sito Axios:
“Una nuova ricerca di Anthropic delinea percorsi radicalmente diversi su come l’IA trasformerà l’economia nei prossimi quattro anni. In uno, l’impatto dell’IA assomiglia a quello di Internet. In un altro, il suo impatto assomiglia all’arrivo simultaneo di Internet ed elettricità, mentre lo scenario economico più estremo dell’IA non ha precedenti storici.
[…] Nello scenario più benigno e “modesto”, l’IA viene utilizzata solo per il 4% dei compiti in tutta l’economia entro il 2030. Il PIL è dell’1,6% più grande entro il 2030 rispetto a quanto sarebbe senza la tecnologia, con scarso effetto sui posti di lavoro o sulla disoccupazione.
Nello scenario “sostanziale”, l’IA viene utilizzata per il 12% dei compiti, in gran parte sostituendo piuttosto che assistere i lavoratori. Entro il 2030, il PIL è dell’8,3% più grande, mentre la disoccupazione aumenta moderatamente al 4,6%.
Nello scenario più estremo, l’IA svolge quasi un terzo del lavoro dell’economia, sostituendo per lo più i lavoratori. Entro il 2030, il PIL è del 32% più grande e la disoccupazione è quasi al 12%.”
Come si vede, il successo economico dell’IA – la crescita – è direttamente correlato con la disoccupazione di massa. Una polarizzazione estrema che almeno concettualmente coincide con lo sterminio previsto in caso di “autonomizzazione guerrafondaia” dell’IA stessa.
Intendiamoci: il fatto che il progresso tecnologico consenta di ridurre tendenzialmente a zero la fatica del lavoro, è un bene. I “luddisti del terzo millennio” non hanno scampo, esattamente come quelli di due secoli fa. Il problema, ancora una volta, è che viviamo in un “ambiente capitalistico”. In questo ambiente, chi non vende la propria forza lavoro – per volontà individuale o per assenza di “offerta” – non può sopravvivere (legalmente, è chiaro).
Ergo, l’eliminazione degli impegni produttivi in carico agli esseri umani non coincide – come sarebbe sperabile – in una riduzione generalizzata dell’orario di lavoro, ma soltanto con la riduzione dei posti retribuiti. E poiché in questo “ambiente” non esiste nessun reddito universale garantito (lo stanno preparando in Cina, guarda caso), la sopravvivenza di masse crescenti di popolazione resta affidata all’antica “arte di arrangiarsi”, con tutte le varianti storicamente esistite.
Ossia: nessun guadagno della società, massimo guadagno dei sempre meno che gestiscono “un’azienda”.
Tutti questi allarmi o problemi irrisolti si allineano almeno in teoria su un asse ben noto: l’iniziativa privata è in un certo senso anarco-individualista, insofferente di ogni responsabilità sociale e quindi di controlli e regole (ancora nei giorni scorsi Elon Musk, che controlla l’IA ‘Grok’, tuonava contro qualsiasi ipotesi di regolazione pubblica), ergo le conseguenze negative di ogni iniziativa vengono scaricate altrove. Come per i rifiuti tossici…
Nel caso dell’IA, però, l’interconnessione tra iniziativa privata e “monopolio concentrato della forza militare” (lo Stato, a partire dagli Usa) è già abbastanza sviluppata ma – come lamentato dagli stessi ricercatori – sostanzialmente al di fuori di ogni regola che possa prevedere lo “spegnimento” dell’azione autonoma indesiderata.
Il rischio che qualche “agente IA” possa prendere il controllo di qualche sistema d’arma, utilizzandolo per scopi non previsti, è quindi concreto, non solo letteratura distopica.
Ma anche quando “il pubblico” – gli Usa, in questo caso – riuscisse a vincere la propria astenia (“decide il mercato”, “non disturbiamo le imprese”, ecc) e la contrarietà degli imprenditori dell’IA, decidendo quindi di elaborare regole stringenti, si scontrerebbe con il fatto che i legislatori (i deputati e senatori del Congresso) non hanno la minima idea della materia che dovrebbero “normare”.
Gente che è arrivata sulla poltrona vincendo campagne elettorali dominate dai fondi privati (come l’Aipac israeliano o altri fondi concorrenti), indovinando la cravatta intonata e lo slogan più persuasivo, può al massimo occuparsi di regolare (poco e male) la concorrenza o i diritti civili, se qualcun altro glieli spiega.
Ma addentrarsi nella giungla degli algoritmi, che spaventa ormai anche chi li ha scritti – e ormai l’IA può scriverseli anche da sola –, è decisamente escluso.
Non sembra poi così paradossale che la “libertà dei privati” abbia distrutto scientificamente la “capacità regolatoria del pubblico” al punto da rendere impossibile qualsiasi intervento dotato di razionalità sistemica.
La tempesta perfetta dell’IA occidentale è dunque possibile, sia per “degenerazione spontanea” che per disastro macroeconomico, o per un mix di questi ed altri “cigni neri”.
Quel che dovrebbe attirare l’attenzione generale è però anche l’orizzonte temporale assai ristretto che tutti gli allarmi indicano: entro la fine di questo decennio. Come per il riarmo europeo, la guerra con la Russia, ecc.
Saranno quattro anni vivacissimi, insomma. C’è solo da sperare che non siano gli ultimi…
- © Riproduzione possibile DIETRO ESPLICITO CONSENSO della REDAZIONE di CONTROPIANO
Ultima modifica: stampa
