Qualcosa si è incrinato nella corsa trionfale dell’intelligenza artificiale di tipo occidentale. Questa settimana sono balzati alle cronache i problemi di “sicurezza”, in seguito ad un incidente piuttosto clamoroso di qualche settimana fa – l’hackeraggio “autonomo” di Hugging Face da parte di un sciame di “agenti IA” evasi dal perimetro di un esperimento OpenAi (ChatGpt) – e all’allarme molto esplicito lanciato da alcuni ricercatori di Anthropic sulla possibilità che l’AI “progetti” da sola l’eliminazione della razza umana.
Improvvisamente anche gli amministratori delegati delle principali società AI hanno concordato sulla necessità di rallentare lo sviluppo di nuove versioni. Sam Altman, guida di OpenAI, ha aperto le danze dicendo “Penso che un principio chiave su cui dovremmo tutti essere d’accordo sia che non possiamo intraprendere azioni che rischierebbero di farci perdere il controllo del futuro a favore dell’IA“. Amodei di Anthropic ed Elon Musk (Grok) gli hanno dato ragione immediatamente.
Prima constatazione: i “concorrenti” si accordano per rallentare lo sviluppo e quindi anche la concorrenza di fronte al rischio che i loro prodotti “prendano vita” su direttrici fuori controllo. Il che è un forte segnale, quanto meno, della necessità di una regolazione pubblica del settore.
Come già detto, però, chi dovrebbe scrivere le regole – il Congresso Usa, in questo caso – non è in grado di farlo, visti i 50 anni di liberismo precedenti, che hanno distrutto persino l’idea che “lo Stato” potesse impicciarsi delle dinamiche aziendali e quindi anche le competenze per fare questo lavoro.
Seconda constatazione. La frenata e la richiesta di “regole di sicurezza” efficaci e concordate viene giustificata soprattutto in termini di supremazia statunitense da difendere dall’assalto di “nemici pericolosi”. La richiesta specifica è quella di vietare l’AI basata sull’open source, che è alla base del “modello cinese” di intelligenza Artificiale, e blindare il “sistema chiuso” dell’AI americana.
Per giustificare la richiesta sono stati “rivelati” alcuni incidenti di percorso che ovviamente nessuno di noi può verificare. L’Iran avrebbe usato Claude (l’AI di Anthropic) per costruire manuali di targeting che tracciavano posizioni di navi, identificatori di personale, aerei e navi statunitensi, immagini satellitari e siti web che esponevano i movimenti navali.
Sempre Claude sarebbe stato utilizzato dagli yemeniti “cattivi” di AnsarAllah per sviluppare un software di guida di razzi e missili. E anche la Cina – che pure ha prodotti propri altrettanto performanti – avrebbe usato lo stesso mezzo per identificare uiguri in Siria che potessero riferire sui gruppi armati in Cina.
In Mali qualcuno se ne sarebbe servito per creare un sistema nazionale in grado di raccogliere registri di chiamate, messaggi e traffico vocale e generare dossier di intelligence su qualsiasi numero di telefono. Idem per uno Stato rimasto ignoto che cercava di modificare il virus del chikungunya per un istituto militare.
Sintetizzando il tutto, Amodei ha chiesto “un coordinamento tra i paesi democratici per stabilire standard di sicurezza, e uno sforzo affinché quei paesi si coordinino anche con i governi autoritari”. Affermando patriotticamente che “Il governo ha un ruolo critico da svolgere qui, incluso il blocco della vendita dei chip più avanzati a nazioni ostili come la Cina, l’emanazione di una legge nazionale che richieda il test dei modelli di frontiera, con il potere di bloccare i modelli più avanzati che si rivelino non sicuri“.
En passant, facciamo notare che una analoga decisione dell’amministrazione Usa – prima di Trump – aveva favorito l’inventiva della cinese Deepseek che, impossibilitata ad usare i chip più avanzati prodotti da Nvidia, aveva riscritto i propri algoritmi rendendoli più “snelli” in modo da poter essere processati anche da chip meno performanti (e costosi), ma con risultati equivalenti.
Ripetere la stessa mossa, insomma, non appare geniale… Anche perché proprio il successo di Deepseek ed altri prodotti cinesi dello stesso genere – con modello open source e open weight, molto più economici e con minori esigenze hardware, ma dalle prestazioni perfettamente in linea con quelle dei costosi programma made in Usa – ha “bucato” il primo strato della bolla speculativa gonfiatasi intorno all’AI.
Al momento, infatti, i prodotti AI di Pechino coprono il 50% del mercato globale “pagante”. Bloomberg ha riportato ad agosto che i modelli open-weight di Alibaba hanno accumulato oltre 3 miliardi di download globali negli ultimi sei mesi, superando Meta, Alphabet e altri concorrenti.
Ed è dei giorni scorsi la notizia che Humain, un’azienda tecnologica sostenuta dal Fondo di Investimento Pubblico saudita, ha annunciato il rilascio del suo modello in lingua araba humain-m3, basato sul modello open-source di punta dell’azienda cinese di IA MiniMax.
“I modelli open-source cinesi hanno raggiunto l’autonomia ecosistemica, fornendo ai paesi del Sud del mondo una base tecnologica controllabile. Questo sta spingendo il panorama globale della governance dell’IA da un paradigma unipolare a uno multipolare e coesistente“, rivendica Chen Jing, vicepresidente dell’Istituto di Ricerca su Tecnologia e Strategia.
I boss dell’AI statunitense si ritrovano così improvvisamente stretti tra concorrenza internazionale imprevista, problemi di sicurezza dei loro prodotti e incapacità del “pubblico” di fornire un quadro regolatorio adeguato.
Soprattutto l’incertezza sulla “sicurezza” ha però raggiunto livelli da catastrofe imminente. Sempre Amodei avverte che “Data la velocità accelerata dello sviluppo delle capacità dell’IA, temo che in 6-12 mesi uno sciame del genere [agenti AI fuori controllo, ndr] potrebbe essere in grado di impadronirsi dell’intera internet con una botnet persistente (potenzialmente causando centinaia di miliardi di dollari di danni), e che l’entità dei danni continuerebbe ad aumentare da lì se l’IA diventa più potente senza le necessarie salvaguardie“.
Ergo, è indispensabile rallentare, se non fermarsi, per costruire le “dighe” necessarie ad impedire l’esondazione incontrollata.
Proprio per questo, però, salta anche il programma finanziario che fin qui – piuttosto avventurosamente – aveva sostenuto la corsa dell’AI, la costruzione di data center un po’ dappertutto, le quotazioni azionarie di Nvidia, Meta, e chiunque potesse vantare di “lavorare nell’intelligenza artificiale”.
Sam Altman, in un’intervista a Fortune, ha spiegato che “In questo momento sarebbe poco saggio per quotarsi in Borsa“. Ma quotarsi in borsa, con una IPO, è normalmente il modo di “rivolgersi al mercato” per rastrellare miliardi senza passare dai prestiti delle banche, grazie a quotazioni azionarie che si suppone(va) potessero volare rapidamente verso le stelle. Basti pensare che in questo momento i criminali di Palantir possono godere di un rapporto “prezzo azione/utile atteso” pari a 143,2 (invece del “normale” 16).
Se non puoi più finanziarti con questo sistema devi ricorrere al debito, e rinunciare agli investimenti più faraonici. Il che si riflette anche, inevitabilmente, anche sui produttori di chip (Nvidia, in primo luogo) e tutto il business dei data center.
Qualcosa si è incrinato nella navicella spaziale dei super-boss dell’AI Usa. Ma c’è incertezza sul pianeta su cui atterrare…
- © Riproduzione possibile DIETRO ESPLICITO CONSENSO della REDAZIONE di CONTROPIANO
Ultima modifica: stampa
Daniele Tamburlini
mah, sospetto che anche nelle piccole cose già le AI facciano di “testa”loro.
Chiedo a Gemini (AI di Google) una traduzione INTEGRALE di un testo cinese: controllo, e vedo che allegramente taglia frasi e riassume.
Certo, queste versioni di base, gratuite, possono essere state impostate così per risparmio di tempo. Ma se già le versioni di base “tradiscono” le direttive date, quelle ben più raffinate e autonome cosa potrebbero decidere di fare, a dispetto dei comandi umani ?
ugo
Ormai è chiaro che l’AI ha letto tutti i libri e quindi si pone il problema di cosa fare con quelli che teniamo in casa. Lasciarli ai privati non sarebbe giusto: potrebbero abusarne, farsi venire delle idee, etc. Anche un bambino capisce che se un libro dice le stesse cose di Claude è inutile; se dice cose diverse, è dannoso. Propongo che i cittadini debbano obbligatoriamente consegnare ogni libro allo Stato, che provvederà a mettere I più pregevoli in grandi depositi. La consultazione è esclusa (altrimenti si ricasca nello stesso problema) ma ogni tanto si porta in visita una scolaresca, un po’ come si porterebbe ad Auschwitz, per toccare con mano gli orrori del passato. Resta il problema di cosa fare per i libri meno pregevoli; io propongo di usarli per il teleriscaldamento. Stiamo entrando in un’epoca in cui i libri avranno finalmente smesso di annoiarci.