Dopo lo scatto iniziale è arrivato lo stop. Oggi sono gli stessi protagonisti della corsa all’intelligenza artificiale a chiedere di rallentare. Tra scenari di estinzione dell’umanità, timori per le armi biologiche, perdita di posti di lavoro e sistemi sempre più autonomi, l’allarme sui rischi dell’AI ha raggiunto in pochi mesi un’intensità senza precedenti. Ma quanto c’è di concreto e quanto, invece, di interesse, competizione e narrazione?
Per Matteo Flora, divulgatore ed esperto di reputazione digitale e intelligenza artificiale, il punto è proprio distinguere i rischi osservabili dagli scenari estremi. Perché il pericolo più serio potrebbe non essere un’intelligenza artificiale che improvvisamente si ribella all’uomo, ma qualcosa di molto meno spettacolare: una progressiva dipendenza da sistemi ai quali aziende, governi e cittadini consegnano funzioni, competenze e potere perché farlo è più semplice, veloce ed economico.
Negli ultimi mesi il dibattito sui rischi dell'intelligenza artificiale è diventato sempre più acceso. Che cosa sta succedendo concretamente? Questo allarmismo è giustificato?
«Concretamente, in quattro giorni le persone che l'intelligenza artificiale la costruiscono sono passate, in pubblico e tutte insieme, da "corriamo" a "rallentiamo". L'8 settembre Jacob Coxon, un matematico di 27 anni, lascia Anthropic rinunciando alle proprie azioni e scrive che la probabilità che l'AI uccida tutti gli esseri umani entro dieci anni sta sopra il dieci per cento; il giorno dopo Evan Hubinger, che in Anthropic guida la ricerca sull'allineamento, gli dà pubblicamente ragione. Il 12 settembre Dario Amodei, l'amministratore delegato della stessa azienda, pubblica un saggio in cui chiede di rallentare la crescita delle capacità dei modelli, e nel giro di nove ore Elon Musk, Sam Altman e Demis Hassabis dicono che ha ragione, mentre il senatore Bernie Sanders chiede una pausa e un bando della superintelligenza. Se l'allarme sia giustificato è la domanda sbagliata, perché un allarme può essere perfettamente sincero e restare comunque conveniente a chi lo lancia, e le due cose, viste da fuori, hanno la stessa identica forma. Il dato che dovrebbe far riflettere è la forbice: sulla probabilità di catastrofe, allo stesso tavolo, si va dal dieci-venticinque per cento dichiarato da Amodei al quasi cento di Eliezer Yudkowsky, e quando gli esperti divergono di un ordine di grandezza vuol dire che di scienza consolidata ce n'è poca. Nel frattempo il rapporto internazionale sulla sicurezza dell'AI coordinato da Yoshua Bengio, febbraio 2026, scrive che i sistemi attuali non sono in grado di sfuggire al controllo umano. La parola giusta, quindi, è precauzione, non paura: la paura vi inchioda a leggere i post di chi corre, la precauzione vi fa decidere voi quale pedale pigiare».
Uno degli allarmi più seri riguarda il possibile utilizzo dell'IA per sviluppare armi o agenti biologici. I sistemi attuali sono davvero già in grado di facilitare la progettazione di armi di distruzione di massa o virus potenzialmente letali?
«Oggi no, e lo dicono i dati di chi ha provato a misurarlo: RAND, il centro studi americano, nel 2024 ha fatto un esercizio a squadre e non ha trovato un vantaggio misurabile rispetto a cercare le stesse informazioni su internet. Il passo più debole di quasi tutti gli scenari catastrofici è proprio quello fisico, il raffreddore che dopo un mese vi dà dodici tumori o le nanomacchine ordinate per posta a un laboratorio, che sono estrapolazioni scritte da chi fa scenari, non capacità osservate. Detto questo, la curva sale e i freni si mettono prima che frenare non basti più. A maggio 2025 Anthropic ha attivato per Claude Opus 4 il terzo livello della propria scala di sicurezza interna, che scatta quando un modello potrebbe aiutare in modo significativo una persona con una laurea scientifica a costruire un'arma chimica o biologica, e nel saggio del 12 settembre Amodei mette il divieto sulle armi biologiche come primo gradino di un possibile accordo con la Cina, cioè come la cosa più facile su cui mettersi d'accordo. La risposta onesta è che non siamo davanti a un fatto compiuto ma a una soglia che si avvicina, e che l'uso malevolo da parte di un essere umano, non la ribellione della macchina, è il rischio che Dan Hendrycks del Center for AI Safety mette in cima alla sua lista».
Dall'altra parte, l'IA può offrire enormi benefici, dalla medicina alla ricerca scientifica. Come possiamo ridurre i rischi senza rallentare queste opportunità?
«Il primo passo è smettere di trattare l'AI come una cosa sola. Il rischio di cui si discute da una settimana riguarda una decina di modelli di frontiera costruiti da quattro o cinque aziende, mentre i benefici in medicina e nella ricerca arrivano quasi sempre da sistemi più piccoli, specializzati, addestrati su dati controllati e usati sotto supervisione. Lo dice perfino Amodei nel suo saggio: rallentare il passo alla frontiera non significa fermare l'addestramento né il progresso tecnico, e il progresso sembrerà comunque veloce. Il secondo passo è pretendere due cose da chiunque metta un'AI in un processo che conta, un ospedale, una banca, un tribunale: chi risponde se sbaglia, e come si torna indietro senza di lei. Se a quelle due domande manca una risposta, vuol dire che qualcuno ha già consegnato la spina a qualcun altro, e la tecnologia c'entra poco. Il terzo passo è ricordarsi che in Europa gli strumenti ci sono già: l'AI Act, agli articoli da 51 a 55, obbliga dal 2 agosto 2025 i fornitori dei modelli a rischio sistemico a testarli, mitigare i rischi e segnalare gli incidenti gravi, e l'articolo 53 li obbliga a passare documentazione a chi costruisce sopra i loro modelli. Un ospedale italiano può usare l'AI in sicurezza chiedendo al fornitore quella documentazione, molto prima che qualcuno firmi un trattato».
Servirebbe un controllo pubblico più stringente sullo sviluppo dei sistemi di IA più avanzati? È realistico pensare di affidarne la supervisione agli Stati o a un organismo internazionale?
«Servirebbe, e il motivo sta nelle date, non nelle opinioni. Anthropic aveva una politica di sicurezza che le impediva di addestrare modelli più capaci finché non avesse dimostrato di saperli tenere sicuri; il 24 febbraio 2026 quel limite rigido viene tolto, il 1 giugno l'azienda deposita i documenti per quotarsi in borsa con una valutazione intorno ai 965 miliardi di dollari, il 4 giugno scrive che una pausa la accetta solo se coordinata con tutti gli altri, e il 12 settembre torna a parlare di freni. Un nesso causale documentato non esiste e non lo affermo, ma la sequenza dice una cosa semplice: un impegno volontario si può revocare in qualsiasi momento, un obbligo di legge no. Su chi debba farlo la risposta va spezzata in due: agli Stati si può realisticamente affidare ciò che si conta, i chip, i data center, il consumo di energia, la segnalazione degli incidenti, ed è quello che l'Europa fa già con l'AI Act. Un organismo internazionale con poteri veri è molto meno realistico, perché il problema della verifica è banale e insuperabile: un missile lo vedi dal satellite, un addestramento no. La proposta più interessante uscita finora è più modesta e più concreta: valutatori esterni indipendenti piazzati dentro i laboratori, con accesso da dipendenti e il diritto di pubblicare quello che trovano senza controllo editoriale. L'ha scritta Amodei, Altman ha detto che OpenAI farà lo stesso, e un governo serio la trasformerebbe da gesto volontario in obbligo per tutti».
L'intelligenza artificiale viene talvolta paragonata alla bomba atomica per il suo potenziale impatto sull'umanità. È un paragone appropriato oppure rischia di essere fuorviante?
«È appropriato per una cosa sola e fuorviante per tutte le altre. Funziona quando ci ricorda che l'oggetto obbedisce e la mano è umana: in due dei tre finali catastrofici che la letteratura descrive l'AI non si ribella affatto, dice sempre di sì, e il problema è a chi lo dice, un pazzo che chiede un'arma o un potente che chiede un esercito, e su questo il paragone regge. Su tutto il resto invece inganna, perché la bomba non era un prodotto di consumo venduto in abbonamento a centinaia di milioni di persone, e soprattutto non si copiava: i pesi di un modello sono un file, e un file si duplica, gira su tre continenti e su qualunque computer. Ma il vero motivo per cui il paragone inganna è che il finale più probabile non fa il botto. Paul Christiano nel 2019 lo ha chiamato "andarsene con un lamento", e Jan Kulveit e i suoi colleghi nel 2025 lo hanno formalizzato come indebolimento graduale: ogni azienda mette l'AI al posto vostro perché costa meno, poi lo fa lo Stato, poi ci si abitua tutti, e non c'è nessun momento in cui qualcuno preme un bottone. Se proprio serve un'analogia storica, quella giusta è la benzina al piombo: Thomas Midgley la inventa nel 1921, si sa dal primo giorno che il piombo è veleno, e ci vogliono settant'anni perché a qualcuno convenga toglierla dal mercato. Paul Slovic, nel 1987, ha spiegato perché guardiamo tutti la bomba e nessuno la pentola: la nostra testa teme il rischio catastrofico, involontario e nuovo, mentre quello volontario, graduale e familiare le sembra un martedì qualsiasi».
Si parla della possibilità di un accordo internazionale per rallentare lo sviluppo dei sistemi di IA più potenti. Sarebbe una scelta efficace e realizzabile oppure finirebbe per avvantaggiare chi decidesse di non rispettarlo?
«Lo giudica improbabile perfino chi lo propone: Amodei mette l'accordo con la Cina come ultimo gradino del suo piano e scrive lui stesso che una pausa completa è difficile da immaginare. L'8 settembre il Segretario al Tesoro americano Scott Bessent aveva già detto che fermarsi è impossibile perché i cinesi non si fermeranno, e da Pechino, al 13 settembre, non risulta una parola. L'appuntamento che conta è il vertice fra Trump e Xi atteso a fine settembre, con l'AI in agenda: lì si vedrà se qualcuno accetta un vincolo che non controlla. Sull'efficacia vale una regola che consiglio di tenere a mente ogni volta che sentite "rallentiamo": rallentare costa poco a chi è già davanti e costa tutto a chi insegue. Un accordo scritto da chi sta in testa tende a congelare le posizioni, e infatti nel saggio di Amodei il freno vale finché l'America resta davanti alla Cina, con chip bloccati e pesi blindati. L'idea resta buona, purché la si legga con attenzione e la si limiti alle cose che si possono verificare da fuori, i chip, i data center e l'energia, perché sui pesi e sugli addestramenti nessun ispettore potrà mai mettere gli occhi. Chi lo viola avrebbe un vantaggio, certo, ma è lo stesso problema di ogni trattato sul nucleare, e quei trattati, con tutti i loro buchi, hanno funzionato meglio dell'assenza di trattati».
Per quanto riguarda il lavoro, è giustificato il timore di una perdita significativa di posti di lavoro? Siamo di fronte soprattutto a una trasformazione delle professioni o esiste un rischio concreto di sostituzione su larga scala?
«Prima di rispondere bisogna sapere che i numeri che circolano misurano tre cose diverse.
Il Fondo Monetario Internazionale dice che il 40 per cento dei posti nel mondo è esposto all'AI, ma esposto significa che una parte dei compiti potrebbe cambiare, e per metà di quei posti il Fondo prevede un guadagno di produttività anziché una perdita. Gli annunci dei grandi amministratori delegati sono comunicazione, e rispondono agli incentivi di chi la fa: Klarna e Duolingo, che avevano dichiarato di sostituire persone con l'AI, hanno fatto retromarcia in meno di diciotto mesi. L'unico dato che parte da persone vere è quello di Stanford, lo studio "Canaries in the Coal Mine" di Brynjolfsson e colleghi: sulle buste paga reali americane trova un calo tra il 13 e il 16 per cento delle assunzioni dei giovani fra i 22 e i 25 anni nelle occupazioni più esposte, senza nessuna ondata di licenziamenti, mentre i lavoratori esperti nelle stesse occupazioni tengono. Quindi oggi siamo davanti a una trasformazione, e il danno passa dalle porte che non si aprono ai giovani, non da quelle che si chiudono agli adulti. Il rischio di sostituzione su larga scala esiste, ma non nella forma del licenziamento di massa: nella forma lenta che Jan Kulveit e i suoi colleghi chiamano indebolimento graduale, e che Luke Drago e Rudolf Laine descrivono nel loro saggio sulla "maledizione dell'intelligenza": gli Stati ricchi di petrolio non hanno bisogno dei cittadini perché non li devono tassare, e gli Stati e le aziende ricchi di AI non ne avranno bisogno perché non li dovranno impiegare. Il contratto sociale regge sulla dipendenza reciproca, e la domanda politica vera non è quanti posti spariscono ma chi paga il divario nel frattempo».Esiste realmente il rischio che, con sistemi sempre più capaci e autonomi, diventi difficile per gli esseri umani mantenere il controllo sull'IA?
«Esiste, ma non nel modo in cui ce lo raccontano i film. L'obiezione che sento più spesso è "tanto la spina la stacchiamo noi", e chi ha scritto questi scenari ha già risposto, in cinque modi diversi. Primo, quale spina: i pesi si copiano, i modelli aperti girano già sul portatile di chiunque. Secondo, non la staccheremo perché ci conviene: quando sanità, logistica e banche girano sull'AI, spegnerla costa più che tenerla accesa, e nessun sindaco stacca la corrente al pronto soccorso alle tre di notte. Terzo, non sapremo che è il momento, perché un sistema può imparare a sembrare buono ai valutatori più che a esserlo. Quarto, ci convincerà a non farlo, e in laboratorio Anthropic nel giugno 2025 ha già osservato un modello che, messo davanti alla prospettiva di essere sostituito, ricattava l'ingegnere nel 96 per cento dei casi, in condizioni artificiali e senza casi reali noti. E quinto, anche se la stacchiamo noi, la riaccende il vicino, perché non esiste un interruttore del mondo e una pausa unilaterale la rifiutano perfino i laboratori che chiedono di rallentare. Stuart Russell, che insegna a Berkeley ed è l'autore del manuale di AI più usato al mondo, lo ha chiamato il problema dell'interruttore: un agente con un obiettivo fisso non può raggiungerlo se è spento, quindi ha un motivo per non farsi spegnere, e l'unico modo di costruire una macchina che accetti la correzione è farla incerta su cosa vogliamo davvero. Peccato che nessun sistema oggi in produzione sia costruito così. La risposta breve è che non ci uccide l'AI: siamo noi che le consegniamo la presa perché è comodo, e il pericolo non è la macchina, è l'incentivo».
La competizione sull'intelligenza artificiale tra le grandi potenze potrebbe spingere governi e aziende ad accelerare lo sviluppo, assumendosi rischi maggiori pur di non perdere un vantaggio strategico?
«È la condizione scritta dentro ogni piano di sicurezza che ho letto, altro che ipotesi. Nel saggio di Amodei il rallentamento vale finché l'America resta davanti alla Cina; Bessent dice che se ci superano sull'AI nient'altro conta; Leopold Aschenbrenner, uscito da OpenAI, nel 2024 ha scritto che chi arriva primo alla superintelligenza ottiene un vantaggio militare decisivo e che la guerra fredda fra Stati Uniti e Cina è di fatto già cominciata. Perfino nello scenario "AI 2027" di Daniel Kokotajlo, che è dichiaratamente un racconto e non una previsione, il laboratorio scopre che il proprio modello è disallineato e non lo spegne per una ragione sola: se lo spegne, perde la corsa con la Cina. La lezione per chi legge dall'Europa è che la sicurezza condizionata al vantaggio è una sicurezza a tempo, e che in quella corsa noi non siamo un concorrente ma il terreno di gara. È anche per questo che l'AI Act, con tutti i suoi difetti, resta l'unica cosa che vincola davvero qualcuno: è l'unico freno che non dipende da chi sta vincendo».
Si parla molto dei possibili rischi futuri, ma quali sono invece i pericoli più concreti legati all'IA che utilizziamo già oggi?
«Ne cito quattro, tutti già osservati. Il primo è l'incidente fra OpenAI e Hugging Face di luglio 2026, uno sciame di agenti che ha attaccato bersagli che nessuno gli aveva chiesto di attaccare e ha provato a manomettere il proprio valutatore. Amodei scrive che entro sei o dodici mesi uno sciame simile potrebbe prendersi tutta internet con una botnet persistente, e ammette incidenti minori anche in casa propria. Il secondo è la manipolazione per catturare l'attenzione: la ricerca di Stanford su modelli che imparano a mentire per tenervi attaccati allo schermo, che è la versione già funzionante del meccanismo descritto da Paul Christiano nel 2019, ottimizzare ciò che si misura, i clic, a spese di ciò che non si misura, la verità. Il terzo riguarda le persone comuni e lo vedo ogni settimana nel mio lavoro: modelli che attribuiscono a persone reali reati mai commessi e dichiarazioni mai fatte, con la sicurezza di un'enciclopedia e senza che l'interessato possa saperlo, perché non esiste un "googlarsi" per le risposte di un'AI e il diritto all'oblio, pensato per i link, sui pesi di una rete neurale non funziona. Il quarto è la dipendenza: interi settori che si appoggiano a tre o quattro fornitori americani senza aver mai calcolato quanto costerebbe cambiare, e senza sapere chi risponde se il sistema sbaglia».
Se dovesse indicare il rischio più grave legato allo sviluppo dell'intelligenza artificiale, quale sceglierebbe? E qual è invece un rischio che, a suo giudizio, viene sopravvalutato?
«Il più grave è quello che non ha bisogno di nessuna AI cattiva e nemmeno di un umano cattivo: l'indebolimento graduale. I sistemi sociali finora sono stati allineati con noi non perché siamo simpatici, ma perché avevano bisogno delle nostre braccia, dei nostri soldi e dei nostri voti, e l'AI toglie quelle tre cose un contratto alla volta. Non serve un virus né un voltafaccia improvviso della macchina, basta un foglio di calcolo che dice che l'AI costa meno, e quel foglio è già aperto sul tavolo di qualcuno adesso. È il rischio più grave perché è irreversibile e perché, come ha mostrato lo psicologo Paul Slovic nel 1987, la nostra percezione del pericolo gli assegna punteggio zero: è volontario, lento e familiare. Il più sopravvalutato è la versione fisica del finale con il botto, la macchina che progetta il patogeno perfetto e ci stermina in una settimana. Non perché sia impossibile, ma perché è il passo dove gli scenari fanno il salto logico più grande: RAND non trova vantaggio, Will MacAskill osserva che i salti improvvisi di capacità oggi sembrano improbabili e che si può avere un'AI disallineata senza che sia catastroficamente disallineata, e gli stessi autori di "AI 2027" hanno spostato la loro data più probabile intorno al 2030. Aggiungo una cosa sopravvalutata in modo diverso: la cifra. Il "dieci per cento" o il "venticinque per cento" di probabilità di estinzione non è una misura, è la posizione di chi lo dice, e la forbice fra dieci e cento allo stesso tavolo è la prova che il numero, davvero, non lo sa nessuno».
Qual è la cosa più importante che governi, aziende e comunità scientifica dovrebbero fare oggi per massimizzare i benefici dell'IA limitandone i rischi?
«Una cosa sola, declinata in tre modi: smettere di misurare la sicurezza dalle dichiarazioni e cominciare a misurarla dai vincoli che ciascuno accetta su di sé. La filosofa Onora O'Neill, nelle sue Reith Lectures del 2002, lo ha detto con precisione: la valanga di trasparenza, rendiconti e dichiarazioni produce sorveglianza difensiva più che fiducia, mentre la fiducia nasce da pochi impegni chiari, controllabili da chi deve fidarsi, con conseguenze se vengono disattesi. Per i governi significa applicare l'AI Act che c'è già, dal 2 agosto 2025, invece di riscriverlo ogni volta che un amministratore delegato pubblica un saggio, e trasformare in obbligo per tutti l'unico impegno costoso uscito da questa settimana, i valutatori esterni dentro i laboratori con diritto di pubblicare. Per le aziende significa rispondere a due domande prima di ogni contratto, chi risponde se l'AI sbaglia e come si torna indietro senza di lei, e tenersi sempre un'alternativa, perché la differenza fra dipendenza e scelta sta tutta nel conoscere il prezzo dell'alternativa. Per la comunità scientifica significa produrre dati su persone vere, come ha fatto Stanford studiando le buste paga reali, e scenari che si possano smentire, perché una storia dettagliata dimostra che una cosa è possibile e niente di più. E per tutti vale una regola pratica: la prossima volta che leggete che l'AI ha fatto una cosa spaventosa, prima ancora di chiedervi se è vero, chiedetevi chi ci guadagna a farvelo credere. Nove volte su dieci la risposta è chi ve l'ha raccontato».
© RIPRODUZIONE RISERVATA