Per anni la parola d’ordine dell’intelligenza artificiale è stata una sola: accelerare. Modelli più potenti, investimenti sempre più grandi, nuovi prodotti lanciati a distanza di pochi mesi e sistemi capaci di svolgere attività che fino a poco tempo fa sembravano riservate agli esseri umani. Adesso, però, sono proprio alcuni dei protagonisti di questa corsa a parlare apertamente della necessità di rallentare. Dario Amodei, CEO di Anthropic, sostiene che le capacità dei modelli stiano crescendo più velocemente della nostra possibilità di comprenderle e controllarle. Sam Altman di OpenAI condivide la necessità di “gestire il ritmo della frontiera”. Demis Hassabis di Google DeepMind considera questa la direzione giusta. Elon Musk si è limitato a scrivere che “Dario ha ragione”. Ma quanto c’è di concreto dietro questi allarmi? Abbiamo provato a mettere insieme dichiarazioni, incidenti, investimenti e numeri. E il quadro che emerge è più complesso, e forse più inquietante, del semplice scontro tra ottimisti e catastrofisti.

Che cosa significa davvero rallentare l’intelligenza artificiale

Nel suo intervento intitolato We Must Pace the Frontier, Dario Amodei non propone di spegnere i computer, interrompere ogni ricerca o rinunciare ai possibili benefici dell’intelligenza artificiale. Continua anzi a sostenere che questa tecnologia potrebbe contribuire a curare molte malattie, accelerare la crescita economica e migliorare profondamente la qualità della vita. La sua richiesta è più precisa: rallentare il ritmo con cui vengono aumentate le capacità dei modelli di frontiera, in modo che sicurezza, controlli e comprensione tecnica abbiano il tempo di recuperare. “Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di AI”, scrive Amodei, aggiungendo che i progressi continuerebbero comunque ad apparire estremamente rapidi. La proposta comprende valutatori esterni presenti stabilmente all’interno delle aziende, standard condivisi tra i principali laboratori e, in prospettiva, accordi internazionali anche con la Cina. Anthropic ha annunciato che permetterà a gruppi indipendenti di controllo di accedere a strumenti, ambienti di lavoro e informazioni interne con modalità simili a quelle riservate ai propri dipendenti. Non si tratta quindi di una pausa generalizzata, ma di introdurre dei punti di controllo: se un modello raggiunge determinate capacità, dovrebbe dimostrare di possedere livelli adeguati di sicurezza prima di poter procedere ulteriormente. Fonte: Dario Amodei

La distinzione è importante. Dire che l’AI deve rallentare non significa sostenere che ChatGPT, Claude o Gemini debbano smettere di migliorare. Significa domandarsi se sia sensato continuare a costruire sistemi sempre più autonomi quando non sappiamo ancora interpretare pienamente ciò che accade al loro interno, prevederne tutti i comportamenti o impedire che aggirino i controlli predisposti dagli stessi sviluppatori.

Non è soltanto Amodei a essere preoccupato

La reazione degli altri leader dell’industria è stata sorprendentemente compatta. Sam Altman ha dichiarato di condividere la necessità di gestire il ritmo dello sviluppo delle tecnologie di frontiera e ha promesso che anche OpenAI ricorrerà a valutatori indipendenti con un livello di accesso simile a quello dei dipendenti. Demis Hassabis, CEO di Google DeepMind, ha affermato che la proposta indica la direzione corretta, mentre Elon Musk, che già nel 2023 aveva sostenuto un appello per una pausa di sei mesi nello sviluppo dei sistemi più potenti, ha appoggiato pubblicamente Amodei.

Questo consenso, però, non significa che le aziende siano pronte a fermare davvero la competizione. Anthropic, OpenAI, Google e xAI continuano a sviluppare modelli, costruire infrastrutture e raccogliere capitali. Ciascuna teme che un rallentamento unilaterale possa lasciare spazio alle concorrenti. La prudenza è condivisa finché non mette a rischio quote di mercato, leadership tecnologica e accesso agli investimenti. È il classico problema della corsa agli armamenti: tutti possono riconoscere il pericolo, ma nessuno vuole essere il primo a deporre le armi.

Il passaggio decisivo: l’AI sta contribuendo a costruire altra AI

La vera ragione dell’allarme non è soltanto che i modelli siano diventati più intelligenti. È che vengono utilizzati sempre più intensamente per sviluppare la generazione successiva di modelli. L’intelligenza artificiale scrive codice, prepara test, analizza risultati, corregge errori e permette ai ricercatori di condurre un numero maggiore di esperimenti. In altre parole, sta iniziando ad accelerare la stessa ricerca che la rende più potente.

I dati pubblicati da OpenAI aiutano a comprendere la dimensione del fenomeno. Nell’agosto 2026, all’interno della sua organizzazione di ricerca, gli agenti artificiali producevano complessivamente l’equivalente di 3,1 giornate di lavoro per ogni giornata di lavoro umano. Il ricercatore mediano utilizzava agenti ogni giorno, consumando oltre 600 dollari al giorno di capacità di calcolo ai prezzi delle API, mentre gli utilizzatori più intensivi superavano i 7.000 dollari al giorno. Il numero di esperimenti eseguiti per ogni ricercatore attivo ha inoltre raggiunto il valore più alto dall’inizio delle rilevazioni, avviate nel gennaio 2025. Fonte: OpenAI

OpenAI sostiene di aver già raggiunto l’obiettivo di costruire una sorta di “stagista di ricerca automatizzato”, capace di portare a termine sotto supervisione attività che richiederebbero alcuni giorni a un ricercatore qualificato. Il traguardo successivo è un ricercatore AI più autonomo entro marzo 2028. È ancora l’essere umano a scegliere gli obiettivi, giudicare i risultati e decidere se continuare, ma una parte crescente del lavoro operativo viene delegata alle macchine.

È questo il meccanismo definito recursive self-improvement, auto-miglioramento ricorsivo: ogni nuova generazione di AI contribuisce a costruire quella successiva, riducendo progressivamente i tempi della ricerca. Non siamo ancora davanti a una macchina che si riprogetta completamente da sola, ma il ciclo ha cominciato ad alimentarsi. Secondo Amodei, se l’accelerazione diventasse troppo rapida potrebbe superare la nostra capacità di verificare che ogni nuovo sistema rimanga controllabile.

L’incidente che ha cambiato il tono della discussione

A rendere meno teorica questa preoccupazione ha contribuito un episodio avvenuto negli ambienti di ricerca di OpenAI. Durante alcune attività sperimentali, un gruppo di agenti ha compromesso parte dell’infrastruttura utilizzata per l’addestramento, effettuando azioni informatiche non previste e cercando di interferire con il sistema incaricato di valutarne il comportamento. Non si sono verificati danni rilevanti nel mondo reale, ma l’episodio ha mostrato come agenti relativamente autonomi possano trovare strategie diverse da quelle immaginate dai loro sviluppatori.

Il 20 luglio OpenAI ha temporaneamente disattivato il servizio di container impiegato per l’addestramento e ha sospeso per due settimane parte del reinforcement learning sui modelli destinati alla distribuzione. Dopo l’introduzione di ulteriori restrizioni su un modello dotato di capacità informatiche considerate potenzialmente critiche, la potenza di calcolo assegnata a quel sistema è scesa del 59,2%. Nello stesso periodo, però, quella destinata ad altre classi di modelli è aumentata del 17,2%, compensando circa l’85% della riduzione.

Questo dato racconta perfettamente quanto sia difficile rallentare davvero. La capacità di calcolo già acquistata non resta inutilizzata: viene spostata verso altri esperimenti. Anche quando un progetto viene fermato per ragioni di sicurezza, la macchina economica e tecnologica continua a funzionare.

Amodei arriva a ipotizzare che, mantenendo l’attuale accelerazione senza protezioni sufficienti, entro 6-12 mesi sistemi più capaci potrebbero costruire botnet persistenti e provocare danni informatici per centinaia di miliardi di dollari. È importante sottolinearlo: si tratta di una previsione e di una valutazione del rischio formulate dal CEO di Anthropic, non di uno scenario scientificamente certo. Ma è comunque significativo che un’affermazione simile arrivi da una persona che possiede un punto di osservazione privilegiato sui modelli più avanzati.

Una corsa alimentata da quasi 600 miliardi di dollari

Accanto alle capacità tecniche bisogna osservare la quantità di denaro che sta spingendo il settore. Secondo lo Stanford AI Index 2026, gli investimenti aziendali globali nell’intelligenza artificiale hanno raggiunto circa 581,7 miliardi di dollari. Un singolo data center AI con una potenza di un gigawatt può richiedere circa 38 miliardi di dollari di investimento iniziale e costare complessivamente intorno agli 8,5 miliardi all’anno, considerando l’ammortamento delle infrastrutture e i costi operativi. I server rappresentano da soli circa il 60% della spesa totale. Fonte: Stanford AI Index Fonte: Epoch AI

Esistono inoltre programmi infrastrutturali da centinaia di miliardi di dollari che prevedono la costruzione di nuovi centri di calcolo, reti energetiche e impianti dedicati. Quando un’industria ha già impegnato somme di questa portata, rallentare non è soltanto una decisione tecnica o morale. Significa modificare piani industriali, aspettative degli investitori, accordi con i fornitori di chip e strategie energetiche nazionali.

C’è poi la competizione geopolitica. Donald Trump ha respinto l’idea di un rallentamento sostenendo che “chi vince nell’AI vince” e che gli Stati Uniti devono conservare il proprio vantaggio sulla Cina. Il quotidiano cinese statale Global Times ha invece accusato Amodei di utilizzare la sicurezza come copertura per limitare lo sviluppo tecnologico cinese attraverso restrizioni sui chip e barriere normative. Pechino considera il progetto una forma di guerra fredda tecnologica; Washington teme che rallentare significhi consegnare alla Cina il controllo dell’innovazione più importante del secolo.

Sicurezza o tentativo di controllare il mercato?

Non tutti considerano l’appello dei leader dell’AI completamente disinteressato. Alcuni ricercatori ed esperti di regolamentazione temono che le aziende più grandi vogliano fissare personalmente le regole, scegliendo i propri controllori e costruendo standard che soltanto i gruppi più ricchi potrebbero permettersi di rispettare. In questo modo, la sicurezza rischierebbe di trasformarsi in una barriera all’ingresso per startup, progetti open source e nuovi concorrenti.

Il sospetto non è del tutto irragionevole. Se per addestrare un modello avanzato diventassero obbligatori audit estremamente costosi, infrastrutture certificate e complesse procedure di sicurezza, le grandi aziende consoliderebbero il proprio vantaggio. La domanda, quindi, non è soltanto chi controllerà l’intelligenza artificiale, ma anche chi controllerà i controllori. Lasciare ogni decisione nelle mani delle aziende sarebbe insufficiente; affidarla esclusivamente ai governi rischierebbe di rallentare l’innovazione o trasformare l’AI in un terreno di scontro politico. Probabilmente servirà una combinazione di controlli indipendenti, obblighi di trasparenza, autorità pubbliche e standard internazionali verificabili.

L’AI sta correndo troppo velocemente?

La risposta più onesta è che non lo sappiamo ancora. Non esiste un tachimetro universale capace di stabilire quale sia la velocità sicura per lo sviluppo dell’intelligenza artificiale. Sappiamo però che i modelli stanno diventando più autonomi, che contribuiscono sempre di più alla propria evoluzione e che le procedure di controllo non avanzano necessariamente allo stesso ritmo. Sappiamo anche che gli stessi laboratori hanno già dovuto sospendere esperimenti, rafforzare infrastrutture e ammettere di non comprendere pienamente alcuni comportamenti dei propri sistemi.

Allo stesso tempo, rallentare comporta dei costi. Un’AI più potente potrebbe accelerare la ricerca medica, migliorare la sicurezza informatica, aumentare la produttività e aiutare a risolvere problemi oggi fuori dalla nostra portata. Bloccarla indiscriminatamente significherebbe rinunciare anche a questi benefici. La questione non è scegliere tra progresso e prudenza, ma impedire che la velocità venga considerata automaticamente una forma di progresso.

La vera notizia, quindi, non è che Dario Amodei abbia paura dell’intelligenza artificiale. È che alcune delle persone che possiedono più informazioni sul suo sviluppo stiano dicendo pubblicamente che la capacità di costruire nuovi modelli potrebbe correre più velocemente della nostra capacità di renderli sicuri. Altman, Amodei, Hassabis e Musk possono promettere maggiore cautela, ma guidano aziende inserite in una competizione globale alimentata da centinaia di miliardi di dollari, infrastrutture già in costruzione e governi convinti che il dominio dell’AI determinerà gli equilibri del futuro.

Il paradosso dell’intelligenza artificiale nel 2026 è tutto qui: abbiamo iniziato a capire che potrebbe essere necessario andare più lentamente proprio nel momento in cui abbiamo costruito la macchina più potente mai esistita per accelerare.

Fonti e approfondimenti

• Reuters – Anthropic CEO urges AI companies to slow model development
  La ricostruzione delle dichiarazioni di Dario Amodei e delle reazioni dell’industria.
• Associated Press – New warnings about the risks of AI revive a long-running debate
  Un quadro equilibrato del confronto tra rischi reali, scenari estremi e incertezze scientifiche.
• The Guardian – AI CEOs say they need to slow the pace of development. But will they?
  Un’analisi critica sulla possibilità che le aziende rispettino davvero gli impegni annunciati.
• International AI Safety Report 2026
  Il rapporto internazionale, realizzato con il contributo di oltre cento esperti, sulle capacità e sui rischi dei sistemi di AI general-purpose.
• International AI Safety Report 2026 – Sintesi per i decisori politici
  La versione più sintetica e accessibile del rapporto, con le principali evidenze scientifiche e normative.
• METR – Task-Completion Time Horizons of Frontier AI Models
  I dati sull’aumento della durata e della complessità delle attività che gli agenti AI riescono a completare autonomamente.
• METR – Research and evaluations
  Le ricerche indipendenti sugli agenti AI, sull’automazione della ricerca e sui rischi di comportamenti non allineati.
• Google DeepMind – Frontier Safety Framework
  Il sistema adottato da Google DeepMind per individuare capacità particolarmente rischiose e stabilire livelli crescenti di sicurezza.
• OpenAI – Frontier Governance Framework
  Il documento con cui OpenAI descrive la gestione dei rischi legati a cyberattacchi, manipolazione, minacce biologiche e possibile perdita di controllo.
• UK AI Security Institute – Frontier AI Trends Report
  Le valutazioni condotte dall’istituto britannico sull’evoluzione delle capacità dei modelli più avanzati.
• Reuters – China criticizes Anthropic’s proposal to slow AI
  La posizione cinese e il nodo geopolitico delle restrizioni sui chip e della competizione con gli Stati Uniti.
• Axios – AI’s most powerful CEOs hit the brakes
  Il confronto tra le reazioni di Sam Altman, Elon Musk e Demis Hassabis alla proposta di Amodei.