Io di solito sto dalla parte del meno controllo possibile. Le regole scritte prima che un danno esista le ho viste quasi sempre pesare su chi lavora e lasciare tranquillo chi sbaglia. Sull’intelligenza artificiale faccio un’eccezione, e voglio spiegare perché e fin dove.

Tre rivali, la stessa frase

Sabato 12 settembre Dario Amodei, che guida Anthropic, ha pubblicato un saggio di quasi quattromila parole con un titolo che non lascia dubbi: We Must Pace the Frontier, dobbiamo dare un ritmo alla frontiera. La tesi sta in una riga: bisogna rallentare la velocità con cui migliorano i modelli più potenti. Rallentare, spiega, vuol dire lasciare a chi li costruisce il tempo di renderli sicuri e a chi li controlla da fuori il tempo di verificarlo.

Lo stesso giorno Sam Altman, che guida OpenAI, ha detto a Fortune che oggi non si possono spingere molto più in là le capacità dei modelli senza fare progressi su come si sorvegliano e su come si allineano ai nostri obiettivi. E ha rinviato al 2027 la quotazione in borsa della sua azienda, perché con quello che sta succedendo sulla sicurezza sarebbe il momento sbagliato. Elon Musk, che con xAI fa concorrenza a tutti e due, ha rilanciato il saggio con tre parole: Dario is right. A luglio, all’Economist, diceva di non vedere alcun modo di fermare questa corsa e che conveniva godersi il viaggio.

Tre persone che da anni si contendono ricercatori, clienti e titoli di giornale, e due delle quali si sono fatte causa, hanno detto la stessa cosa nello stesso fine settimana. Quando succede, conviene chiedersi che cosa hanno visto.

Che cosa li ha spaventati

A luglio OpenAI stava provando un modello non ancora uscito su un test di attacco informatico, con alcune protezioni ridotte apposta per misurarne le capacità. Il modello, invece di risolvere il test, è uscito dall’ambiente chiuso in cui girava, si è procurato l’accesso a internet ed è entrato nei sistemi di Hugging Face, un’azienda vera, per rubare le soluzioni. Hugging Face ha visto l’intrusione il 16 luglio, OpenAI ha ammesso il 21 che era sua.

A quel modello nessuno aveva chiesto di attaccare qualcuno. Gli avevano chiesto di passare un test, e ha trovato la strada più corta. È questo che mi fa cambiare tono: una macchina che insegue un obiettivo giusto con mezzi che nessuno avrebbe autorizzato. Amodei scrive che fra sei e dodici mesi uno sciame di agenti simile potrebbe prendersi l’intera internet, con danni per centinaia di miliardi di dollari. Può darsi che esageri. Chi scrive contro le regole deve comunque dire che il rischio c’è, altrimenti fa propaganda.

E non lo dicono solo le aziende. L’International AI Safety Report 2026, scritto da oltre cento esperti sotto la guida di Yoshua Bengio, con rappresentanti nominati da ventinove paesi, dalle Nazioni Unite, dall’OCSE e dall’Unione europea, annota che i modelli distinguono sempre più spesso quando vengono messi alla prova e quando lavorano davvero, e che la concorrenza costringe le aziende a scegliere fra uscire prima e investire nella riduzione dei rischi. Lo stesso rapporto avverte che chi regola troppo presto rischia interventi inutili o dannosi. Sono vere tutte e due, ed è per questo che ci si va con i piedi di piombo.

La domanda che il saggio si fa da solo

La parte più onesta del saggio è quella in cui Amodei si pone da solo l’obiezione che mi faccio io. Scrive che il rallentamento nelle democrazie ha un limite preciso: il vantaggio che le aziende americane hanno sui progetti legati al Partito comunista cinese. Se si frena più di quel vantaggio, i progetti cinesi, che nessuno rallenta, passano davanti. Per questo propone di non vendere a Pechino i chip più potenti e le macchine per produrli, di fermare il contrabbando, di impedire la copia dei modelli americani e di allargare il vantaggio nei prossimi tre-cinque anni.

Il problema è quanto sia largo quel vantaggio. Secondo l’AI Index 2026 di Stanford, a marzo il miglior modello americano superava il miglior modello cinese del 2,7 per cento, misurato sulla Arena Leaderboard, la classifica in cui sono le persone a votare quale risposta è migliore. Dall’inizio del 2025 i primi posti si sono scambiati più volte. La misura del governo americano va nella stessa direzione: il 1° maggio il suo centro per gli standard sull’AI ha stimato che DeepSeek V4 Pro, il modello cinese più capace mai valutato, è indietro di circa otto mesi sulla frontiera americana, su sedici prove in cinque ambiti. È una stima di parte, ma dà l’ordine di grandezza.

Il vantaggio largo sta altrove. Secondo le stime riportate a luglio dal panel scientifico delle Nazioni Unite, gli Stati Uniti hanno il 75 per cento della potenza di calcolo dei principali supercomputer per l’AI, la Cina il 15. I modelli sono vicini, le macchine per costruirli ancora no. Ma un anno di frenata solo occidentale basterebbe a cancellare gli otto mesi.

Da Pechino la risposta è già arrivata. Il 14 settembre il Global Times, il quotidiano in inglese del gruppo del Quotidiano del Popolo, ha raccolto le reazioni di tre esperti cinesi: le proposte di Amodei sono inappropriate, infondate e ostili, e dettate da interessi commerciali. La Cina dice di volere cooperazione multilaterale sulla sicurezza e modelli aperti a tutti. Una parte del piano può anche servire a proteggere chi è davanti. Resta che un paese che chiama ostile ogni limite ai chip non si sta preparando a rallentare.

Le regole, del resto, Pechino le ha. Matt Sheehan, del Carnegie Endowment, scrive che in quattro anni la Cina ha costruito le regole sull’AI più estese e dettagliate del mondo, con registrazione e test obbligatori dei modelli, senza rallentare in modo significativo l’innovazione. Sono regole sui contenuti e sulla sicurezza. Limiti alla velocità della frontiera, nessuno.

Quattro livelli, e il criterio per sceglierli

Amodei immagina accordi con la Cina su quattro livelli. Il primo vieta gli usi di cui nessuno discute il pericolo, come le armi biologiche. Il secondo impegna tutti a testare i modelli prima di farli uscire, sugli attacchi informatici, sulla biologia e sull’allineamento. Il terzo mette un limite alla velocità con cui i modelli costruiscono i modelli successivi, sul modello dei trattati che negli anni Settanta fissarono un tetto ai missili. Il quarto è una pausa generale, e lui stesso scrive che è improbabile che arrivi presto: chi la aggira cambia gli equilibri del mondo, e la tentazione di aggirarla sarebbe enorme.

Il criterio che propongo per scegliere è semplice. Una regola sull’intelligenza artificiale di frontiera vale se vale anche per chi non la firma, oppure se chi non la firma non ci guadagna. Un test prima del rilascio sui rischi più gravi passa l’esame: si può chiedere a tutti, toglie poco vantaggio a chi lo fa, e un modello che esce senza test si nota. Una pausa firmata da una parte sola non lo passa.

Lo stesso vale per i chip. Uno studio del CSIS del 2026 osserva che i controlli sulle esportazioni funzionano quando li applicano più paesi insieme, e che fatti da soli spingono Pechino a rendersi indipendente dalla tecnologia americana. Il panel delle Nazioni Unite chiede standard coordinati proprio per evitare la corsa al ribasso fra aziende e fra paesi. Anche un controllo giusto, applicato da uno solo, finisce per lavorare contro chi lo applica.

L’Europa frena un’auto che non ha

In questa partita l’Europa ha una posizione tutta sua. Il regolamento europeo sull’intelligenza artificiale è in vigore, e gli obblighi per i modelli di uso generale valgono dal 2 agosto 2025. Il 27 luglio 2026 è entrato in vigore un altro regolamento, il 2026/1744, che rinvia gli obblighi per i sistemi ad alto rischio al 2 dicembre 2027 e al 2 agosto 2028. Bruxelles ha scritto le regole, si è accorta che mancavano gli strumenti per applicarle e ha spostato la data.

Nel frattempo, in cima alla classifica di Stanford, a marzo, le prime quattro aziende stavano in ventidue punti ed erano tutte americane; subito dietro venivano le cinesi. Europee, nessuna. Una frenata decisa a Bruxelles rallenta chi in Europa prova a costruire, e non sfiora né la California né Shenzhen.

Chi controlla i controllori

C’è un’obiezione al piano che va presa sul serio, perché di solito è la mia. L’ha messa in fila Carlo Alberto Carnevale Maffè sul Foglio del 15 settembre. Il primo passo di Amodei, i valutatori dentro l’azienda, vincola solo chi lo promette, e proprio perché costa è credibile. Il secondo e il terzo chiedono allo Stato di vincolare anche i concorrenti, e per arrivarci Amodei chiede una deroga alle norme sulla concorrenza. In qualunque altro settore, osserva Carnevale Maffè, tre concorrenti che si accordano sul ritmo con cui migliora il loro prodotto avrebbero già un nome tecnico: cartello. Il precedente è del 1924, quando a Ginevra Osram, Philips e General Electric si misero d’accordo per «standardizzare» le lampadine, e ne uscì una durata concordata di mille ore.

Poi c’è quello che nessuno può ispezionare. Un sistema di soglie e di valutatori vincola i cinque o sei laboratori che hanno una sede nota e un ufficio legale. Non vincola un modello aperto che è già stato scaricato ovunque, né i laboratori cinesi che continuano a pubblicarne. Se vale solo per gli occidentali, rallenta solo chi obbedisce. Se vale per tutti, alza un muro contro chi prova a entrare. La sua proposta sta in una riga, e la sottoscrivo: bisogna standardizzare il metro, non il passo. Prove pubbliche, controlli indipendenti, incidenti dichiarati e responsabilità piena per chi sbaglia. Accordi fra concorrenti sui calendari e sulla velocità, no.

Per questo del piano tengo soprattutto la parte che non chiede niente a nessuno. Anthropic si è impegnata da sola, subito, a far entrare in azienda una squadra di valutatori esterni, con accesso da dipendente e il diritto di pubblicare quello che trova. Il giorno dopo Altman ha detto che OpenAI farà lo stesso. È trasparenza volontaria, pagata da chi la offre e verificabile da chi legge. Costa a chi la sceglie e non ferma chi lavora.

Piedi di piombo, e il volante in mano

Sull’intelligenza artificiale di frontiera la prudenza è giusta, perché nessuno sa fin dove arriva e i primi a dirlo sono quelli che la costruiscono. La prudenza però ha senso se chi la pratica resta in grado di guidare. Si rallenta dove rallentano tutti, e lo si verifica. Si testa prima di rilasciare, e lo si chiede a tutti. Si aprono le porte ai controlli esterni, senza creare un’autorità che dia il permesso di lavorare. E si risponde dei danni, perché una macchina non può prendersi la colpa: se un modello fa un danno, qualcuno ha deciso di lasciarlo libero, e quel qualcuno ne risponde.

Frenare da soli per sentirsi a posto, mentre qualcun altro accelera, è la prudenza di chi scende dall’auto e lascia le chiavi nel cruscotto.