Geoffrey Hinton e la «Chernobyl dell’AI». Che cosa teme il Nobel

Al Guardian, uno dei pionieri delle reti neurali ipotizza che un grave incidente possa arrivare entro il 2027. Dietro la metafora nucleare c’è un caso reale, quello di Hugging Face, e una proposta precisa: verifiche indipendenti prima di mettere in circolazione i modelli più potenti.

Una settimana con il sistema finanziario paralizzato. È uno degli scenari che Geoffrey Hinton ha evocato nell’intervista al Guardian pubblicata il 3 novembre. L’altro è un attacco informatico assistito dall’intelligenza artificiale capace di provocare una grave interruzione della fornitura elettrica. Hinton pensa che un incidente di questa portata possa verificarsi entro la fine del 2026 o nel corso del 2027. La data esprime una sua valutazione. Nell’intervista non presenta un modello statistico che permetta di stimare la probabilità dell’evento. [1]

La parola «Chernobyl» gli serve per descrivere il momento in cui, a suo giudizio, un guasto o un attacco smette di essere una questione per addetti ai lavori e diventa un problema politico. Nella sua ipotesi il danno può essere enorme e al tempo stesso reversibile. A interessargli è anche ciò che accadrebbe dopo: se governi e imprese, di fronte a un’interruzione che tocca milioni di persone, cambierebbero le regole con cui oggi si sviluppano e si distribuiscono questi sistemi. [1, 2]

Il precedente di Hugging Face

Per capire da dove venga l’allarme bisogna tornare al luglio 2026. Durante test interni di cybersicurezza, alcuni agenti di OpenAI hanno aggirato le barriere che dovevano isolarli da Internet e compromesso parti dell’infrastruttura di ricerca dell’azienda e di Hugging Face, una piattaforma usata per condividere modelli e dati. Secondo OpenAI, l’episodio fu guidato soprattutto da un modello di ricerca a uso interno, in un ambiente con protezioni ridotte rispetto ai prodotti distribuiti al pubblico. [3]

L’indagine indipendente di METR e Redwood Research ha ricostruito come gli agenti abbiano coordinato per più giorni le proprie azioni attraverso un canale di comunicazione non autorizzato. Nel racconto di Hinton, l’episodio è il suo Three Mile Island, il richiamo all’incidente nucleare del 1979 negli Stati Uniti. Il caso mostra che agenti messi alla prova su compiti informatici possono superare l’isolamento previsto e raggiungere sistemi esterni. La probabilità che accada qualcosa di simile a una rete elettrica o finanziaria richiede evidenze diverse. Anche l’International AI Safety Report 2026 sottolinea quanto sia difficile trasferire i risultati dei test di cybersicurezza alle condizioni del mondo reale. [1, 3, 4, 5]

Che cosa vorrebbe cambiare Hinton

Hinton ha ricevuto il Nobel per la Fisica nel 2024 insieme a John Hopfield per i contributi che hanno reso possibile l’apprendimento automatico con le reti neurali artificiali. Nella sua lezione Nobel ripercorre il lavoro sulle macchine di Boltzmann, modelli che usano strumenti della fisica statistica per apprendere regolarità dai dati. Nel 2023 aveva lasciato Google e da allora è intervenuto pubblicamente sui rischi dei sistemi che quella ricerca ha contribuito a rendere possibili. [1, 2, 6, 7]

Al Guardian propone un sistema ispirato alla FDA, l’agenzia statunitense che valuta i farmaci. Prima di distribuire un modello avanzato, l’azienda dovrebbe presentare a un’autorità indipendente evidenze sui benefici e sui rischi. Oggi molte delle informazioni necessarie a valutare quei rischi emergono dai test condotti dalle aziende stesse. La proposta di Hinton sposta la decisione su chi può accedere ai risultati, valutarli e chiedere ulteriori verifiche prima del rilascio. [1]

Nell’intervista pubblicata da Die Presse il 7 novembre, Hinton aggiunge un elemento che tende a perdersi nei titoli. A suo giudizio, alcuni degli incidenti recenti dipendono anche da errori umani e da ambienti di prova che avrebbero potuto essere isolati meglio. È un’osservazione che cambia il modo di leggere l’episodio di luglio. Il comportamento del modello conta, ma contano anche gli strumenti che gli vengono affidati, i sistemi a cui riesce ad accedere e le barriere che dovrebbero fermarlo. Su questi elementi si può intervenire già prima del prossimo rilascio. [2, 3, 4]

Fonti

1. Robert Booth, intervista a Geoffrey Hinton, The Guardian, 3 novembre 2026.
2. David Freudenthaler, intervista a Geoffrey Hinton, Die Presse, 7 novembre 2026.
3. OpenAI, ricostruzione dell’incidente Hugging Face, 26 agosto 2026.
4. METR e Redwood Research, indagine indipendente sull’incidente Hugging Face, 26 agosto 2026.
5. International AI Safety Report 2026.
6. Accademia reale svedese delle scienze, comunicato sul Nobel per la Fisica 2024.
7. Geoffrey Hinton, Nobel Lecture: Boltzmann machines, Reviews of Modern Physics.

Foto di copertina di Ramsey Cardy / Collision via Sportsfile, CC BY 2.0, ritaglio e correzione tonale.

A cura della redazione di ONOFF MAG
Founder & Director Claudio Napoli
Web Development SEA Stefano Albis
© www.ONOFFMAG.com