La corsa all’intelligenza artificiale sta entrando in una fase particolare: alcune delle aziende che sviluppano i modelli più avanzati al mondo stanno chiedendo controlli più rigidi proprio sulla tecnologia che stanno contribuendo ad accelerare.
OpenAI sostiene ora la necessità di requisiti nazionali obbligatori per i sistemi AI più potenti. Anthropic afferma esplicitamente che un settore tecnologico di queste dimensioni non possa essere governato soltanto dalle aziende che ne fanno parte. Dario Amodei, CEO di Anthropic, ha inoltre chiesto di rallentare la corsa alle capacità dei modelli per lasciare più spazio a sicurezza, valutazioni indipendenti e coordinamento.
Il punto non è fermare l’intelligenza artificiale. È stabilire cosa deve accadere quando un modello diventa abbastanza potente da poter creare rischi che le tradizionali regole del software non erano state progettate per affrontare.
Perché OpenAI chiede regole obbligatorie
La posizione di OpenAI segna un passaggio significativo rispetto a un sistema basato prevalentemente su impegni volontari.
L’azienda sostiene un modello di regolamentazione basato sulle capacità: più un sistema AI diventa potente e potenzialmente pericoloso, maggiori dovrebbero essere gli obblighi di sicurezza.
Tra gli strumenti discussi figurano valutazioni indipendenti, requisiti di cybersecurity e procedure strutturate per comunicare incidenti rilevanti.
Il principio è semplice: un chatbot destinato a compiti ordinari non dovrebbe essere regolato nello stesso modo di un modello capace di operare autonomamente su sistemi informatici complessi o di contribuire significativamente a determinate attività ad alto rischio.
La regolamentazione, quindi, verrebbe collegata non semplicemente alla dimensione del modello, ma alle sue effettive capacità.
Anthropic: l’autoregolamentazione non basta
Anthropic porta il ragionamento ancora oltre.
La società utilizza da anni una Responsible Scaling Policy, un sistema attraverso il quale le misure di sicurezza aumentano quando i modelli raggiungono determinate soglie di capacità.
L’idea è quella di una sorta di scala del rischio.
Per i sistemi attuali possono essere sufficienti trasparenza, test e controlli tecnici. Modelli molto più potenti potrebbero invece richiedere verifiche esterne più severe, obblighi di segnalazione degli incidenti e una supervisione governativa crescente.
Anthropic sostiene inoltre che l’industria non possa stabilire da sola tutte le proprie regole. Solo i governi possono creare standard validi per tutte le aziende e accordi internazionali applicabili anche oltre i confini nazionali.
Perché il problema sta diventando urgente
Il cambiamento è legato soprattutto all’evoluzione degli agenti AI.
I primi chatbot rispondevano principalmente a domande. I sistemi più recenti possono utilizzare strumenti, scrivere ed eseguire codice, navigare servizi digitali e completare sequenze di operazioni con una crescente autonomia.
Questa evoluzione aumenta enormemente le possibilità di utilizzo dell’intelligenza artificiale, ma modifica anche il profilo del rischio.
Cybersecurity, manipolazione, utilizzi biologici pericolosi, perdita del controllo operativo e capacità dei sistemi di contribuire allo sviluppo di nuove generazioni di AI sono alcuni degli scenari studiati dai principali laboratori.
Non significa che tutti questi rischi siano già presenti allo stesso livello. Significa però che le aziende stanno cercando di costruire strumenti di controllo prima che determinate capacità diventino comuni.
Fermare l’AI o rallentarne la corsa?
La distinzione è importante.
Dario Amodei non propone semplicemente di interrompere lo sviluppo dell’intelligenza artificiale. La strategia indicata da Anthropic consiste nel “regolare il ritmo della frontiera”: continuare a innovare ma evitando che la competizione costringa ogni laboratorio a sviluppare sistemi sempre più potenti senza disporre del tempo necessario per valutarli.
La proposta include controlli indipendenti, standard condivisi tra i principali laboratori e, nel lungo periodo, forme di cooperazione internazionale.
Sam Altman ed Elon Musk hanno espresso pubblicamente sostegno alla richiesta di maggiore cautela avanzata da Amodei.
Il problema principale rimane però evidente: ogni azienda può avere interesse collettivo ad aumentare la sicurezza, ma allo stesso tempo ha interesse individuale a non lasciare un vantaggio tecnologico ai concorrenti.
È proprio questo conflitto che rende importante un sistema di regole comuni.
Anche gli altri laboratori rafforzano i controlli
Il fenomeno non riguarda soltanto OpenAI e Anthropic.
Google DeepMind utilizza un Frontier Safety Framework per individuare capacità che potrebbero provocare danni particolarmente gravi e collegare a queste soglie specifiche misure di mitigazione.
Microsoft ha invece presentato un codice di condotta per i propri sistemi AI che mette al centro la possibilità dell’uomo di correggere e interrompere il comportamento delle macchine.
Approcci diversi, quindi, ma una direzione comune: i sistemi AI più avanzati richiedono meccanismi di controllo diversi da quelli utilizzati per il software tradizionale.
La vera domanda: chi controllerà chi sviluppa l’AI?
Nei prossimi anni il dibattito probabilmente non sarà più soltanto su quanto rapidamente possano migliorare i modelli.
La questione centrale sarà chi stabilirà quando un sistema è abbastanza sicuro da essere distribuito.
Le aziende propongono framework interni. I governi stanno costruendo normative. Ricercatori indipendenti chiedono maggiore accesso ai modelli per verificarne i rischi.
Il risultato potrebbe essere un sistema nel quale i modelli più potenti devono superare controlli progressivamente più rigorosi prima di ottenere una distribuzione completa.
La sfida sarà farlo senza bloccare gli utilizzi utili dell’intelligenza artificiale e senza trasformare la sicurezza in una barriera che soltanto poche grandi aziende possano permettersi.
La sicurezza dell’intelligenza artificiale sta quindi passando da tema prevalentemente accademico a questione industriale e politica. E il fatto che siano proprio alcuni dei principali sviluppatori di AI a chiedere nuove regole mostra quanto rapidamente stia cambiando il settore.
Le informazioni contenute in questo articolo hanno finalità esclusivamente informative e non costituiscono consulenza professionale, tecnica, legale, finanziaria o di sicurezza informatica. Inoltre le immagini e i testi sono stati realizzati con l’ausilio dell’AI
OpenAI vuole regolamentare l’intelligenza artificiale?
Sì. OpenAI ha dichiarato di sostenere requisiti nazionali obbligatori basati sulle capacità dei sistemi AI più avanzati, accompagnati da valutazioni e misure di sicurezza appropriate al livello di rischio.
Anthropic vuole fermare lo sviluppo dell’AI?
No. La posizione di Anthropic è orientata a rallentare il ritmo della frontiera quando necessario per consentire controlli, valutazioni e misure di sicurezza adeguate.
Perché le aziende AI chiedono regole se potrebbero limitarle?
Perché la competizione tra laboratori può incentivare uno sviluppo più rapido di quanto sarebbe desiderabile dal punto di vista della sicurezza. Regole comuni possono impedire che un’azienda sia penalizzata commercialmente per aver adottato controlli più severi.