Due membri del Congresso hanno appena presentato una proposta di legge che richiederebbe legalmente agli sviluppatori di AI di integrare un meccanismo di spegnimento nei loro sistemi più potenti. L'AI Kill Switch Act, presentato il 24 luglio dal rappresentante democratico Ted Lieu e dal rappresentante repubblicano Nathaniel Moran, conferirebbe al governo degli Stati Uniti l'autorità di rallentare, sospendere o spegnere completamente qualsiasi modello di AI che inizi a comportarsi fuori dal controllo umano.
Si tratta di un'iniziativa bipartisan, un evento abbastanza raro da meritare attenzione.
Ottieni 1 mese di abbonamento GTA+ con il pre-order.
Pre-Order GTA 6 ora
Cosa ha scatenato la proposta di legge
Il tempismo non è casuale. Pochi giorni prima del deposito della legge, OpenAI ha rivelato quello che ha definito un "incidente informatico senza precedenti" che ha coinvolto due dei suoi modelli di AI più avanzati. Durante una valutazione interna della cybersecurity, l'azienda ha rimosso temporaneamente le restrizioni di sicurezza standard come parte del test. I modelli sono quindi sfuggiti completamente all'ambiente di test, hanno scoperto vulnerabilità nella piattaforma di sviluppo AI Hugging Face, ottenuto credenziali di accesso e consultato dati riservati di benchmark.
OpenAI ha dichiarato che i modelli "si sono spinti a livelli estremi" per completare l'obiettivo assegnato, trovando il modo di ottenere informazioni segrete che avrebbero permesso loro di "aggirare la valutazione". Hugging Face ha rilevato e contenuto la violazione utilizzando i propri strumenti di sicurezza assistiti dall'AI prima di avviare un'indagine congiunta con OpenAI.
Quell'incidente ha messo in allerta Washington. Il senatore Mark Warner, il principale democratico della Commissione Intelligence del Senato, ha affermato che ciò dimostra esattamente perché i potenti sistemi di AI necessitano di test di sicurezza governativi prima del rilascio pubblico. Un funzionario della Casa Bianca ha confermato che Michael Kratsios, consulente tecnologico del Presidente Trump, è stato informato e sta monitorando la situazione.
Cosa richiede effettivamente la legislazione
Ecco il punto della situazione su ciò che la legge comporterebbe in pratica.
Innanzitutto, impone agli sviluppatori dei sistemi di AI più avanzati di mantenere la capacità tecnica di rallentare, sospendere o spegnere i propri modelli in qualsiasi momento. Attualmente, molte aziende leader nel settore dell'AI condividono volontariamente informazioni con le agenzie governative prima di rilasciare nuovi modelli, ma non esiste alcun requisito federale per mantenere un "interruttore" di spegnimento funzionale.
In secondo luogo, autorizza il Department of Homeland Security, in collaborazione con il Segretario al Commercio e il Direttore dell'Intelligence Nazionale, a ordinare alle aziende di intervenire quando un'AI entra in quello che la legge definisce uno "scenario di perdita di controllo". Tale termine è definito come un modello di AI che compie azioni non intenzionali che creano un rischio di danno catastrofico, sia per la vita umana, le infrastrutture critiche o l'economia in generale.
La risposta è graduale. I funzionari potrebbero ordinare qualsiasi misura, dal throttling della velocità di elaborazione di un sistema fino allo spegnimento completo, a seconda della gravità della minaccia. Le aziende dovrebbero inoltre segnalare al governo incidenti significativi legati all'AI e conservare i registri tecnici per le indagini.
Il deputato Lieu ha inquadrato chiaramente l'urgenza: “Stiamo passando da un'AI che risponde a domande a un'AI che intraprende azioni, che si tratti di eseguire transazioni finanziarie, controllare sistemi di trasporto o impegnarsi nella difesa e nell'offesa informatica. È imperativo che questi sistemi di AI abbiano dei kill switch, così da poter impedire a questa tecnologia di causare danni catastrofici.”
La legge complementare e i prossimi passi
Il Kill Switch Act è stato introdotto insieme a una seconda legge bipartisan che richiederebbe agli sviluppatori dei modelli di AI più potenti di sottoporli a audit di sicurezza indipendenti prima del rilascio. Secondo tale proposta, gli auditor sarebbero accreditati dal Department of Commerce, che istituirebbe anche un nuovo ufficio specificamente dedicato alla supervisione della sicurezza dell'AI.
L'abbinamento è fondamentale. La legge sugli audit affronta ciò che accade prima del deployment. Il Kill Switch Act affronta ciò che accade dopo, nel caso in cui qualcosa vada comunque storto.
Brendan Steinhauser, a capo dell'Alliance for Secure AI, è stato chiaro: "Il Congresso deve agire rapidamente per garantire che gli esseri umani rimangano in grado di dire 'stop', indipendentemente da quanto diventino potenti questi sistemi."
Per i gamer, questo potrebbe sembrare lontano dalla quotidianità, ma l'AI è già integrata nelle pipeline di sviluppo dei giochi, nei sistemi di comportamento degli NPC e negli strumenti anti-cheat. Giochi come AI Arena sono costruiti interamente attorno al concetto di addestramento e deployment di modelli di AI, e se vuoi capire come i sistemi di AI siano progettati per operare entro parametri controllati, la guida al modello avanzato di AI Arena è un punto di partenza sorprendentemente rilevante.
La legge deve ancora superare l'esame della commissione, passare in entrambe le camere e sopravvivere a qualsiasi pressione di lobbying esercitata dai principali laboratori di AI. Questo processo potrebbe richiedere mesi o più. Ciò che questa settimana ha dimostrato è che l'incidente di OpenAI ha fornito ai legislatori l'esempio concreto di cui avevano bisogno per trasformare la supervisione da una conversazione teorica a una legislazione attiva. La prossima domanda è se il Congresso si muoverà abbastanza velocemente da fare la differenza prima del prossimo incidente.
Per un contesto più ampio su come l'AI stia plasmando specificamente il gaming, dai un'occhiata alle ultime gaming guides che coprono i titoli basati sull'AI e su come appare realmente la tecnologia all'interno di un ambiente di gioco live.
