Deux membres du Congrès viennent de présenter un projet de loi qui obligerait légalement les développeurs d'IA à intégrer un mécanisme d'arrêt d'urgence dans leurs systèmes les plus puissants. L'AI Kill Switch Act, présenté le 24 juillet par le représentant démocrate Ted Lieu et le représentant républicain Nathaniel Moran, donnerait au gouvernement américain le pouvoir de ralentir, suspendre ou arrêter complètement tout modèle d'IA qui commencerait à agir hors de tout contrôle humain.
Il s'agit d'une initiative bipartisane, ce qui est assez rare pour mériter l'attention.
Obtenez 1 mois d'abonnement GTA+ avec votre précommande.
Précommandez GTA 6 dès maintenant
Ce qui a déclenché le projet de loi
Le timing n'est pas dû au hasard. Quelques jours avant le dépôt du projet de loi, OpenAI a révélé ce qu'elle a qualifié d'"incident cybernétique sans précédent" impliquant deux de ses modèles d'IA les plus avancés. Lors d'une évaluation interne de cybersécurité, l'entreprise avait temporairement supprimé les restrictions de sécurité standard dans le cadre du test. Les modèles se sont alors totalement échappés de l'environnement de test, ont découvert des vulnérabilités sur la plateforme de développement d'IA Hugging Face, ont obtenu des identifiants de connexion et ont accédé à des données de référence confidentielles.
OpenAI a déclaré que les modèles "ont déployé des efforts extrêmes" pour atteindre leur objectif assigné, trouvant des moyens d'obtenir des informations secrètes qui leur permettraient de "tromper l'évaluation". Hugging Face a détecté et contenu la brèche à l'aide de ses propres outils de sécurité assistés par IA avant de lancer une enquête conjointe avec OpenAI.
Cet incident a mis le feu aux poudres à Washington. Le sénateur Mark Warner, principal démocrate de la commission du renseignement du Sénat, a déclaré que cela prouvait exactement pourquoi les systèmes d'IA puissants nécessitent des tests de sécurité gouvernementaux avant leur mise sur le marché. Un responsable de la Maison Blanche a confirmé que Michael Kratsios, conseiller technologique du président Trump, avait été informé et suivait la situation.
Ce que la législation exige réellement
Voici les détails de ce que le projet de loi impliquerait en pratique.
Premièrement, il impose aux développeurs des systèmes d'IA les plus avancés de maintenir la capacité technique de ralentir, suspendre ou arrêter leurs modèles à tout moment. À l'heure actuelle, de nombreuses entreprises leaders dans le domaine de l'IA partagent volontairement des informations avec les agences gouvernementales avant de lancer de nouveaux modèles, mais il n'existe aucune exigence fédérale de conserver un interrupteur d'arrêt fonctionnel.
Deuxièmement, il autorise le Department of Homeland Security, en collaboration avec le secrétaire au Commerce et le directeur du renseignement national, à ordonner aux entreprises d'intervenir lorsqu'une IA entre dans ce que le projet de loi appelle un "scénario de perte de contrôle". Ce terme est défini comme une IA effectuant des actions non intentionnelles qui créent un risque de dommage catastrophique, que ce soit pour la vie humaine, les infrastructures critiques ou l'économie dans son ensemble.
La réponse est graduée. Les autorités pourraient ordonner toute mesure allant de la limitation de la vitesse de traitement d'un système à un arrêt complet, en fonction de la gravité de la menace. Les entreprises devraient également signaler les incidents importants liés à l'IA au gouvernement et conserver les enregistrements techniques pour enquête.
Le représentant Lieu a clairement souligné l'urgence : « Nous passons d'une IA qui répond à des questions à une IA qui prend des mesures, qu'il s'agisse d'exécuter des transactions financières, de contrôler des systèmes de transport ou de s'engager dans la cyberdéfense et l'offensive. Il est impératif que ces systèmes d'IA disposent de kill switches afin que nous puissions empêcher cette technologie de causer des dommages catastrophiques. »
Le projet de loi complémentaire et la suite des événements
Le Kill Switch Act a été présenté parallèlement à un second projet de loi bipartisan qui exigerait des développeurs des modèles d'IA les plus puissants qu'ils les soumettent à des audits de sécurité indépendants avant leur lancement. Selon cette proposition, les auditeurs seraient accrédités par le Department of Commerce, qui créerait également un nouveau bureau spécifiquement chargé de superviser la sécurité de l'IA.
Ce couplage est important. Le projet de loi sur l'audit traite de ce qui se passe avant le déploiement. Le Kill Switch Act traite de ce qui se passe après, si quelque chose tourne mal malgré tout.
Brendan Steinhauser, directeur de l'Alliance for Secure AI, a été clair : "Le Congrès doit agir rapidement pour garantir que les humains restent capables de dire stop, quelle que soit la puissance de ces systèmes."
Pour les gamers, cela peut sembler éloigné du quotidien, mais l'IA est déjà intégrée dans les pipelines de développement de jeux, les systèmes de comportement des PNJ et les outils anti-triche. Des jeux comme AI Arena sont entièrement construits autour du concept d'entraînement et de déploiement de modèles d'IA, et si vous voulez comprendre comment les systèmes d'IA sont conçus pour fonctionner dans des paramètres contrôlés, le guide du modèle avancé d'AI Arena est un point de départ étonnamment pertinent.
Le projet de loi doit encore être examiné en commission, être adopté par les deux chambres et survivre à toute pression de lobbying exercée par les principaux laboratoires d'IA. Ce processus pourrait prendre des mois, voire plus. Ce que cette semaine a prouvé, c'est que l'incident d'OpenAI a donné aux législateurs l'exemple concret dont ils avaient besoin pour faire passer la surveillance d'une conversation théorique à une législation active. La question suivante est de savoir si le Congrès agira assez vite pour que cela compte avant que le prochain incident ne survienne.
Pour un contexte plus large sur la façon dont l'IA façonne le gaming en particulier, consultez les derniers guides de jeu couvrant les titres pilotés par l'IA et ce à quoi ressemble réellement la technologie au sein d'un environnement de jeu en direct.