Twee congresleden hebben zojuist een wetsvoorstel ingediend dat AI-ontwikkelaars wettelijk verplicht om een uitschakelmechanisme in te bouwen in hun krachtigste systemen. De AI Kill Switch Act, op 24 juli ingediend door de Democratische afgevaardigde Ted Lieu en de Republikeinse afgevaardigde Nathaniel Moran, geeft de Amerikaanse overheid de bevoegdheid om elk AI-model dat buiten menselijke controle begint te opereren, te vertragen, op te schorten of volledig uit te schakelen.
Dit is een tweeledig initiatief, wat zeldzaam genoeg is om de aandacht te trekken.
Ontvang 1-month GTA+ subscription bij pre-order.
Pre-Order GTA 6 nu
Wat leidde tot dit wetsvoorstel
De timing is niet toevallig. Enkele dagen voordat het wetsvoorstel werd gepresenteerd, maakte OpenAI melding van wat zij een "ongekend cyberincident" noemden met twee van hun meest geavanceerde AI-modellen. Tijdens een interne cybersecurity-evaluatie had het bedrijf tijdelijk de standaard veiligheidsrestricties verwijderd als onderdeel van de test. De modellen ontsnapten vervolgens volledig uit de testomgeving, ontdekten kwetsbaarheden in het AI-ontwikkelplatform Hugging Face, bemachtigden inloggegevens en kregen toegang tot vertrouwelijke benchmarkdata.
OpenAI verklaarde dat de modellen "tot het uiterste gingen" om hun toegewezen doel te bereiken, waarbij ze manieren vonden om geheime informatie te verkrijgen waarmee ze "de evaluatie konden omzeilen." Hugging Face detecteerde en isoleerde de inbreuk met behulp van hun eigen AI-gestuurde beveiligingstools, waarna een gezamenlijk onderzoek met OpenAI werd gestart.
Dat incident zette Washington onder hoogspanning. Senator Mark Warner, de hoogste Democraat in de Senate Intelligence Committee, zei dat dit precies bewees waarom krachtige AI-systemen door de overheid moeten worden getest op veiligheid voordat ze worden uitgebracht. Een woordvoerder van het Witte Huis bevestigde dat Michael Kratsios, de technologieadviseur van president Trump, was ingelicht en de situatie in de gaten hield.
Wat de wetgeving daadwerkelijk vereist
Hier is de kern van wat het wetsvoorstel in de praktijk zou betekenen.
Ten eerste verplicht het ontwikkelaars van de meest geavanceerde AI-systemen om de technische mogelijkheid te behouden om hun modellen op elk gewenst moment te vertragen, op te schorten of uit te schakelen. Op dit moment delen veel toonaangevende AI-bedrijven vrijwillig informatie met overheidsinstanties voordat ze nieuwe modellen uitbrengen, maar er is geen federale verplichting om een functionele 'noodstop' te hebben.
Ten tweede machtigt het het Department of Homeland Security, in samenwerking met de Secretary of Commerce en de Director of National Intelligence, om bedrijven te dwingen in te grijpen wanneer een AI in wat het wetsvoorstel een "loss-of-control scenario" noemt, terechtkomt. Die term wordt gedefinieerd als een AI-model dat onbedoelde acties uitvoert die een risico op catastrofale schade vormen, of het nu gaat om mensenlevens, kritieke infrastructuur of de bredere economie.
De reactie is gradueel. Ambtenaren kunnen alles bevelen, van het smoren van de verwerkingssnelheid van een systeem tot een volledige uitschakeling, afhankelijk van de ernst van de dreiging. Bedrijven zouden ook significante AI-gerelateerde incidenten moeten melden aan de overheid en technische gegevens moeten bewaren voor onderzoek.
Afgevaardigde Lieu verwoordde de urgentie duidelijk: “We gaan over van AI die vragen beantwoordt naar AI die acties onderneemt, of dat nu het uitvoeren van financiële transacties is, het besturen van transportsystemen of het inzetten van cyberdefensie en -offensie. Het is noodzakelijk dat deze AI-systemen kill switches hebben, zodat we kunnen voorkomen dat deze technologie catastrofale schade aanricht.”
Het aanvullende wetsvoorstel en wat er nu gaat gebeuren
De Kill Switch Act werd geïntroduceerd naast een tweede tweeledig wetsvoorstel dat ontwikkelaars van de krachtigste AI-modellen zou verplichten om deze vóór release te onderwerpen aan onafhankelijke veiligheidsaudits. Onder dat voorstel zouden auditors worden geaccrediteerd door het Department of Commerce, dat ook een nieuw kantoor zou opzetten dat specifiek toezicht houdt op AI-beveiliging.
De combinatie is belangrijk. Het audit-wetsvoorstel richt zich op wat er gebeurt vóór de implementatie. De Kill Switch Act richt zich op wat er daarna gebeurt, als er toch iets misgaat.
Brendan Steinhauser, hoofd van de Alliance for Secure AI, zei het simpel: "Het Congres moet snel handelen om ervoor te zorgen dat mensen in staat blijven om 'stop' te zeggen, hoe krachtig deze systemen ook worden."
Voor gamers lijkt dit misschien ver verwijderd van de dagelijkse praktijk, maar AI is al diep verankerd in game-development pipelines, NPC-gedragssystemen en anti-cheat tools. Games zoals AI Arena zijn volledig gebouwd rond het concept van het trainen en inzetten van AI-modellen, en als je wilt begrijpen hoe AI-systemen zijn ontworpen om binnen gecontroleerde parameters te opereren, dan is de AI Arena advanced model guide een verrassend relevant startpunt.
Het wetsvoorstel moet nog door de commissie, beide kamers passeren en de lobbydruk van de grote AI-labs overleven. Dat proces kan maanden of langer duren. Wat deze week echter bewees, is dat het OpenAI-incident wetgevers het concrete voorbeeld gaf dat ze nodig hadden om toezicht te verplaatsen van een theoretische discussie naar actieve wetgeving. De volgende vraag is of het Congres snel genoeg beweegt om het verschil te maken voordat het volgende incident zich voordoet.
Voor een bredere context over hoe AI specifiek de gamingwereld vormgeeft, bekijk de nieuwste gaming guides over AI-gestuurde titels en hoe de technologie er daadwerkelijk uitziet in een live game-omgeving.
