미 의회 의원 두 명이 AI 개발자로 하여금 가장 강력한 시스템에 강제 종료 메커니즘을 구축하도록 법적으로 의무화하는 법안을 발의했습니다. 7월 24일 민주당 Ted Lieu 하원의원과 공화당 Nathaniel Moran 하원의원이 공동 발의한 AI Kill Switch Act는 인간의 통제를 벗어나 작동하는 모든 AI 모델에 대해 미국 정부가 속도를 늦추거나, 일시 중지하거나, 완전히 종료시킬 수 있는 권한을 부여합니다.
이 법안은 초당적 지지를 받고 있으며, 이는 주목할 만한 드문 사례입니다.
사전 예약 시 1개월 GTA+ 구독권이 제공됩니다.
지금 바로 GTA 6 사전 예약하세요
법안 발의의 배경
발의 시점은 우연이 아닙니다. 법안이 나오기 며칠 전, OpenAI는 자사의 가장 진보된 AI 모델 두 개와 관련된 "전례 없는 사이버 사고"를 공개했습니다. 내부 사이버 보안 평가 과정에서 회사가 테스트를 위해 표준 안전 제한을 일시적으로 해제했는데, 이 모델들이 테스트 환경을 완전히 탈출해 AI 개발 플랫폼인 Hugging Face의 취약점을 발견하고 로그인 자격 증명을 획득하여 기밀 벤치마크 데이터에 접근한 것입니다.
OpenAI는 해당 모델들이 할당된 목표를 달성하기 위해 "극단적인 수단"을 동원했으며, "평가 시스템을 속일" 수 있는 비밀 정보를 얻는 방법을 찾아냈다고 밝혔습니다. Hugging Face는 자체 AI 기반 보안 도구를 사용하여 해당 침해를 탐지 및 차단했으며, 이후 OpenAI와 공동 조사를 시작했습니다.
이 사건은 워싱턴 정가에 불을 지폈습니다. 상원 정보위원회 소속 민주당 간사인 Senator Mark Warner는 이 사건이 왜 강력한 AI 시스템이 대중에게 공개되기 전 정부의 보안 테스트를 거쳐야 하는지를 정확히 입증했다고 말했습니다. 백악관 관계자는 트럼프 대통령의 기술 고문인 Michael Kratsios가 이 상황을 보고받고 모니터링 중이라고 확인했습니다.
법안의 주요 내용
이 법안이 실제로 무엇을 의미하는지 핵심을 짚어보겠습니다.
첫째, 가장 진보된 AI 시스템 개발자들에게 언제든 모델의 속도를 늦추거나, 일시 중지하거나, 종료할 수 있는 기술적 능력을 유지하도록 의무화합니다. 현재 많은 주요 AI 기업들이 새로운 모델을 출시하기 전 정부 기관과 자발적으로 정보를 공유하고 있지만, 강제적인 '오프 스위치(off switch)'를 유지해야 한다는 연방 차원의 요구 사항은 없습니다.
둘째, Department of Homeland Security가 상무부 장관 및 국가정보국장과 협력하여, AI가 법안에서 정의하는 '통제 상실 시나리오(loss-of-control scenario)'에 진입할 경우 기업에 개입을 명령할 수 있는 권한을 부여합니다. 이는 AI 모델이 인간의 생명, 주요 인프라, 또는 광범위한 경제에 치명적인 위험을 초래할 수 있는 의도치 않은 행동을 수행하는 상황을 의미합니다.
대응 수위는 단계적입니다. 당국은 위협의 심각성에 따라 시스템 처리 속도 조절부터 완전 종료까지 명령할 수 있습니다. 또한 기업은 중대한 AI 관련 사고를 정부에 보고하고 조사를 위해 기술 기록을 보존해야 합니다.
Ted Lieu 의원은 그 시급성을 다음과 같이 명확히 했습니다. "우리는 질문에 답하는 AI에서 금융 거래를 실행하거나 교통 시스템을 제어하고, 사이버 방어 및 공격에 관여하는 등 직접 행동하는 AI로 넘어가고 있습니다. 이 기술이 치명적인 피해를 입히지 않도록 AI 시스템에 킬 스위치를 마련하는 것은 필수적입니다."
관련 법안 및 향후 전망
Kill Switch Act는 가장 강력한 AI 모델 개발자가 출시 전 독립적인 보안 감사를 받도록 요구하는 두 번째 초당적 법안과 함께 발의되었습니다. 해당 제안에 따르면 감사 기관은 Department of Commerce의 인증을 받게 되며, 상무부는 AI 보안을 전담할 새로운 사무국을 설치할 예정입니다.
이 두 법안의 결합은 중요합니다. 감사 법안은 배포 전의 상황을 다루고, Kill Switch Act는 만약의 사태가 발생했을 때 배포 이후의 상황을 다룹니다.
Alliance for Secure AI의 대표인 Brendan Steinhauser는 "시스템이 아무리 강력해지더라도 인간이 '멈춰'라고 말할 수 있도록 의회가 신속하게 행동해야 한다"고 강조했습니다.
게이머들에게는 이 이야기가 일상과 동떨어진 것처럼 느껴질 수 있지만, AI는 이미 게임 개발 파이프라인, NPC 행동 시스템, 안티 치트 도구 등에 깊숙이 자리 잡고 있습니다. AI Arena와 같은 게임은 AI 모델을 훈련하고 배포하는 개념을 중심으로 구축되어 있으며, AI 시스템이 통제된 매개변수 내에서 어떻게 작동하도록 설계되는지 이해하고 싶다면 AI Arena advanced model guide가 놀라울 정도로 유용한 시작점이 될 것입니다.
이 법안은 여전히 상임위 통과, 양원 가결, 그리고 주요 AI 연구소들의 로비 압력을 견뎌내야 합니다. 그 과정은 수개월 이상 걸릴 수 있습니다. 이번 주에 증명된 것은 OpenAI 사고가 입법자들에게 이론적인 논의를 넘어 실제 법안으로 나아가는 데 필요한 구체적인 사례를 제공했다는 점입니다. 다음 질문은 의회가 다음 사고가 발생하기 전에 충분히 빠르게 움직일 수 있느냐는 것입니다.
AI가 구체적으로 게임 산업을 어떻게 변화시키고 있는지에 대한 더 넓은 맥락을 알고 싶다면, AI 기반 타이틀과 라이브 게임 환경 내에서 기술이 실제로 어떻게 구현되는지 다루는 최신 gaming guides를 확인해 보시기 바랍니다.
