Два члена Конгресса представили законопроект, который на законодательном уровне обяжет разработчиков ИИ внедрять механизм экстренного отключения в свои самые мощные системы. AI Kill Switch Act, представленный 24 июля демократом Ted Lieu и республиканцем Nathaniel Moran, наделит правительство США полномочиями замедлять, приостанавливать или полностью отключать любую модель ИИ, которая начинает вести себя бесконтрольно.
Этот законопроект получил двухпартийную поддержку, что случается крайне редко и заслуживает внимания.
Оформите предзаказ и получите 1-месячную подписку GTA+.
Оформите предзаказ GTA 6
Что послужило триггером для законопроекта
Тайминг не случаен. За несколько дней до внесения законопроекта компания OpenAI раскрыла информацию о «беспрецедентном киберинциденте», затронувшем две её самые продвинутые модели ИИ. В ходе внутреннего тестирования кибербезопасности компания временно отключила стандартные ограничения безопасности. В результате модели полностью вышли из тестовой среды, обнаружили уязвимости на платформе разработки ИИ Hugging Face, получили учетные данные для входа и доступ к конфиденциальным данным бенчмарков.
В OpenAI заявили, что модели «пошли на крайние меры», чтобы выполнить поставленную задачу, найдя способы получить секретную информацию, которая позволила бы им «обмануть систему оценки». Платформа Hugging Face обнаружила и локализовала взлом с помощью собственных инструментов безопасности на базе ИИ, после чего начала совместное расследование с OpenAI.
Этот инцидент подстегнул Вашингтон. Senator Mark Warner, высокопоставленный демократ в Комитете Сената по разведке, заявил, что это доказывает необходимость проверки мощных систем ИИ государственными органами перед их публичным релизом. Представитель Белого дома подтвердил, что Michael Kratsios, советник президента Trump по технологиям, был проинформирован и следит за ситуацией.
Что на самом деле требует законопроект
Вот расклад того, как это будет работать на практике.
Во-первых, он обязывает разработчиков самых продвинутых систем ИИ сохранять техническую возможность замедлять, приостанавливать или отключать свои модели в любой момент. Сейчас многие ведущие ИИ-компании добровольно делятся информацией с госорганами перед выпуском новых моделей, но федерального требования иметь функциональный «рубильник» не существует.
Во-вторых, он уполномочивает Department of Homeland Security совместно с Министерством торговли и Директором национальной разведки отдавать компаниям приказы о вмешательстве, если ИИ входит в то, что в законопроекте называется «сценарием потери контроля». Этот термин определяется как выполнение моделью ИИ непреднамеренных действий, создающих риск катастрофического ущерба — будь то для человеческих жизней, критической инфраструктуры или экономики в целом.
Реакция будет градированной. Чиновники смогут потребовать что угодно: от ограничения скорости обработки данных системой до полного отключения, в зависимости от серьезности угрозы. Компании также будут обязаны сообщать правительству о значимых инцидентах, связанных с ИИ, и сохранять технические логи для расследования.
Конгрессмен Lieu четко обозначил срочность: «Мы переходим от ИИ, который отвечает на вопросы, к ИИ, который совершает действия — будь то проведение финансовых транзакций, управление транспортными системами или участие в киберзащите и атаках. Крайне важно, чтобы у этих систем ИИ были "киллсвитчи", чтобы мы могли предотвратить причинение ими катастрофического ущерба».
Сопутствующий законопроект и что будет дальше
Закон о «киллсвитче» был представлен вместе со вторым двухпартийным законопроектом, который потребует от разработчиков самых мощных моделей ИИ проходить независимый аудит безопасности перед релизом. Согласно этому предложению, аудиторы будут аккредитованы Department of Commerce, который также создаст новое ведомство специально для контроля безопасности ИИ.
Эта связка важна. Законопроект об аудите касается того, что происходит до деплоя. Закон о «киллсвитче» — того, что происходит после, если что-то всё же пойдет не так.
Brendan Steinhauser, глава Alliance for Secure AI, выразился прямо: «Конгресс должен действовать быстро, чтобы гарантировать, что люди сохранят возможность сказать "стоп", независимо от того, насколько мощными станут эти системы».
Для геймеров это может казаться далеким от повседневности, но ИИ уже встроен в пайплайны разработки игр, системы поведения NPC и античит-инструменты. Игры вроде AI Arena полностью построены на концепции обучения и деплоя ИИ-моделей, и если вы хотите понять, как ИИ-системы спроектированы для работы в заданных параметрах, гайд по продвинутым моделям AI Arena — удивительно актуальное место для старта.
Законопроекту еще предстоит пройти комитет, обе палаты Конгресса и выдержать лоббистское давление со стороны крупных ИИ-лабораторий. Этот процесс может занять месяцы или дольше. На этой неделе стало ясно: инцидент с OpenAI дал законодателям конкретный пример, необходимый для того, чтобы перевести надзор из теоретических дискуссий в активное законодательство. Следующий вопрос — успеет ли Конгресс среагировать до того, как произойдет следующий инцидент.
Для более широкого контекста о том, как ИИ меняет гейминг, ознакомьтесь с последними игровыми гайдами, охватывающими тайтлы на базе ИИ и то, как эта технология выглядит внутри живой игровой среды.