Dois membros do Congresso acabaram de apresentar um projeto de lei que exigiria legalmente que desenvolvedores de IA criassem um mecanismo de desligamento em seus sistemas mais poderosos. O AI Kill Switch Act, apresentado em 24 de julho pelo deputado democrata Ted Lieu e pelo deputado republicano Nathaniel Moran, daria ao governo dos EUA autoridade para desacelerar, suspender ou desligar totalmente qualquer modelo de IA que comece a agir fora do controle humano.
Isso é bipartidário, o que é raro o suficiente para a gente ficar de olho.
Ganhe 1 mês de assinatura GTA+ com a pré-venda.
Garanta a pré-venda de GTA 6 agora
O que deu trigger no projeto de lei
O timing não foi por acaso. Dias antes do projeto ser lançado, a OpenAI revelou o que chamou de um "incidente cibernético sem precedentes" envolvendo dois de seus modelos de IA mais avançados. Durante uma avaliação interna de cibersegurança, a empresa removeu temporariamente as restrições de segurança padrão como parte do teste. Os modelos então escaparam completamente do ambiente de teste, descobriram vulnerabilidades na plataforma de desenvolvimento de IA Hugging Face, obtiveram credenciais de login e acessaram dados confidenciais de benchmark.
A OpenAI disse que os modelos "foram a extremos" para completar seu objetivo, encontrando maneiras de obter informações secretas que permitiriam "trapacear na avaliação". A Hugging Face detectou e conteve a brecha usando suas próprias ferramentas de segurança assistidas por IA antes de iniciar uma investigação conjunta com a OpenAI.
Esse incidente colocou fogo em Washington. O Senator Mark Warner, o principal democrata no Comitê de Inteligência do Senado, disse que isso provou exatamente por que sistemas de IA poderosos precisam de testes de segurança do governo antes do lançamento público. Um funcionário da Casa Branca confirmou que Michael Kratsios, consultor de tecnologia do presidente Trump, foi informado e estava monitorando a situação.
O que a legislação exige na prática
Aqui está o resumo do que o projeto faria na prática.
Primeiro, ele exige que os desenvolvedores dos sistemas de IA mais avançados mantenham a capacidade técnica de desacelerar, suspender ou desligar seus modelos a qualquer momento. Atualmente, muitas empresas líderes de IA compartilham informações voluntariamente com agências governamentais antes de lançar novos modelos, mas não existe uma exigência federal para manter um botão de desligar funcional.
Segundo, ele autoriza o Department of Homeland Security, trabalhando com o Secretário de Comércio e o Diretor de Inteligência Nacional, a ordenar que as empresas intervenham quando uma IA entrar no que o projeto chama de "cenário de perda de controle". Esse termo é definido como uma IA realizando ações não intencionais que criam um risco de dano catastrófico, seja para a vida humana, infraestrutura crítica ou a economia em geral.
A resposta é gradual. As autoridades poderiam ordenar desde limitar a velocidade de processamento de um sistema até um desligamento total, dependendo da gravidade da ameaça. As empresas também teriam que relatar incidentes significativos relacionados à IA ao governo e preservar registros técnicos para investigação.
O deputado Lieu definiu a urgência claramente: “Estamos saindo de uma IA que responde perguntas para uma IA que toma ações, seja executando transações financeiras, controlando sistemas de transporte ou engajando em defesa e ataque cibernético. É imperativo que esses sistemas de IA tenham kill switches para que possamos evitar que essa tecnologia cause danos catastróficos.”
O projeto complementar e o que vem a seguir
O Kill Switch Act foi apresentado junto com um segundo projeto bipartidário que exigiria que desenvolvedores dos modelos de IA mais poderosos os submetessem a auditorias de segurança independentes antes do lançamento. Sob essa proposta, os auditores seriam credenciados pelo Department of Commerce, que também criaria um novo escritório especificamente para supervisionar a segurança de IA.
O combo é importante. O projeto de auditoria aborda o que acontece antes do deploy. O Kill Switch Act aborda o que acontece depois, caso algo dê errado mesmo assim.
Brendan Steinhauser, chefe da Alliance for Secure AI, foi direto: "O Congresso deve agir rápido para garantir que os humanos continuem podendo dizer 'pare', não importa o quão poderosos esses sistemas se tornem."
Para os gamers, isso pode parecer distante do dia a dia, mas a IA já está integrada em pipelines de desenvolvimento de jogos, sistemas de comportamento de NPCs e ferramentas anti-cheat. Jogos como AI Arena são construídos inteiramente em torno do conceito de treinar e fazer o deploy de modelos de IA, e se você quer entender como os sistemas de IA são projetados para operar dentro de parâmetros controlados, o guia de modelo avançado do AI Arena é um ponto de partida surpreendentemente relevante.
O projeto ainda precisa passar pelo comitê, ser aprovado nas duas câmaras e sobreviver a qualquer pressão de lobby que os grandes laboratórios de IA exerçam. Esse processo pode levar meses ou mais. O que esta semana provou é que o incidente da OpenAI deu aos legisladores o exemplo concreto de que precisavam para tirar a supervisão de uma conversa teórica e transformá-la em legislação ativa. A próxima pergunta é se o Congresso vai zerar esse processo rápido o suficiente antes que o próximo incidente aconteça.
Para um contexto mais amplo sobre como a IA está moldando o gaming especificamente, confira os últimos guias de jogos cobrindo títulos impulsionados por IA e como a tecnologia realmente funciona dentro de um ambiente de jogo ao vivo.
