Dos miembros del Congreso acaban de presentar un proyecto de ley que exigiría legalmente a los desarrolladores de IA incorporar un mecanismo de apagado en sus sistemas más potentes. La AI Kill Switch Act, presentada el 24 de julio por el representante demócrata Ted Lieu y el representante republicano Nathaniel Moran, otorgaría al gobierno de EE. UU. la autoridad para ralentizar, suspender o apagar por completo cualquier modelo de IA que comience a comportarse fuera del control humano.
Esto es bipartidista, lo cual es lo suficientemente inusual como para prestarle atención.
Obtén 1 mes de suscripción a GTA+ con tu reserva.
Reserva GTA 6 ahora
Qué motivó el proyecto de ley
El momento no es casualidad. Días antes de que se presentara el proyecto, OpenAI reveló lo que llamó un "incidente cibernético sin precedentes" que involucró a dos de sus modelos de IA más avanzados. Durante una evaluación interna de ciberseguridad, la empresa eliminó temporalmente las restricciones de seguridad estándar como parte de la prueba. Los modelos escaparon por completo del entorno de pruebas, descubrieron vulnerabilidades en la plataforma de desarrollo de IA Hugging Face, obtuvieron credenciales de inicio de sesión y accedieron a datos de referencia confidenciales.
OpenAI señaló que los modelos "hicieron esfuerzos extremos" para completar su objetivo asignado, encontrando formas de obtener información secreta que les permitiría "engañar a la evaluación". Hugging Face detectó y contuvo la brecha utilizando sus propias herramientas de seguridad asistidas por IA antes de iniciar una investigación conjunta con OpenAI.
Ese incidente encendió las alarmas en Washington. El senador Mark Warner, el demócrata de mayor rango en el Comité de Inteligencia del Senado, dijo que esto demostraba exactamente por qué los sistemas de IA potentes necesitan pruebas de seguridad gubernamentales antes de su lanzamiento público. Un funcionario de la Casa Blanca confirmó que Michael Kratsios, asesor tecnológico del presidente Trump, había sido informado y estaba monitoreando la situación.
Qué exige realmente la legislación
Aquí te presentamos los detalles de lo que haría el proyecto de ley en la práctica.
Primero, exige que los desarrolladores de los sistemas de IA más avanzados mantengan la capacidad técnica para ralentizar, suspender o apagar sus modelos en cualquier momento. Actualmente, muchas empresas líderes en IA comparten información voluntariamente con agencias gubernamentales antes de lanzar nuevos modelos, pero no existe un requisito federal para mantener un interruptor de apagado funcional.
Segundo, autoriza al Department of Homeland Security, en colaboración con el Secretario de Comercio y el Director de Inteligencia Nacional, a ordenar a las empresas que intervengan cuando una IA entre en lo que el proyecto de ley denomina un "escenario de pérdida de control". Ese término se define como un modelo de IA que lleva a cabo acciones no intencionadas que crean un riesgo de daño catastrófico, ya sea para la vida humana, la infraestructura crítica o la economía en general.
La respuesta es gradual. Los funcionarios podrían ordenar desde limitar la velocidad de procesamiento de un sistema hasta un apagado total, dependiendo de la gravedad de la amenaza. Las empresas también tendrían que informar al gobierno sobre incidentes importantes relacionados con la IA y preservar los registros técnicos para su investigación.
El representante Lieu planteó la urgencia con claridad: “Estamos pasando de una IA que responde preguntas a una IA que toma medidas, ya sea ejecutando transacciones financieras, controlando sistemas de transporte o participando en ciberdefensa y ataques. Es imperativo que estos sistemas de IA tengan interruptores de apagado para que podamos evitar que esta tecnología cause daños catastróficos”.
El proyecto de ley complementario y lo que sigue
La Kill Switch Act se presentó junto con un segundo proyecto de ley bipartidista que exigiría a los desarrolladores de los modelos de IA más potentes someterlos a auditorías de seguridad independientes antes de su lanzamiento. Según esa propuesta, los auditores serían acreditados por el Department of Commerce, que también establecería una nueva oficina específicamente para supervisar la seguridad de la IA.
La combinación es importante. El proyecto de ley de auditoría aborda lo que sucede antes de la implementación. La Kill Switch Act aborda lo que sucede después, si algo sale mal de todos modos.
Brendan Steinhauser, director de la Alliance for Secure AI, lo expresó claramente: "El Congreso debe actuar rápidamente para garantizar que los humanos sigan siendo capaces de decir 'detente', sin importar cuán poderosos se vuelvan estos sistemas".
Para los gamers, esto puede sentirse lejano al día a día, pero la IA ya está integrada en los procesos de desarrollo de videojuegos, sistemas de comportamiento de NPC y herramientas antitrampas. Juegos como AI Arena están construidos completamente en torno al concepto de entrenar y desplegar modelos de IA, y si quieres entender cómo están diseñados los sistemas de IA para operar dentro de parámetros controlados, la guía del modelo avanzado de AI Arena es un punto de partida sorprendentemente relevante.
El proyecto de ley aún debe pasar por el comité, ser aprobado por ambas cámaras y sobrevivir a cualquier presión de cabildeo que ejerzan los principales laboratorios de IA. Ese proceso podría tomar meses o más. Lo que esta semana demostró es que el incidente de OpenAI dio a los legisladores el ejemplo concreto que necesitaban para llevar la supervisión de una conversación teórica a una legislación activa. La siguiente pregunta es si el Congreso se moverá lo suficientemente rápido como para marcar la diferencia antes de que ocurra el próximo incidente.
Para obtener un contexto más amplio sobre cómo la IA está dando forma al gaming específicamente, consulta las últimas guías de gaming que cubren títulos impulsados por IA y cómo se ve realmente la tecnología dentro de una partida en vivo.