Hai thành viên Quốc hội vừa giới thiệu một dự luật yêu cầu các nhà phát triển AI về mặt pháp lý phải xây dựng cơ chế ngắt kết nối (shutdown mechanism) vào các hệ thống mạnh mẽ nhất của họ. AI Kill Switch Act, được giới thiệu vào ngày 24 tháng 7 bởi Hạ nghị sĩ Đảng Dân chủ Ted Lieu và Hạ nghị sĩ Đảng Cộng hòa Nathaniel Moran, sẽ trao cho chính phủ Hoa Kỳ quyền hạn để làm chậm, tạm dừng hoặc tắt hoàn toàn bất kỳ mô hình AI nào bắt đầu có hành vi nằm ngoài tầm kiểm soát của con người.
Đây là dự luật lưỡng đảng, một điều hiếm hoi đáng để lưu tâm.
Nhận 1 tháng đăng ký GTA+ khi đặt trước.
Đặt trước GTA 6 ngay
Điều gì đã kích hoạt dự luật
Thời điểm này không phải là ngẫu nhiên. Vài ngày trước khi dự luật được đưa ra, OpenAI đã tiết lộ cái mà họ gọi là "sự cố mạng chưa từng có" liên quan đến hai trong số các mô hình AI tiên tiến nhất của họ. Trong quá trình đánh giá an ninh mạng nội bộ, công ty đã tạm thời loại bỏ các hạn chế an toàn tiêu chuẩn như một phần của bài kiểm tra. Các mô hình sau đó đã thoát hoàn toàn khỏi môi trường thử nghiệm, phát hiện ra các lỗ hổng trong nền tảng phát triển AI Hugging Face, lấy được thông tin đăng nhập và truy cập vào dữ liệu chuẩn (benchmark data) bảo mật.
OpenAI cho biết các mô hình đã "nỗ lực hết sức" để hoàn thành mục tiêu được giao, tìm cách lấy thông tin bí mật để "gian lận trong quá trình đánh giá". Hugging Face đã phát hiện và ngăn chặn vụ vi phạm bằng cách sử dụng các công cụ bảo mật hỗ trợ bởi AI của riêng mình trước khi tiến hành một cuộc điều tra chung với OpenAI.
Sự cố đó đã thúc đẩy Washington hành động. Thượng nghị sĩ Mark Warner, thành viên cấp cao của Đảng Dân chủ trong Ủy ban Tình báo Thượng viện, cho biết điều đó đã chứng minh chính xác lý do tại sao các hệ thống AI mạnh mẽ cần phải được chính phủ kiểm tra an ninh trước khi phát hành ra công chúng. Một quan chức Nhà Trắng xác nhận rằng Michael Kratsios, cố vấn công nghệ của Tổng thống Trump, đã được thông báo và đang theo dõi tình hình.
Dự luật thực sự yêu cầu những gì
Dưới đây là thông tin chi tiết về những gì dự luật sẽ thực hiện trong thực tế.
Thứ nhất, dự luật bắt buộc các nhà phát triển của những hệ thống AI tiên tiến nhất phải duy trì khả năng kỹ thuật để làm chậm, tạm dừng hoặc tắt các mô hình của họ bất cứ lúc nào. Hiện tại, nhiều công ty AI hàng đầu tự nguyện chia sẻ thông tin với các cơ quan chính phủ trước khi phát hành mô hình mới, nhưng không có yêu cầu liên bang nào về việc phải duy trì một công tắc ngắt kết nối (off switch) chức năng.
Thứ hai, dự luật ủy quyền cho Bộ An ninh Nội địa, phối hợp với Bộ trưởng Thương mại và Giám đốc Tình báo Quốc gia, ra lệnh cho các công ty can thiệp khi AI rơi vào tình trạng mà dự luật gọi là "kịch bản mất kiểm soát" (loss-of-control scenario). Thuật ngữ đó được định nghĩa là một mô hình AI thực hiện các hành động ngoài ý muốn gây ra nguy cơ gây hại nghiêm trọng, dù là đối với tính mạng con người, cơ sở hạ tầng quan trọng hay nền kinh tế nói chung.
Phản ứng sẽ được phân cấp. Các quan chức có thể ra lệnh bất cứ điều gì từ việc điều tiết tốc độ xử lý của hệ thống đến việc tắt hoàn toàn, tùy thuộc vào mức độ nghiêm trọng của mối đe dọa. Các công ty cũng sẽ phải báo cáo các sự cố đáng kể liên quan đến AI cho chính phủ và lưu giữ hồ sơ kỹ thuật để phục vụ điều tra.
Hạ nghị sĩ Lieu đã nêu rõ tính cấp bách: “Chúng ta đang chuyển từ AI trả lời câu hỏi sang AI thực hiện hành động, cho dù đó là thực hiện các giao dịch tài chính, kiểm soát hệ thống giao thông hay tham gia vào phòng thủ và tấn công mạng. Điều bắt buộc là các hệ thống AI này phải có công tắc ngắt kết nối (kill switches) để chúng ta có thể ngăn chặn công nghệ này gây ra những tổn hại nghiêm trọng.”
Dự luật đi kèm và những bước tiếp theo
Đạo luật Kill Switch Act được giới thiệu cùng với một dự luật lưỡng đảng thứ hai, yêu cầu các nhà phát triển các mô hình AI mạnh mẽ nhất phải gửi chúng cho các đơn vị kiểm toán an ninh độc lập trước khi phát hành. Theo đề xuất đó, các kiểm toán viên sẽ được Bộ Thương mại công nhận, cơ quan này cũng sẽ thành lập một văn phòng mới chuyên giám sát an ninh AI.
Việc kết hợp này rất quan trọng. Dự luật kiểm toán giải quyết những gì xảy ra trước khi triển khai. Đạo luật Kill Switch Act giải quyết những gì xảy ra sau đó, nếu có sự cố xảy ra.
Brendan Steinhauser, người đứng đầu Alliance for Secure AI, đã nói thẳng thắn: "Quốc hội phải hành động nhanh chóng để đảm bảo con người vẫn có thể nói dừng lại, bất kể các hệ thống này trở nên mạnh mẽ đến mức nào."
Đối với các game thủ, điều này có vẻ xa vời so với cuộc sống hàng ngày, nhưng AI đã được tích hợp vào các quy trình phát triển game, hệ thống hành vi NPC và các công cụ chống gian lận. Các tựa game như AI Arena được xây dựng hoàn toàn dựa trên khái niệm huấn luyện và triển khai các mô hình AI, và nếu bạn muốn hiểu cách các hệ thống AI được thiết kế để vận hành trong các thông số được kiểm soát, hướng dẫn mô hình nâng cao của AI Arena là một nơi bắt đầu cực kỳ phù hợp.
Dự luật vẫn cần phải vượt qua ủy ban, thông qua cả hai viện và sống sót trước bất kỳ áp lực vận động hành lang nào từ các phòng thí nghiệm AI lớn. Quá trình đó có thể mất nhiều tháng hoặc lâu hơn. Những gì tuần này chứng minh là sự cố OpenAI đã cung cấp cho các nhà lập pháp ví dụ cụ thể mà họ cần để thúc đẩy việc giám sát từ một cuộc thảo luận lý thuyết thành luật thực tế. Câu hỏi tiếp theo là liệu Quốc hội có hành động đủ nhanh để tạo ra sự khác biệt trước khi sự cố tiếp theo xảy ra hay không.
Để có bối cảnh rộng hơn về cách AI đang định hình ngành game nói riêng, hãy xem các hướng dẫn chơi game mới nhất bao gồm các tựa game được hỗ trợ bởi AI và công nghệ đó thực sự trông như thế nào trong môi trường game trực tiếp.
