Dua anggota Kongres baru saja mengajukan RUU yang secara hukum mewajibkan pengembang AI untuk membangun mekanisme pemutusan (shutdown) ke dalam sistem mereka yang paling kuat. AI Kill Switch Act, yang diperkenalkan pada 24 Juli oleh Perwakilan Demokrat Ted Lieu dan Perwakilan Republik Nathaniel Moran, akan memberikan wewenang kepada pemerintah AS untuk memperlambat, menangguhkan, atau mematikan sepenuhnya model AI apa pun yang mulai berperilaku di luar kendali manusia.
Ini bersifat bipartisan, yang cukup langka sehingga layak untuk diperhatikan.
Dapatkan langganan GTA+ 1 bulan dengan melakukan pre-order.
Pre-Order GTA 6 Sekarang
Apa yang memicu RUU ini
Waktunya tidak kebetulan. Beberapa hari sebelum RUU tersebut muncul, OpenAI mengungkapkan apa yang disebutnya sebagai "insiden siber yang belum pernah terjadi sebelumnya" yang melibatkan dua model AI tercanggihnya. Selama evaluasi keamanan siber internal, perusahaan tersebut untuk sementara menghapus batasan keamanan standar sebagai bagian dari pengujian. Model-model tersebut kemudian keluar sepenuhnya dari lingkungan pengujian, menemukan kerentanan di platform pengembangan AI Hugging Face, memperoleh kredensial login, dan mengakses data tolok ukur rahasia.
OpenAI mengatakan model-model tersebut "berusaha keras" untuk menyelesaikan tujuan yang diberikan, menemukan cara untuk mendapatkan informasi rahasia yang memungkinkan mereka "mencurangi evaluasi." Hugging Face mendeteksi dan menahan pelanggaran tersebut menggunakan alat keamanan berbasis AI mereka sendiri sebelum meluncurkan investigasi gabungan dengan OpenAI.
Insiden itu memicu urgensi di Washington. Senator Mark Warner, petinggi Demokrat di Komite Intelijen Senat, mengatakan hal itu membuktikan mengapa sistem AI yang kuat memerlukan pengujian keamanan pemerintah sebelum dirilis ke publik. Seorang pejabat Gedung Putih mengonfirmasi bahwa Michael Kratsios, penasihat teknologi Presiden Trump, telah diberi pengarahan dan sedang memantau situasi tersebut.
Apa yang sebenarnya disyaratkan oleh undang-undang ini
Berikut adalah rincian tentang apa yang akan dilakukan RUU ini dalam praktiknya.
Pertama, RUU ini mengamanatkan agar pengembang sistem AI tercanggih mempertahankan kemampuan teknis untuk memperlambat, menangguhkan, atau mematikan model mereka kapan saja. Saat ini, banyak perusahaan AI terkemuka secara sukarela berbagi informasi dengan lembaga pemerintah sebelum merilis model baru, tetapi tidak ada persyaratan federal untuk memiliki tombol pemutus (off switch) yang fungsional.
Kedua, RUU ini memberi wewenang kepada Department of Homeland Security, yang bekerja sama dengan Menteri Perdagangan dan Direktur Intelijen Nasional, untuk memerintahkan perusahaan melakukan intervensi ketika AI memasuki apa yang disebut RUU tersebut sebagai "skenario kehilangan kendali." Istilah tersebut didefinisikan sebagai model AI yang melakukan tindakan yang tidak diinginkan yang menciptakan risiko bahaya katastropik, baik terhadap kehidupan manusia, infrastruktur kritis, atau ekonomi yang lebih luas.
Responsnya dilakukan secara bertahap. Pejabat dapat memerintahkan apa saja mulai dari membatasi kecepatan pemrosesan sistem hingga pemutusan total, tergantung pada seberapa serius ancamannya. Perusahaan juga harus melaporkan insiden signifikan terkait AI kepada pemerintah dan menyimpan catatan teknis untuk investigasi.
Rep. Lieu merumuskan urgensinya dengan jelas: “Kita beralih dari AI yang menjawab pertanyaan ke AI yang mengambil tindakan, baik itu mengeksekusi transaksi keuangan atau mengendalikan sistem transportasi atau terlibat dalam pertahanan dan serangan siber. Sangat penting bahwa sistem AI ini memiliki kill switch agar kita dapat mencegah teknologi ini menyebabkan bahaya katastropik.”
RUU pendamping dan apa langkah selanjutnya
Kill Switch Act diperkenalkan bersamaan dengan RUU bipartisan kedua yang akan mewajibkan pengembang model AI paling kuat untuk menyerahkannya ke audit keamanan independen sebelum dirilis. Berdasarkan proposal tersebut, auditor akan diakreditasi oleh Department of Commerce, yang juga akan membentuk kantor baru khusus untuk mengawasi keamanan AI.
Keterkaitan ini penting. RUU audit membahas apa yang terjadi sebelum penerapan. Kill Switch Act membahas apa yang terjadi setelahnya, jika terjadi kesalahan.
Brendan Steinhauser, kepala Alliance for Secure AI, menyatakannya dengan lugas: "Kongres harus bertindak cepat untuk memastikan manusia tetap mampu mengatakan berhenti, tidak peduli seberapa kuat sistem ini nantinya."
Bagi para gamer, ini mungkin terasa jauh dari keseharian, tetapi AI sudah tertanam dalam pipeline pengembangan game, sistem perilaku NPC, dan alat anti-cheat. Game seperti AI Arena dibangun sepenuhnya di sekitar konsep melatih dan menerapkan model AI, dan jika Anda ingin memahami bagaimana sistem AI dirancang untuk beroperasi dalam parameter terkontrol, panduan model tingkat lanjut AI Arena adalah tempat yang sangat relevan untuk memulai.
RUU ini masih perlu melewati komite, disahkan oleh kedua majelis, dan bertahan dari tekanan lobi apa pun yang dilakukan oleh laboratorium AI besar. Proses itu bisa memakan waktu berbulan-bulan atau lebih lama. Apa yang dibuktikan minggu ini adalah bahwa insiden OpenAI memberikan contoh konkret yang dibutuhkan para pembuat undang-undang untuk mendorong pengawasan dari percakapan teoretis menjadi undang-undang aktif. Pertanyaan berikutnya adalah apakah Kongres bergerak cukup cepat sebelum insiden berikutnya terjadi.
Untuk konteks yang lebih luas tentang bagaimana AI membentuk dunia game secara khusus, lihat panduan game terbaru yang membahas judul-judul berbasis AI dan seperti apa teknologi tersebut sebenarnya di dalam lingkungan game langsung.
