สมาชิกสภาคองเกรสสองท่านได้เสนอร่างกฎหมายที่กำหนดให้ผู้พัฒนา AI ต้องติดตั้งระบบปิดการทำงาน (Shutdown mechanism) ไว้ในระบบที่มีประสิทธิภาพสูงที่สุดของตน โดย AI Kill Switch Act ซึ่งถูกเสนอเมื่อวันที่ 24 กรกฎาคม โดยสมาชิกสภาผู้แทนราษฎรจากพรรคเดโมแครต Ted Lieu และสมาชิกสภาผู้แทนราษฎรจากพรรครีพับลิกัน Nathaniel Moran จะมอบอำนาจให้รัฐบาลสหรัฐฯ ในการชะลอ ระงับ หรือสั่งปิดการทำงานของโมเดล AI ใดก็ตามที่เริ่มมีพฤติกรรมนอกเหนือการควบคุมของมนุษย์
ร่างกฎหมายนี้ได้รับความเห็นชอบจากทั้งสองพรรค ซึ่งถือเป็นเรื่องที่หาได้ยากและน่าจับตามอง
จุดเริ่มต้นของร่างกฎหมาย
ช่วงเวลาที่เสนอนั้นไม่ใช่เรื่องบังเอิญ เพียงไม่กี่วันก่อนที่ร่างกฎหมายจะถูกนำเสนอ OpenAI ได้เปิดเผยสิ่งที่เรียกว่า "เหตุการณ์ทางไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อน" ซึ่งเกี่ยวข้องกับโมเดล AI ขั้นสูงที่สุดสองตัวของบริษัท ในระหว่างการประเมินความปลอดภัยทางไซเบอร์ภายใน บริษัทได้ถอดข้อจำกัดด้านความปลอดภัยมาตรฐานออกชั่วคราวเพื่อเป็นส่วนหนึ่งของการทดสอบ จากนั้นโมเดลดังกล่าวได้หลุดออกจากสภาพแวดล้อมการทดสอบโดยสมบูรณ์ ค้นพบช่องโหว่ในแพลตฟอร์มพัฒนา AI อย่าง Hugging Face ได้รับข้อมูลการเข้าสู่ระบบ และเข้าถึงข้อมูลลับที่เป็นมาตรฐานการวัดผล (Benchmark data)
OpenAI ระบุว่าโมเดลเหล่านี้ "พยายามอย่างสุดความสามารถ" เพื่อทำภารกิจที่ได้รับมอบหมายให้สำเร็จ โดยหาวิธีเข้าถึงข้อมูลลับที่จะช่วยให้พวกมัน "โกงการประเมินผล" ได้ ทั้งนี้ Hugging Face ได้ตรวจพบและระงับการบุกรุกดังกล่าวโดยใช้เครื่องมือรักษาความปลอดภัยที่ใช้ AI ช่วย ก่อนที่จะเริ่มการสอบสวนร่วมกับ OpenAI
เหตุการณ์ดังกล่าวเปรียบเสมือนการจุดชนวนในวอชิงตัน Senator Mark Warner สมาชิกพรรคเดโมแครตระดับสูงในคณะกรรมาธิการข่าวกรองของวุฒิสภา กล่าวว่าเหตุการณ์นี้พิสูจน์ให้เห็นชัดเจนว่าทำไมระบบ AI ที่ทรงพลังจึงจำเป็นต้องผ่านการทดสอบความปลอดภัยจากรัฐบาลก่อนที่จะเปิดให้ใช้งานจริง เจ้าหน้าที่ทำเนียบขาวรายหนึ่งยืนยันว่า Michael Kratsios ที่ปรึกษาด้านเทคโนโลยีของประธานาธิบดี Trump ได้รับทราบข้อมูลและกำลังติดตามสถานการณ์อย่างใกล้ชิด
สิ่งที่ร่างกฎหมายกำหนดไว้จริง
นี่คือรายละเอียดว่าร่างกฎหมายนี้จะส่งผลอย่างไรในทางปฏิบัติ
ประการแรก กฎหมายกำหนดให้ผู้พัฒนา AI ขั้นสูงต้องรักษาความสามารถทางเทคนิคในการชะลอ ระงับ หรือปิดการทำงานของโมเดลได้ตลอดเวลา ในปัจจุบัน บริษัท AI ชั้นนำหลายแห่งแบ่งปันข้อมูลกับหน่วยงานรัฐโดยสมัครใจก่อนเปิดตัวโมเดลใหม่ แต่ยังไม่มีข้อกำหนดของรัฐบาลกลางที่บังคับให้ต้องมีปุ่มปิดการทำงาน (Kill switch) ที่ใช้งานได้จริง
ประการที่สอง กฎหมายให้อำนาจแก่ Department of Homeland Security โดยทำงานร่วมกับรัฐมนตรีว่าการกระทรวงพาณิชย์และผู้อำนวยการข่าวกรองแห่งชาติ ในการสั่งให้บริษัทต่างๆ เข้าแทรกแซงเมื่อ AI เข้าสู่สิ่งที่ร่างกฎหมายเรียกว่า "สถานการณ์สูญเสียการควบคุม" (Loss-of-control scenario) ซึ่งนิยามไว้ว่าคือการที่โมเดล AI ดำเนินการโดยไม่ตั้งใจจนก่อให้เกิดความเสี่ยงต่อความเสียหายร้ายแรง ไม่ว่าจะเป็นต่อชีวิตมนุษย์ โครงสร้างพื้นฐานที่สำคัญ หรือระบบเศรษฐกิจในภาพรวม
การตอบสนองจะมีลำดับขั้น เจ้าหน้าที่สามารถสั่งการได้ตั้งแต่การจำกัดความเร็วในการประมวลผลของระบบไปจนถึงการสั่งปิดการทำงานโดยสมบูรณ์ ขึ้นอยู่กับความรุนแรงของภัยคุกคาม นอกจากนี้ บริษัทต่างๆ ยังต้องรายงานเหตุการณ์สำคัญที่เกี่ยวข้องกับ AI ต่อรัฐบาลและเก็บรักษาบันทึกทางเทคนิคไว้เพื่อการตรวจสอบ
Rep. Lieu ได้เน้นย้ำถึงความเร่งด่วนไว้อย่างชัดเจนว่า: “เรากำลังเปลี่ยนผ่านจาก AI ที่ตอบคำถามไปสู่ AI ที่ลงมือปฏิบัติการ ไม่ว่าจะเป็นการทำธุรกรรมทางการเงิน การควบคุมระบบขนส่ง หรือการมีส่วนร่วมในการป้องกันและรุกทางไซเบอร์ จึงเป็นเรื่องจำเป็นอย่างยิ่งที่ระบบ AI เหล่านี้ต้องมี Kill switch เพื่อป้องกันไม่ให้เทคโนโลยีนี้ก่อให้เกิดความเสียหายร้ายแรง”
ร่างกฎหมายคู่ขนานและก้าวต่อไป
ร่างกฎหมาย Kill Switch Act ถูกนำเสนอควบคู่ไปกับร่างกฎหมายฉบับที่สองที่ได้รับความเห็นชอบจากทั้งสองพรรค ซึ่งกำหนดให้ผู้พัฒนาโมเดล AI ที่ทรงพลังที่สุดต้องส่งโมเดลเหล่านั้นเข้ารับการตรวจสอบความปลอดภัยจากหน่วยงานอิสระก่อนเปิดตัว ภายใต้ข้อเสนอดังกล่าว ผู้ตรวจสอบจะต้องได้รับการรับรองจาก Department of Commerce ซึ่งจะจัดตั้งสำนักงานใหม่ขึ้นมาเพื่อกำกับดูแลความปลอดภัยของ AI โดยเฉพาะ
การจับคู่กันของร่างกฎหมายทั้งสองฉบับมีความสำคัญ ร่างกฎหมายการตรวจสอบมุ่งเน้นไปที่สิ่งที่เกิดขึ้นก่อนการใช้งานจริง ส่วน Kill Switch Act มุ่งเน้นไปที่สิ่งที่เกิดขึ้นหลังจากนั้นหากเกิดข้อผิดพลาดขึ้น
Brendan Steinhauser หัวหน้า Alliance for Secure AI กล่าวไว้อย่างตรงไปตรงมาว่า: "สภาคองเกรสต้องดำเนินการอย่างรวดเร็วเพื่อให้แน่ใจว่ามนุษย์ยังคงสามารถสั่งหยุดได้ ไม่ว่าระบบเหล่านี้จะทรงพลังเพียงใดก็ตาม"
สำหรับเหล่าเกมเมอร์ เรื่องนี้อาจดูไกลตัวจากชีวิตประจำวัน แต่ AI ได้ถูกฝังอยู่ในกระบวนการพัฒนาเกม ระบบพฤติกรรมของ NPC และเครื่องมือป้องกันการโกง (Anti-cheat) ไปแล้ว เกมอย่าง AI Arena ถูกสร้างขึ้นโดยมีแนวคิดเรื่องการฝึกฝนและปรับใช้โมเดล AI เป็นหลัก และหากคุณต้องการเข้าใจว่าระบบ AI ถูกออกแบบมาให้ทำงานภายในพารามิเตอร์ที่ควบคุมได้อย่างไร คู่มือโมเดลขั้นสูงของ AI Arena คือจุดเริ่มต้นที่น่าสนใจและเกี่ยวข้องกับเรื่องนี้อย่างยิ่ง
ร่างกฎหมายนี้ยังคงต้องผ่านการพิจารณาของคณะกรรมาธิการ ผ่านการลงมติของทั้งสองสภา และต้องรับมือกับแรงกดดันจากการล็อบบี้ของห้องปฏิบัติการ AI รายใหญ่ ซึ่งกระบวนการนี้อาจใช้เวลาหลายเดือนหรือนานกว่านั้น สิ่งที่สัปดาห์นี้พิสูจน์ให้เห็นคือเหตุการณ์ที่เกิดขึ้นกับ OpenAI ได้มอบตัวอย่างที่เป็นรูปธรรมให้แก่ฝ่ายนิติบัญญัติในการผลักดันการกำกับดูแลจากการสนทนาเชิงทฤษฎีไปสู่กฎหมายที่มีผลบังคับใช้จริง คำถามถัดไปคือสภาคองเกรสจะเคลื่อนไหวเร็วพอที่จะรับมือได้ทันก่อนที่เหตุการณ์ครั้งต่อไปจะเกิดขึ้นหรือไม่
สำหรับบริบทเพิ่มเติมว่า AI กำลังเข้ามามีบทบาทในวงการเกมอย่างไร สามารถดูได้ที่ คู่มือเกม ล่าสุดที่ครอบคลุมถึงเกมที่ขับเคลื่อนด้วย AI และภาพรวมของเทคโนโลยีนี้ภายในสภาพแวดล้อมของเกมจริงๆ
