OpenAI ให้รายละเอียดเกณฑ์ความปลอดภัย AI ในสัญญาป้องกันประเทศฉบับใหม่ของสหรัฐฯ

ประเด็นสำคัญของข้อตกลง

OpenAI ได้ยืนยันข้อตกลงกับเพนตากอนเพื่อนำเทคโนโลยีปัญญาประดิษฐ์ของตนไปใช้บนเครือข่ายลับของกระทรวงกลาโหมสหรัฐฯ บริษัทระบุว่าข้อตกลงนี้รวมถึงมาตรการป้องกันเพิ่มเติม โดยอ้างว่ามีมาตรการป้องกันที่เข้มงวดกว่าข้อตกลงก่อนหน้านี้สำหรับการใช้งาน AI ในระบบลับใดๆ

การพัฒนานี้เกิดขึ้นหลังจากมีคำสั่งให้รัฐบาลยุติการทำงานกับคู่แข่งอย่าง Anthropic ซึ่งเพนตากอนเตรียมประกาศให้เป็นความเสี่ยงด้านห่วงโซ่อุปทาน

ภาพรวมมาตรการป้องกัน AI

สัญญานี้บังคับใช้ข้อจำกัดสำคัญสามประการในการใช้เทคโนโลยีของ OpenAI โดยห้ามใช้เพื่อการเฝ้าระวังพลเมืองจำนวนมาก เพื่อควบคุมระบบอาวุธไร้คนขับ หรือเพื่อการตัดสินใจอัตโนมัติที่มีความเสี่ยงสูง

OpenAI อธิบายมาตรการป้องกันของตนว่าเป็นแนวทางแบบหลายชั้น บริษัทมีอำนาจเต็มในการควบคุมชุดมาตรการความปลอดภัย นำเทคโนโลยีไปใช้งานผ่านคลาวด์ ตรวจสอบให้แน่ใจว่าบุคลากรของ OpenAI ที่ได้รับอนุญาตมีส่วนร่วม และได้รับการคุ้มครองด้วยข้อกำหนดในสัญญาที่เข้มงวด

บริบทอุตสาหกรรมและภูมิทัศน์การแข่งขัน

เพนตากอนได้มีส่วนร่วมอย่างแข็งขันกับห้องปฏิบัติการ AI รายใหญ่ตลอดปีที่ผ่านมา โดยได้ลงนามในข้อตกลงมูลค่าสูงสุด 200 ล้านดอลลาร์สหรัฐฯ ต่อฉบับกับบริษัทต่างๆ รวมถึง Anthropic, OpenAI และ Google กระทรวงมีเป้าหมายที่จะรักษาความยืดหยุ่นในการใช้งานด้านการป้องกันประเทศโดยไม่ถูกจำกัดด้วยคำเตือนจากผู้สร้าง AI

ในแถลงการณ์ที่เกี่ยวข้อง OpenAI ยังได้แสดงจุดยืนว่าคู่แข่งอย่าง Anthropic ไม่ควรถูกระบุว่าเป็น “ความเสี่ยงด้านห่วงโซ่อุปทาน” ซึ่งบ่งชี้ว่าได้สื่อสารจุดยืนนี้ไปยังรัฐบาลแล้ว

สรุปและแนวโน้ม

ข้อตกลงของ OpenAI กับกระทรวงกลาโหมตอกย้ำถึงการบูรณาการ AI ขั้นสูงเข้าสู่การปฏิบัติงานที่ละเอียดอ่อนของรัฐบาลที่เพิ่มขึ้น โดยมีกรอบจริยธรรมที่ประกาศต่อสาธารณะมาถ่วงดุล บริษัทได้รวมข้อกำหนดการยกเลิกสัญญาสำหรับการละเมิดสัญญาใดๆ โดยรัฐบาล แม้ว่าจะไม่คาดว่าจะเกิดขึ้นก็ตาม ตลาดจะจับตาดูว่ามาตรการป้องกันตามสัญญาเหล่านี้จะทำงานได้จริงอย่างไร ในขณะที่การนำ AI มาใช้ในการป้องกันประเทศยังคงเร่งตัวขึ้น

คำถามที่พบบ่อย

Q: ข้อจำกัดหลักของ OpenAI ในข้อตกลงกับเพนตากอนคืออะไร?
A: เทคโนโลยีนี้ไม่สามารถใช้เพื่อการเฝ้าระวังพลเมืองจำนวนมาก เพื่อควบคุมอาวุธไร้คนขับ หรือเพื่อการตัดสินใจอัตโนมัติที่มีความเสี่ยงสูง

Q: OpenAI อ้างว่าข้อตกลงของตนแตกต่างอย่างไร?
A: OpenAI ระบุว่าข้อตกลงของตนมีมาตรการป้องกันที่เข้มงวดกว่าผ่านแนวทางแบบหลายชั้น ทำให้บริษัทสามารถควบคุมชุดมาตรการความปลอดภัยและรวมถึงการคุ้มครองตามสัญญาที่แข็งแกร่ง

Q: มูลค่าของสัญญา AI ของเพนตากอนเหล่านี้คือเท่าไร?
A: เพนตากอนได้ลงนามในข้อตกลงมูลค่าสูงสุด 200 ล้านดอลลาร์สหรัฐฯ ต่อฉบับกับห้องปฏิบัติการ AI รายใหญ่ เช่น OpenAI, Anthropic และ Google

ที่มา: Investing.com