OpenAI Memperincikan Langkah Keselamatan AI dalam Kontrak Pertahanan AS Baharu

Sorotan Utama Perjanjian

OpenAI telah mengesahkan perjanjian dengan Pentagon untuk menggunakan teknologi kecerdasan buatannya pada rangkaian sulit jabatan pertahanan A.S. Syarikat itu menyatakan perjanjian tersebut merangkumi perlindungan tambahan, mendakwa ia mempunyai lebih banyak garis panduan perlindungan berbanding mana-mana perjanjian sebelumnya untuk penempatan AI sulit.

Perkembangan ini menyusuli arahan kepada kerajaan untuk menghentikan kerjasama dengan pesaing Anthropic, yang mana Pentagon dijangka akan mengisytiharkan sebagai risiko rantaian bekalan.

Gambaran Keseluruhan Perlindungan AI

Kontrak ini menguatkuasakan tiga garis merah khusus mengenai penggunaan teknologi OpenAI. Ia tidak boleh digunakan untuk pengawasan domestik secara besar-besaran, untuk mengarahkan sistem senjata autonomi, atau untuk sebarang keputusan automatik berisiko tinggi.

OpenAI menggambarkan langkah perlindungannya sebagai pendekatan pelbagai lapisan. Syarikat itu mengekalkan budi bicara penuh ke atas timbunan keselamatannya, menggunakan teknologi melalui awan, memastikan kakitangan OpenAI yang telah diberi kelulusan terlibat, dan dilindungi oleh klausa kontrak yang kukuh.

Konteks Industri dan Landskap Persaingan

Pentagon telah terlibat secara aktif dengan makmal AI utama sepanjang tahun lalu, menandatangani perjanjian bernilai sehingga $200 juta setiap satu dengan firma termasuk Anthropic, OpenAI, dan Google. Jabatan itu bertujuan untuk mengekalkan fleksibiliti dalam aplikasi pertahanan tanpa dibatasi oleh amaran daripada pencipta AI.

Dalam kenyataan berkaitan, OpenAI juga menyatakan pendiriannya bahawa pesaing Anthropic tidak seharusnya dilabel sebagai “risiko rantaian bekalan,” menunjukkan ia telah menyampaikan pendirian ini kepada kerajaan.

Ringkasan dan Tinjauan

Perjanjian OpenAI dengan Jabatan Pertahanan menekankan peningkatan integrasi AI canggih ke dalam operasi kerajaan yang sensitif, diimbangi oleh kerangka etika yang dinyatakan secara terbuka. Syarikat itu telah memasukkan klausa penamatan untuk sebarang pelanggaran kontrak oleh kerajaan, walaupun ia tidak menjangka ini akan berlaku. Pasaran akan memerhatikan bagaimana langkah perlindungan kontrak ini berfungsi dalam amalan apabila penggunaan AI dalam pertahanan terus meningkat.

Soalan Lazim

S: Apakah sekatan utama OpenAI dalam perjanjian Pentagon?
J: Teknologi itu tidak boleh digunakan untuk pengawasan domestik secara besar-besaran, untuk mengarahkan senjata autonomi, atau untuk keputusan automatik berisiko tinggi.

S: Bagaimana OpenAI mendakwa perjanjiannya berbeza?
J: OpenAI menyatakan perjanjiannya mempunyai lebih banyak garis panduan perlindungan melalui pendekatan pelbagai lapisan, memberikannya kawalan ke atas timbunan keselamatannya dan termasuk perlindungan kontrak yang kukuh.

S: Berapakah nilai kontrak AI Pentagon ini?
J: Pentagon telah menandatangani perjanjian bernilai sehingga $200 juta setiap satu dengan makmal AI utama seperti OpenAI, Anthropic, dan Google.

Sumber: Investing.com