OpenAI Công bố Chi tiết Hàng rào An toàn AI trong Hợp đồng Quốc phòng Mới của Mỹ

Điểm nổi bật của thỏa thuận cốt lõi

OpenAI đã xác nhận thỏa thuận với Lầu Năm Góc để triển khai công nghệ trí tuệ nhân tạo của mình trên mạng lưới mật của Bộ Quốc phòng Hoa Kỳ. Công ty tuyên bố thỏa thuận này bao gồm các biện pháp bảo vệ bổ sung, khẳng định rằng nó có nhiều rào cản bảo vệ hơn bất kỳ thỏa thuận nào trước đây cho việc triển khai AI mật.

Sự phát triển này diễn ra sau một chỉ thị yêu cầu chính phủ ngừng hợp tác với đối thủ cạnh tranh Anthropic, công ty mà Lầu Năm Góc dự kiến sẽ tuyên bố là một rủi ro chuỗi cung ứng.

Tổng quan về các biện pháp bảo vệ AI

Hợp đồng áp đặt ba giới hạn đỏ cụ thể đối với việc sử dụng công nghệ của OpenAI. Nó không thể được sử dụng để giám sát hàng loạt trong nước, để điều khiển hệ thống vũ khí tự hành, hoặc cho bất kỳ quyết định tự động có rủi ro cao nào.

OpenAI mô tả các biện pháp bảo vệ của mình là một phương pháp tiếp cận đa tầng. Công ty giữ toàn quyền kiểm soát ngăn xếp an toàn của mình, triển khai công nghệ thông qua đám mây, đảm bảo nhân sự OpenAI đã được cấp phép tham gia, và được bảo vệ bởi các điều khoản hợp đồng chặt chẽ.

Bối cảnh ngành và Cảnh quan cạnh tranh

Lầu Năm Góc đã tích cực hợp tác với các phòng thí nghiệm AI lớn trong năm qua, ký các thỏa thuận trị giá lên tới 200 triệu đô la mỗi thỏa thuận với các công ty bao gồm Anthropic, OpenAI và Google. Bộ này nhằm mục đích duy trì sự linh hoạt trong các ứng dụng quốc phòng mà không bị giới hạn bởi các cảnh báo từ các nhà sáng tạo AI.

Trong một tuyên bố liên quan, OpenAI cũng bày tỏ quan điểm rằng đối thủ Anthropic không nên bị dán nhãn là "rủi ro chuỗi cung ứng", cho thấy họ đã truyền đạt lập trường này tới chính phủ.

Tóm tắt và Triển vọng

Thỏa thuận của OpenAI với Bộ Quốc phòng nhấn mạnh sự tích hợp ngày càng tăng của AI tiên tiến vào các hoạt động nhạy cảm của chính phủ, được cân bằng bởi các khuôn khổ đạo đức đã được công bố. Công ty đã bao gồm một điều khoản chấm dứt hợp đồng cho bất kỳ vi phạm hợp đồng nào của chính phủ, mặc dù họ không mong đợi điều này sẽ xảy ra. Thị trường sẽ theo dõi cách các biện pháp bảo vệ hợp đồng này hoạt động trong thực tế khi việc áp dụng AI trong quốc phòng tiếp tục tăng tốc.

Câu hỏi thường gặp

H: Các hạn chế chính của OpenAI trong thỏa thuận với Lầu Năm Góc là gì?
Đ: Công nghệ không thể được sử dụng để giám sát hàng loạt trong nước, để điều khiển vũ khí tự hành, hoặc cho các quyết định tự động có rủi ro cao.

H: OpenAI tuyên bố thỏa thuận của mình khác biệt như thế nào?
Đ: OpenAI tuyên bố thỏa thuận của họ có nhiều rào cản bảo vệ hơn thông qua phương pháp tiếp cận đa tầng, cho phép họ kiểm soát ngăn xếp an toàn của mình và bao gồm các biện pháp bảo vệ hợp đồng mạnh mẽ.

H: Giá trị của các hợp đồng AI của Lầu Năm Góc là bao nhiêu?
Đ: Lầu Năm Góc đã ký các thỏa thuận trị giá lên tới 200 triệu đô la mỗi thỏa thuận với các phòng thí nghiệm AI lớn như OpenAI, Anthropic và Google.

Nguồn: Investing.com