Meta tận dụng CPU Amazon Graviton cho AI tác nhân

Chi tiết hợp tác cốt lõi

Meta đã công bố một quan hệ đối tác quan trọng với Amazon Web Services, cam kết triển khai hàng chục triệu lõi CPU AWS Graviton. Sự hợp tác này sẽ cung cấp năng lượng cho các tác vụ AI tác nhân tiên tiến của Meta, các hệ thống được thiết kế để suy luận phức tạp và thực thi tác vụ tự động.

Sự thay đổi trong hạ tầng AI

Động thái này nhấn mạnh một sự thay đổi then chốt trong yêu cầu phần cứng AI. Trong khi GPU rất cần thiết để đào tạo các mô hình ngôn ngữ lớn thông qua xử lý song song, AI tác nhân lại dựa vào hiệu suất bền vững, độ trễ thấp của CPU cho các tác vụ tuần tự như logic và thực thi mã. Bộ xử lý Graviton của Amazon được thiết kế đặc biệt cho các khối lượng công việc liên tục này.

Tác động đến thị trường và cổ phiếu

Sau tin tức này, cổ phiếu Amazon đã tăng 1,2%. Các nhà phân tích xem thỏa thuận này là một sự xác nhận lớn cho mảng kinh doanh chip tùy chỉnh của Amazon. Quan hệ đối tác này định vị AWS Graviton là một thành phần quan trọng cho giai đoạn tiếp theo của AI, dự kiến sẽ bị chi phối bởi các tác nhân tự động.

Triển vọng

Sự hợp tác này củng cố vị thế cạnh tranh của Amazon trên thị trường hạ tầng AI. Khi ngành công nghiệp chuyển từ đào tạo mô hình sang triển khai các tác nhân thông minh, nhu cầu về CPU hiệu suất cao dự kiến sẽ tăng lên, tạo ra cơ hội đáng kể cho AWS.

Câu hỏi thường gặp

Hỏi: Tại sao Meta lại sử dụng CPU AWS Graviton thay vì GPU?
Đáp: AI tác nhân yêu cầu tính toán bền vững cho các tác vụ tuần tự như suy luận và lập kế hoạch, một khối lượng công việc mà CPU Graviton được tối ưu hóa. GPU vượt trội trong xử lý song song cần thiết để đào tạo mô hình, chứ không phải để thực thi các tác vụ tác nhân.

Hỏi: AI tác nhân là gì?
Đáp: AI tác nhân đề cập đến các hệ thống tự động có thể hiểu một mục tiêu, chia nó thành các bước tuần tự và thực hiện các bước đó một cách độc lập, không giống như các mô hình ngôn ngữ lớn chủ yếu xử lý các lời nhắc.

Nguồn: Investing.com