Nvidia sẽ ra mắt chip AI mới tăng tốc suy luận

Nvidia công bố bộ xử lý mới cho suy luận AI

Nvidia được cho là đang lên kế hoạch ra mắt một bộ xử lý mới được thiết kế để tăng tốc tính toán suy luận AI. Theo Wall Street Journal, động thái này nhằm mục đích giúp các khách hàng như OpenAI xây dựng các hệ thống AI nhanh hơn và hiệu quả hơn để triển khai dịch vụ ở quy mô lớn.

Đáp ứng nhu cầu thị trường

Thông báo này được đưa ra trong bối cảnh có nhiều báo cáo về sự không hài lòng của OpenAI với tốc độ phần cứng hiện tại cho các tác vụ AI cụ thể. Nền tảng mới, dự kiến sẽ được công bố tại hội nghị GTC của Nvidia, sẽ tập trung vào suy luận—quá trình sử dụng một mô hình AI đã được huấn luyện để tạo ra phản hồi. Hệ thống này được cho là sẽ tích hợp một chip từ startup Groq, công ty mà Nvidia gần đây đã ký kết thỏa thuận cấp phép.

Tác động đến ngành công nghiệp AI

Sự phát triển này củng cố vị thế thống trị của Nvidia trên thị trường phần cứng AI bằng cách mở rộng các sản phẩm của mình vượt ra ngoài các chip huấn luyện. Bộ xử lý mới có thể giải quyết một nút thắt quan trọng trong việc triển khai AI, có khả năng tăng hiệu suất và giảm chi phí vận hành cho các dịch vụ AI quy mô lớn như ChatGPT. Nó cũng làm nổi bật bối cảnh cạnh tranh cho phần cứng chuyên dụng.

Triển vọng

Sự ra mắt chính thức tại hội nghị nhà phát triển GTC sắp tới sẽ được theo dõi chặt chẽ về các thông số kỹ thuật và điểm chuẩn hiệu suất. Thị trường sẽ đánh giá cách nền tảng mới này định vị Nvidia so với các nhà thiết kế chip cạnh tranh và các giải pháp nội bộ từ các gã khổng lồ công nghệ khác.

Câu hỏi thường gặp

Hỏi: Suy luận AI là gì?
Đáp: Suy luận AI là quá trình sử dụng mạng thần kinh đã được huấn luyện để đưa ra dự đoán hoặc tạo ra kết quả dựa trên dữ liệu mới, theo thời gian thực.

Hỏi: Tại sao chip mới này lại quan trọng?
Đáp: Nó giải quyết nhu cầu ngày càng tăng về phần cứng nhanh hơn, hiệu quả hơn dành riêng cho việc chạy các mô hình AI, một khía cạnh quan trọng trong việc triển khai các dịch vụ AI ở quy mô lớn.

Nguồn: Investing.com