Nvidia akan memperkenalkan Cip AI baharu untuk inferens lebih pantas.

Nvidia Umum Pemproses Baharu untuk Inferens AI

Nvidia dilaporkan merancang untuk melancarkan pemproses baharu yang direka untuk mempercepatkan pengkomputeran inferens AI. Menurut Wall Street Journal, langkah ini bertujuan untuk membantu pelanggan seperti OpenAI membina sistem AI yang lebih pantas dan cekap untuk menggunakan perkhidmatan pada skala besar.

Menangani Permintaan Pasaran

Pengumuman ini dibuat di tengah-tengah laporan ketidakpuasan OpenAI terhadap kelajuan perkakasan semasa untuk tugas AI tertentu. Platform baharu itu, yang dijangka akan diperkenalkan pada persidangan GTC Nvidia, akan menumpukan pada inferens—proses menggunakan model AI terlatih untuk menjana respons. Sistem itu dilaporkan akan menggabungkan cip daripada syarikat permulaan Groq, yang mana Nvidia baru-baru ini memperoleh perjanjian pelesenan.

Kesan ke atas Industri AI

Pembangunan ini mengukuhkan dominasi Nvidia dalam pasaran perkakasan AI dengan memperluaskan tawarannya melangkaui cip latihan. Pemproses baharu ini boleh menangani masalah kritikal dalam penggunaan AI, berpotensi meningkatkan prestasi dan mengurangkan kos operasi untuk perkhidmatan AI berskala besar seperti ChatGPT. Ia juga menyerlahkan landskap persaingan untuk perkakasan khusus.

Tinjauan

Pelancaran rasmi pada persidangan pembangun GTC yang akan datang akan diperhatikan dengan teliti untuk spesifikasi teknikal dan penanda aras prestasi. Pasaran akan menilai bagaimana platform baharu ini meletakkan Nvidia berbanding pereka cip yang bersaing dan penyelesaian dalaman daripada gergasi teknologi lain.

Soalan Lazim

S: Apakah inferens AI?
J: Inferens AI ialah proses menggunakan rangkaian saraf terlatih untuk membuat ramalan atau menjana output berdasarkan data baharu, masa nyata.

S: Mengapakah cip baharu ini penting?
J: Ia menangani permintaan yang semakin meningkat untuk perkakasan yang lebih pantas dan cekap khusus untuk menjalankan model AI, aspek penting dalam penggunaan perkhidmatan AI pada skala besar.

Sumber: Investing.com