GADGETS
Alibaba Cloud perkenal sistem kurangkan penggunaan GPU NVIDIA sehingga 82%
Alibaba Cloud memperkenalkan sistem Aegaeon yang mengurangkan penggunaan GPU NVIDIA H20 sehingga 82% untuk pemprosesan model AI berskala besar. -Foto Amanz
ALIBABA Cloud memperkenalkan sistem sistem Aegaeon yang menurut mereka mengurangkan penggunaan GPU NVIDIA H20 sehingga 82%.
Ringkasan AI
Dalam ujian yang dilakukan selama tiga bulan, Aegaeon memerlukan hanya 213 GPU H20 berbanding 1192 GPU sebelum ini untuk melakukan pemproses model kecerdasan buatan (AI) dengan 72 bilion parameter.
Kecekapan penggunaan GPU ini dilakukan dengan menggabungkan sumber GPU supaya satu GPU boleh menyokong pelbagai model secara serentak.
Sebelum ini satu GPU hanya boleh digunakan untuk memproses satu model sahaja. Teknik ini dibangunkan oleh Allibaba dengan kerjasama penyelidik Universiti Peking.
Aegaeon dibangunkan bukan sahaja untuk meningkatkan kecekapan pusat data AI tetapi pada waktu yang sama menyelesaikan isu pembelian GPU NVIDIA yang dikenakan oleh Amerika Syarikat ke atas China.
Oleh sebab itu sejak lebih sebulan lalu kerajaan China menyarankan syarikat tempatan untuk tidak membeli cip NVIDIA dan berpindah ke cip AI buatan tempatan seperti yang dikeluarkan oleh Huawei. -Amanz
Ringkasan AI
- Alibaba Cloud memperkenalkan sistem Aegaeon yang mengurangkan penggunaan GPU NVIDIA H20 sehingga 82% untuk pemprosesan model AI berskala besar.
- Aegaeon membolehkan satu GPU menyokong pelbagai model secara serentak, berbeza dengan kaedah lama yang hanya membenarkan satu model bagi setiap GPU.
- Sistem ini dibangunkan bersama Universiti Peking dan bertujuan mengatasi sekatan pembelian cip NVIDIA oleh AS, selaras dengan saranan kerajaan China untuk beralih kepada cip AI tempatan seperti keluaran Huawei.
Dalam ujian yang dilakukan selama tiga bulan, Aegaeon memerlukan hanya 213 GPU H20 berbanding 1192 GPU sebelum ini untuk melakukan pemproses model kecerdasan buatan (AI) dengan 72 bilion parameter.
Kecekapan penggunaan GPU ini dilakukan dengan menggabungkan sumber GPU supaya satu GPU boleh menyokong pelbagai model secara serentak.
Sebelum ini satu GPU hanya boleh digunakan untuk memproses satu model sahaja. Teknik ini dibangunkan oleh Allibaba dengan kerjasama penyelidik Universiti Peking.
Aegaeon dibangunkan bukan sahaja untuk meningkatkan kecekapan pusat data AI tetapi pada waktu yang sama menyelesaikan isu pembelian GPU NVIDIA yang dikenakan oleh Amerika Syarikat ke atas China.
Oleh sebab itu sejak lebih sebulan lalu kerajaan China menyarankan syarikat tempatan untuk tidak membeli cip NVIDIA dan berpindah ke cip AI buatan tempatan seperti yang dikeluarkan oleh Huawei. -Amanz