Hal Penting yang Perlu Diketahui:
- Menantang Dominasi NVIDIA: Intel memperkenalkan akselerator AI Gaudi 3, yang bertujuan untuk menawarkan alternatif yang kuat terhadap GPU NVIDIA, sehingga meningkatkan persaingan di pasar silikon AI.
- Kemajuan Teknologi: Intel Gaudi 3, dibuat dengan 5 nanometer canggih TSMC teknologi, menawarkan peningkatan kinerja yang substansial, menghasilkan throughput komputasi FP1835 8 TFLOPS.
- Dinamika Pasar: Pengenalan Gaudi 3 oleh Intel dapat membantu mengurangi ketergantungan pada platform CUDA NVIDIA, memberikan lebih banyak fleksibilitas kepada para insinyur dan berpotensi menurunkan biaya karena meningkatnya persaingan.
- Mempromosikan Standar Terbuka: Intel menekankan perangkat lunak berbasis komunitas yang terbuka dan jaringan berstandar industri dengan akselerator AI barunya, yang bertujuan untuk mendemokratisasi akses teknologi AI dan mendorong inovasi di berbagai sektor.
Dengan dominasi NVIDIA di pasar GPU dan silikon AI, banyak yang khawatir dengan kekuatan NVIDIA dalam industri ini. Dalam upaya untuk menghilangkan tantangan ini dan menawarkan alternatif yang layak untuk penawaran NVIDIA, Intel telah mengambil langkah maju yang signifikan dengan mengumumkan akselerator AI Gaudi 3, yang dikembangkan oleh Habana Labs, anak perusahaan Intel. Perkembangan terbaru ini menggarisbawahi komitmen Intel terhadap inovasi di bidang AI dan bertujuan untuk memberikan lebih banyak pilihan kepada para insinyur dalam platform perangkat keras AI.
Tantangan apa yang ditimbulkan oleh NVIDIA yang memonopoli platform perangkat keras AI?
Selama dekade terakhir, pengembangan algoritme AI merupakan perjuangan berat yang terus berlanjut. Jaringan saraf pertama, yang sifatnya sederhana, dapat mendemonstrasikan kemampuan AI untuk belajar, namun karena sederhana, jaringan tersebut tidak dapat digunakan untuk aplikasi yang serius. Untuk membuatnya lebih kompleks, jaringan tersebut perlu menambahkan lapisan pemrosesan tambahan dan meningkatkan jumlah koneksi, namun hal ini dengan cepat meningkatkan jumlah sumber daya CPU.
Mengingat CPU jauh dari ideal untuk menjalankan jaringan saraf AI, hal ini menimbulkan masalah serius bagi para insinyur yang mencoba mengembangkan algoritma AI yang semakin kompleks. Untungnya, para peneliti dengan cepat menemukan bahwa GPU merupakan platform pemrosesan yang ideal untuk AI karena kemampuannya menjalankan ribuan persamaan polinomial kompleks secara bersamaan, yang pada dasarnya merupakan jaringan saraf.
Meskipun ada banyak produsen GPU, salah satu produsennya lebih unggul dari yang lain, yaitu NVIDIA. Tapi untuk semua manfaat itu GPU NVIDIA dan banyak perkembangan seputar akselerator AI, terdapat kekhawatiran mengenai posisi NVIDIA di pasar AI, dan potensi monopolinya di pasar.
Tantangan pertama yang dihadapi para insinyur berkaitan dengan platform NVIDIA CUDA, metode utama untuk menjalankan inferensi dan pelatihan AI. Meskipun CUDA sendiri telah terbukti efektif, penerapan CUDA secara luas menyulitkan para insinyur untuk beralih dari alternatif NVIDIA.
Masalah lain yang dihadapi adalah itu NVIDIA monopoli yang efektif dapat menimbulkan potensi masalah terkait dengan harga dan aksesibilitas. Dengan persaingan yang terbatas, NVIDIA mungkin memiliki kontrol lebih besar terhadap harga, yang dapat berdampak pada keterjangkauan perangkat keras AI bagi para peneliti dan perusahaan. Selain itu, kurangnya alternatif terhadap platform perangkat keras NVIDIA dapat membatasi akses terhadap sumber daya komputasi AI, terutama untuk organisasi kecil atau peneliti dengan keterbatasan anggaran.
Selanjutnya, NVIDIA dominasi di pasar perangkat keras AI bisa menciptakan penghalang untuk masuk untuk perusahaan lain ingin berinovasi dan mengembangkan teknologi AI baru. Adopsi platform CUDA NVIDIA yang meluas berarti bahwa para insinyur dan peneliti mungkin menghadapi tantangan dalam transisi ke platform alternatif atau mengembangkan solusi baru yang tidak didasarkan pada teknologi NVIDIA.
Intel mengumumkan silikon AI baru untuk melawan NVIDIA
Menyadari tantangan yang dihadapi oleh pengembang AI, Intel baru-baru ini mengumumkan peluncuran perangkat baru yang diklaimnya akan membantu menyediakan alternatif baru bagi para insinyur untuk NVIDIA.
Pengumuman Intel baru-baru ini mengenai akselerator AI Gaudi 3, yang dikembangkan oleh anak perusahaannya Habana Labs, menandai lompatan signifikan dalam komputasi kecerdasan buatan. Prosesor generasi ketiga ini merupakan bagian dari strategi berkelanjutan Intel untuk mengukir ceruk pasar AI yang sedang berkembang, yang selanjutnya didukung oleh akuisisi Habana Labs pada tahun 2019.
Akselerator Gaudi 3, diproduksi menggunakan proses 5 nanometer mutakhir TSMC, menunjukkan peningkatan kinerja yang luar biasa, menetapkan tolok ukur baru dalam komputasi AI dengan throughput komputasi FP1835 sebesar 8 TFLOPS. Lompatan teknologi ini menandakan komitmen Intel untuk memajukan kemampuan akselerator AI. Ukuran transistor yang lebih kecil umumnya menghasilkan chip yang lebih cepat dan bertenaga, hal ini menunjukkan komitmen Intel untuk menghadirkan solusi komputasi AI berkinerja tinggi.
Pada tanggal 9 April 2024, di acara Intel Vision di Phoenix, Arizona, Intel meluncurkan akselerator Intel Gaudi 3 AI. Akselerator baru ini memberikan peningkatan empat kali lipat dalam komputasi AI untuk BF16 dan peningkatan bandwidth memori sebesar 1.5 kali lipat dibandingkan model sebelumnya. (Kredit: Intel Corporation)
Kemajuan teknologi
Akselerator AI Gaudi 3 dari Intel menandai kemajuan besar dalam kemampuan teknologi. Secara khusus, teknologi ini memberikan peningkatan kinerja komputasi AI sebesar 4x untuk operasi BF16, peningkatan bandwidth memori sebesar 1.5x, dan bandwidth jaringan dua kali lipat, yang memfasilitasi perluasan sistem secara besar-besaran dibandingkan pendahulunya, Gaudi 2. Peningkatan ini tidak hanya menunjukkan kemampuan Intel dorongan untuk mendorong batas-batas kemampuan perangkat keras AI, namun juga mencerminkan fokus strategis mereka pada peningkatan efisiensi dan skalabilitas aplikasi AI. Kemajuan tersebut memastikan bahwa solusi Intel dilengkapi dengan baik untuk menangani permintaan model AI berskala besar yang kompleks, sehingga semakin memperkuat posisi mereka di pasar AI yang kompetitif.
Positioning Pasar
Pengenalan akselerator AI Gaudi 3 oleh Intel bukan hanya sekedar peningkatan teknologi namun juga merupakan manuver strategis untuk memperkuat posisinya di pasar yang sangat dipengaruhi oleh NVIDIA. Dengan menawarkan peningkatan substansial dibandingkan generasi sebelumnya dan berfokus pada skalabilitas dan standar terbuka, Intel memposisikan Gaudi 3 sebagai alternatif menarik bagi perusahaan yang ingin mendiversifikasi portofolio perangkat keras AI mereka. Posisi strategis ini dimaksudkan untuk menantang dominasi NVIDIA dan mengkatalisasi perubahan dinamika pasar, mendorong persaingan dan inovasi yang lebih besar dalam sektor perangkat keras AI.
Solusi Terbuka dan Fleksibel
Lebih lanjut memajukan komitmennya terhadap fleksibilitas dan standar terbuka, Intel Gaudi 3 menekankan perangkat lunak berbasis komunitas yang terbuka dan memanfaatkan jaringan Ethernet standar industri untuk menskalakan sistem secara lebih efektif. Pendekatan ini tidak hanya mengurangi ketergantungan pada teknologi eksklusif tetapi juga sejalan dengan visi Intel yang lebih luas dalam mendemokratisasi teknologi AI. Dengan mempromosikan solusi terbuka, Intel memungkinkan lebih banyak pelaku bisnis dan pengembang untuk mengakses kemampuan AI mutakhir, sehingga mendorong lingkungan yang lebih inklusif dan kompetitif.
Tolok Ukur Kinerja
Intel juga menyoroti tolok ukur kinerja Gaudi 3, memposisikannya sebagai pilihan unggul untuk fase pelatihan dan inferensi beban kerja AI. Akselerator ini dilaporkan 50% lebih cepat dalam tugas pelatihan dan menawarkan keunggulan serupa dalam throughput inferensi dibandingkan dengan GPU NVIDIA H100. Tolok ukur ini tidak hanya menunjukkan keunggulan teknis Gaudi 3 namun juga kemampuannya dalam memberikan solusi yang lebih hemat biaya dan hemat daya. Metrik kinerja seperti ini sangat penting bagi bisnis yang mengandalkan operasi AI berskala besar, karena metrik tersebut secara langsung menghasilkan peningkatan produktivitas dan pengurangan biaya operasional.
Melengkapi peluncuran Gaudi 3, strategi AI Intel yang lebih luas mencakup inovasi berkelanjutan dalam teknologi chip AI dan pengembangan perangkat lunak, yang dipelopori oleh para pemimpin seperti Sandra Rivera. Pendekatan holistik ini menggarisbawahi visi Intel untuk pasar chip AI yang beragam dan kompetitif yang siap mencapai pertumbuhan signifikan di tahun-tahun mendatang.
Akselerator AI Gaudi 3 dari Intel mewakili kemajuan signifikan dalam kemampuan komputasi AI, menawarkan peningkatan 4x dalam komputasi AI untuk BF16 dan peningkatan bandwidth memori sebesar 1.5x dibandingkan pendahulunya, Gaudi 2. Peningkatan ini sangat penting untuk menangani komputasi kompleks yang diperlukan oleh aplikasi AI modern, termasuk model bahasa besar dan sistem multimodal. Arsitektur Gaudi 3, yang dibangun pada proses 5nm, juga memastikan efisiensi energi yang lebih besar dan kecepatan pemrosesan yang lebih cepat, yang penting untuk penerapan AI berskala besar dan berkelanjutan.
Bagaimana chip baru ini dapat membantu para insinyur beralih dari produk NVIDIA?
Pengenalan akselerator Gaudi 3 oleh Intel tidak hanya merupakan tonggak penting dalam perjalanan pasar chip AI, namun juga membentuk kembali lanskap sistem AI, menawarkan alternatif yang layak dan ampuh terhadap platform yang ada, khususnya NVIDIA.
Tidak diragukan lagi, implikasi pertama yang dapat ditimbulkan adalah bahwa para insinyur di masa depan mungkin tidak lagi terikat pada hal tersebut Lingkungan CUDA NVIDIA untuk akselerasi AI. Jika Intel dapat menawarkan produknya dengan harga yang kompetitif, hal ini dapat memaksa NVIDIA untuk menurunkan harganya, sehingga menciptakan pasar chip yang lebih sehat untuk aplikasi AI.
Perubahan potensial lainnya yang dapat diperkenalkan oleh rangkaian chip baru Intel adalah pengenalan jenis platform baru, yang akan membuka peluang bagi para insinyur untuk memilih opsi perangkat lunak baru. Mengingat bahwa Inti CUDA telah ada selama beberapa tahun, solusi tersebut tidak sepenuhnya dioptimalkan untuk aplikasi AI, padahal solusi baru Intel telah dirancang dengan AI sejak awal. Dengan demikian, platform Intel dapat menawarkan efisiensi energi yang lebih baik dan kecepatan pemrosesan yang lebih tinggi.
Namun, jika platform yang dirilis Intel pada dasarnya berbeda dengan sistem NVIDIA, hal ini berpotensi menyebabkan fragmentasi di pasar AI, sehingga perangkat lunak perangkat keras harus di-porting antara platform perangkat keras NVIDIA dan Intel. Fragmentasi seperti ini dapat menghambat kecepatan pengembangan proyek AI, sehingga menciptakan lingkungan pengembangan yang terisolasi.
Pengenalan akselerator AI Gaudi 3 oleh Intel juga mencakup peningkatan signifikan dalam kemampuan jaringan, dengan dukungan untuk jaringan Ethernet standar industri. Fitur ini memungkinkan penskalaan sistem yang lebih fleksibel dan mengurangi ketergantungan pada solusi jaringan berpemilik, yang biasanya menjadi hambatan masuk bagi organisasi kecil. Dengan menyediakan lingkungan perangkat lunak berbasis komunitas yang terbuka, Gaudi 3 dari Intel memungkinkan pengembang yang lebih luas untuk berinovasi tanpa kendala yang disebabkan oleh vendor lock-in, sehingga mendorong ekosistem pengembangan AI yang lebih kompetitif dan beragam.
Ketika Intel terus berinvestasi dalam pengembangan perangkat lunak dan perangkat keras, masa depan chip AI tampak menjanjikan. Persaingan antara Intel dan NVIDIA diharapkan dapat mendorong lebih lanjut inovasi dan kemajuan teknologi di bidang komputasi kecerdasan buatan. Peluncuran chip Gaudi 3 menandakan tekad Intel untuk menantang dominasi NVIDIA dan menjadikan dirinya sebagai pemain kunci dalam lanskap teknologi chip AI yang terus berkembang.