Mobitekno – Seiring dengan semakin berkembangnya AI di berbagai sektor, perusahaan menghadapi kebutuhan yang semakin mendesak untuk memiliki infrastruktur yang efisien secara biaya serta mendukung pengembangan dan penerapan yang cepat. Untuk menjawab kebutuhan tersebut, Intel baru saja meluncurkan Xeon 6 yang dilengkapi dengan Performance-cores (P-cores) dan accelerator AI Gaudi 3. Ini merupakan langkah Intel untuk memperkuat posisinya dalam menyediakan solusi AI yang unggul, dengan performa per watt yang optimal serta biaya kepemilikan total (TCO) yang lebih rendah.
Justin Hotard, wakil presiden eksekutif dan general manager Data Center and Artificial Intelligence Group di Intel, menjelaskan bahwa permintaan akan AI telah memicu transformasi besar di pusat data. Ia menekankan bahwa industri kini mencari fleksibilitas dalam memilih hardware, software, serta tool pengembang. Dengan hadirnya Xeon 6 yang dilengkapi dengan P-cores dan accelerator AI Gaudi 3, kami menghadirkan ekosistem terbuka yang memungkinkan pengguna menjalankan berbagai beban kerja mereka dengan lebih aman, efisien, dan berperforma tinggi.
Inovasi terbaru Intel di bidang infrastruktur AI mencakup dua peningkatan besar, yaitu:
- Intel® Xeon® 6 dengan P-cores: Prosesor ini dirancang untuk menangani beban komputasi berat dengan efisiensi tinggi, menawarkan performa yang dua kali lebih baik dibandingkan pendahulunya. Xeon 6 menampilkan peningkatan jumlah core, bandwidth memori yang lebih besar, serta akselerasi AI yang terintegrasi pada setiap core-nya. Prosesor ini dapat memenuhi tuntutan performa AI di berbagai lingkungan, mulai dari edge, pusat data, hingga cloud.
- Intel® Gaudi® 3 AI Accelerator: Accelerator ini dioptimalkan untuk AI generatif berskala besar, dilengkapi dengan 64 Tensor processor core (TPC) dan 8 matrix multiplication engine (MME) untuk mempercepat komputasi deep neural network. Dengan memori HBM2e sebesar 128 GB dan port Ethernet 24 x 200 Gigabit, Gaudi 3 menawarkan jaringan yang skalabel dan mampu menangani pelatihan serta inferensi AI. Kemampuan ini ditambah dengan kompatibilitas dengan framework populer seperti PyTorch dan model transformer terbaru seperti Hugging Face, menjadikannya alat yang kuat bagi pengembang AI.
Kerjasama Intel dan IBM
Intel juga bekerja sama dengan IBM untuk menghadirkan Gaudi 3 sebagai layanan AI accelerator di IBM Cloud. Kolaborasi ini bertujuan untuk membantu pelanggan mengurangi biaya kepemilikan sambil tetap meningkatkan performa saat memanfaatkan dan mengembangkan AI dalam skala besar.
Ketika menerapkan AI dalam skala besar, ada berbagai faktor yang harus diperhitungkan, seperti fleksibilitas aplikasi, perbandingan harga dan performa yang kompetitif, serta teknologi AI yang mudah diakses. Dengan infrastruktur x86 yang tangguh dan ekosistem terbuka, Intel mampu membantu perusahaan membangun sistem AI berkinerja tinggi dengan TCO yang rendah dan performa per watt yang optimal. Intel Xeon, sebagai CPU host, digunakan oleh 73% server yang diakselerasi GPU, membuktikan peran pentingnya dalam infrastruktur AI global.
Perusahaan ini juga bekerja sama dengan beberapa OEM ternama, seperti Dell Technologies dan Supermicro, untuk merancang sistem yang sesuai dengan kebutuhan spesifik pelanggan. Dell, misalnya, sedang mengembangkan solusi berbasis retrieval-augmented generation (RAG) dengan menggunakan Xeon 6 dan Gaudi 3.
Mengatasi tantangan dalam transisi dari prototipe ke produksi dalam penerapan AI generatif juga menjadi fokus Intel. Bersama para mitra dan OEM, perusahaan melalui upaya rekayasa bersama (co-engineering) menghadirkan solusi AI RAG yang siap produksi, menggunakan platform Open Platform Enterprise AI (OPEA). Ini memungkinkan integrasi aplikasi yang mulus dari Kubernetes, Red Hat OpenShift AI, hingga Red Hat Enterprise Linux AI, dioptimalkan untuk Xeon dan Gaudi.
BACA JUGA: Intel Umumkan Program Baru Hingga 2025 untuk Pengembang Software dan Vendor Hardware AI PC
Dalam rangka memperluas akses ke aplikasi AI di sektor enterprise, Intel menawarkan berbagai solusi melalui portofolio Tiber. Portofolio ini mencakup solusi bisnis yang dirancang untuk mengatasi berbagai tantangan terkait aksesibilitas, biaya, kompleksitas, keamanan, efisiensi, dan skalabilitas, baik di lingkungan AI, cloud, maupun edge. Intel Tiber Developer Cloud, misalnya, memungkinkan pelanggan untuk menguji teknologi Xeon 6 dan Gaudi 3 sebelum penerapan skala besar, dengan cluster Gaudi 3 yang akan dirilis dalam waktu dekat.
Selain itu, layanan baru seperti SeekrFlow, sebuah platform AI end-to-end dari Seekr, juga diperkenalkan untuk memfasilitasi pengembangan aplikasi AI yang tepercaya. Peningkatan terbaru dalam software Gaudi serta notebook Jupyter, yang mendukung PyTorch 2.4 dan Intel oneAPI, memberikan akselerasi AI yang lebih canggih, serta mendukung prosesor Xeon 6, semakin memperkuat ekosistem AI yang terbuka dan inovatif.
