March 21, 2024

Kolaborasi Cloudera dan NVIDIA untuk Perluas Kemampuan Generative AI dengan Microservices NVIDIA

Penulis: Desmal Andi
Kolaborasi Cloudera dan NVIDIA untuk Perluas Kemampuan Generative AI dengan Microservices NVIDIA  

Mobitekno –  Dalam dunia bisnis yang terus berkembang, penggunaan data untuk mendukung keputusan menjadi semakin vital. Terlebih lagi, dengan kemajuan teknologi kecerdasan buatan (AI) dan pembelajaran mesin (ML), perusahaan kini memiliki kesempatan untuk menggali wawasan yang lebih dalam dan menghasilkan solusi yang lebih inovatif. Dalam upaya untuk memenuhi kebutuhan ini, Cloudera, perusahaan data terkemuka untuk enterprise AI, telah mengumumkan kolaborasi yang lebih dalam dengan NVIDIA, yang secara signifikan akan mempercepat evolusi AI di perusahaan.

Cloudera Powered by NVIDIA membawa integrasi microservices NVIDIA NIM ke dalam Cloudera Machine Learning, bagian dari Cloudera Data Platform yang dikenal dengan kemampuan AI/ML. Langkah ini bertujuan untuk menghasilkan hasil generative AI yang cepat, aman, dan sederhana bagi perusahaan. Dengan menggabungkan kekuatan data enterprise dengan platform komprehensif yang dioptimalkan untuk large language models (LLM), kolaborasi ini menjanjikan aplikasi generative AI yang lebih kuat mulai dari uji coba hingga produksi.

Salah satu fitur utama dari kolaborasi ini adalah penggunaan microservices NVIDIA NIM dan NeMo Retriever. Kedua layanan ini memungkinkan pengembang untuk mengaitkan model AI dengan data bisnis mereka, termasuk teks, gambar, dan visualisasi seperti grafik batang, line plots, dan diagram lingkaran. Dengan demikian, respon yang dihasilkan menjadi lebih akurat dan relevan, membuka pintu bagi aplikasi generative AI yang lebih canggih dan bermanfaat bagi perusahaan.

Ketika pengembang memanfaatkan microservices ini melalui platform NVIDIA AI Enterprise, mereka dapat memberikan runtime optimal untuk membangun, menyesuaikan, dan menggunakan LLM kelas enterprise. Ini memberi pelanggan kesempatan untuk memanfaatkan data enterprise mereka dengan lebih efektif, sambil menjaga keamanan dan kinerja aplikasi AI mereka.

Cloudera juga akan menghadirkan beberapa integrasi tambahan dengan microservices NVIDIA. Salah satunya adalah integrasi dengan model dan aplikasi layanan yang didukung oleh microservices NVIDIA, yang bertujuan untuk meningkatkan performa inferensi model di semua beban kerja. Dengan fungsi AI model-serving yang baru, pelanggan dapat mencapai toleransi kesalahan yang lebih baik, penyajian latensi yang lebih rendah, dan penskalaan otomatis untuk model yang diterapkan di berbagai lingkungan, baik public cloud maupun private cloud.

Selain itu, Cloudera Machine Learning akan menawarkan microservices NVIDIA NeMo Retriever yang terintegrasi, menyederhanakan koneksi LLM kustom ke data enterprise. Hal ini memungkinkan pengguna untuk membangun aplikasi berbasis retrieval-augmented generation (RAG) dengan lebih mudah, yang sangat bermanfaat dalam konteks penggunaan produksi.

Kecerdasan buatan Cloudera
Generative AI

Kolaborasi antara Cloudera dan NVIDIA tidaklah baru. Sebelumnya, kedua perusahaan telah bekerja sama dalam mengoptimalkan pemrosesan data dengan GPU melalui integrasi NVIDIA RAPIDS Accelerator for Apache Spark dengan Cloudera Data Platform. Kini, dengan tambahan microservices NVIDIA dan integrasi dengan NVIDIA AI Enterprise, Cloudera Data Platform menawarkan pipelines hybrid AI end-to-end yang disederhanakan, memberikan solusi yang lebih kuat dan efisien bagi perusahaan dalam memanfaatkan AI.

“Kekuatan NVIDIA dalam komputasi AI melengkapi keahlian Cloudera yang ekstensif dalam manajemen data,” kata Remus Lim, Senior Vice President of Asia Pacific and Japan di Cloudera. “Dengan kemitraan ini pelanggan kami dapat membuat model yang menghasilkan data dan insight yang sangat akurat dan dipercaya oleh perusahaan untuk mengoperasikan lingkungan ML yang benar-benar aman dan dapat memenuhi kebutuhan yang terus berkembang. Kami sangat senang dapat membantu pelanggan kami untuk lebih maju dalam mengaplikasikan perjalanan AI mereka dan bertransisi secara baik dari fase eksplorasi lalu bereksperimen dengan Generative AI hingga akhirnya menerapkannya dalam skala besar di perusahaan mereka.”

Kolaborasi Cloudera dan NVIDIA yang akan Bawa Perubahan Besar

Kedepannya, kolaborasi ini akan membawa perubahan besar dalam cara perusahaan mengembangkan, menyesuaikan, dan menerapkan large language models (LLM) yang mendukung generative AI. Aplikasi seperti coding co-pilots, chatbots, rangkuman teks, dan pencarian yang disederhanakan akan menjadi lebih cepat dan intuitif dalam penggunaannya. Inovasi ini tidak hanya akan meningkatkan efisiensi operasional perusahaan, tetapi juga akan membuka peluang baru dalam meningkatkan pendapatan dan mengoptimalkan biaya.

“Pengembangan hype AI menjadi realitas bisnis merupakan fokus utama Cloudera,” kata Priyank Patel, Vice President of AI/ML Products di Cloudera. “Integrasi microservices NVIDIA NIM dan CUDA-X untuk mendukung Cloudera Machine Learning adalah langkah penting dalam memberdayakan enterprise untuk mengambil keputusan yang lebih akurat dan tepat waktu, sambil melakukan mitigasi terhadap ketidakakuratan dan kesalahan dalam prediksi.”

Cloudera
Priyank Patel

Sementara itu, Justin Boitano, Vice President of Enterprise Products di NVIDIA, menyatakan, “Enterprise sangat bersemangat untuk memanfaatkan data masif mereka untuk generative AI dalam rangka mengembangkan co-pilots dan tools produktivitas yang disesuaikan. Integrasi microservices NVIDIA NIM ke dalam Cloudera Data Platform menawarkan para pengembang cara yang lebih mudah dan fleksibel dalam menggunakan LLM untuk mendorong transformasi bisnis.”

Acara NVIDIA GTC, yang akan diselenggarakan pada 18 – 21 Maret di San Jose McEnery Convention Center di San Jose, California, akan menjadi kesempatan bagi Cloudera untuk memperlihatkan kemampuan AI barunya. Sebagai konferensi para pengembang untuk era AI, acara ini akan mengumpulkan perusahaan dan inovator pembentuk masa depan AI dan komputasi terakselerasi, membuka pintu bagi kolaborasi yang lebih dalam dan inovasi yang lebih besar di masa mendatang.



COMMENTS