Mobitekno – Cloudera, perusahaan hybrid data platform mulai menawarkan Blueprint Large Language Model (LLM) untuk diadopsi perusahaan dalam usahanya memanfaatkan teknologi generative AI (generative artificial intelligence) yang mulai marak diadopsi di beberapa sektor industri, seperti perbankan, telekomunikasi, dan lain-lain.
Solusi Cloudera di ranah AI ini memungkinkan pelanggan untuk mengelola dan mendapatkan value dari data mereka di lingkungan private cloud dan public cloud. Sehingga nantinya, perusahaan dapat membangun aplikasi berbasis generative AI mereka sendiri yang didukung oleh LLM pilihan . Dengan kata lain, pelanggan dapat memilih standar LLM sesuai kebutuhannya.
Large language models (LLM) dan generative AI adalah dua teknologi baru yang menarik perhatan publik sejak OpenAI memperkenalkan chatbot ChatGPT di akhir 2022 lalu. Potensi keduanya untuk merevolusi banyak industri mulai banyak dibicarakan orang, baik pro dan kontra. Termasuk dampaknya ke layanan pelanggan, penjualan, dan pemasaran, termasuk bagi indvidu maupun oragnisasi/perusahaan.
Untuk lebih mengenalkan tren ini dan meng-update perkembangan solusi Cloudera terkait AI dalam mendukung bisnis di skal enterprise, Cloudera melakuka small media session belum lama ini di Hotel Fairmont, Jakarta (10/8/2023).
LLM dan generative AI harus didukung data yang akurat
Sebagai salah satu perusahaan yang sudah lama berkecimpung dengan data enterprise, baik on-premise maupun di cloud, Cloudera sangat memahami pentingnya data bagi perusahaan. Terkait LLM dan generative AI, akurasi dan skala data/datasets) menjadi faktor penting bagi perusahaan yang ingin mengadopsi teknologi tersebut.
Di era ‘keberlimpahan’ data saat ini, perusahan bukan hanya bergumul dengan usaha mendapatkan dan mengelola data miliknya dengan baik dan aman, tapi juga mendapatkan nilai dari data yang ada untuk dimanfaatkan bagi kepentingan bisnisnya.
Remus Lim, Vice President APJ, Cloudera menekankan penting akurasi data agar LLM dan generative bisa optimal dan bermanfaat. Menurutnya, tidak mendapatkan data adalah hal buruk, tapi akan lebih buruk lagi jika perusahaan tersebut tidak mendapatkan analisis data yang akurat dari penerapan LLM dan generative AI di perusahaan.
Platform Cloudera memudahkan perusahaan untuk membangun, melatih, dan menerapkan model LLM pada data mereka, on-premise, tanpa perlu harus memaparkannya ke public cloud. Jadi, perusahaan memiliki kontrol atas data mereka dan memastikan bahwa model LLM mereka sesuai dengan regulasi.
Dipercaya kelola 25 juta terabyte data pelanggan
Bulan Juni 2023 lalu, Cloudera mengumumkan dukungan Cloudera Data Platform (CDP) yaanng mencackup private dan public cloud terhadap format open table Apache Iceberg untuk mendukung analytic datasets berskala besar dan kapabilitas AI. Hal ini menjadikan CDP kompatibel dengan platform data lakehouse lainnya yang mendukung Apache Iceberg.
Cloudera menjadi satu-satunya perusahaan yang menyediakan open data lakehouse yang dapat beroperasi di public cloud dan private (on-premise). Sesuai kebutuhan pelanggan/perusaan.
CDP dapat memberikan keamanan dan tata kelola terpadu data, terstruktur dan tidak terstruktur, yang memungkinkan akses ke data dengan pengalaman yang sama di mana saja.
Perusahaan enterprise tentu ingin mendapatkan nilai bisnis dari semua data mereka menggunakan AI dan analitik data. Dukungan Apache Iceberg di private cloud pribadi menunjukkan open data lakehouse dari Cloudera menjadi pilihan terbaik saat ini.
Salah satu poin perdebatan saat kemunculan ChatGPT akhir tahun lalu adalah bagaimana OpenAI dapat menjaga keamanan dan privasi data sekitar 100 juta penggunanya.
Pertanyaan ini menjadi penting maknanya jika dikaitkan dengan data perusahaan yang notabene sangat berharga nilainya di tengah persaingannya di pasar.
Cloudera telah dipercaya mengelola 25 juta terabyte pelanggan. Hal ini menempatkan Cloudera pada posisi unik untuk mendukung perusahaan mengeksrak nilai dari data yang mereka milki, di mana pun data itu berada. Selain itu, data telah siap untuk ‘diberdayakan’ dengan teknologi AI melalui LLM dan generative AI bagi perusahaan.
Menurut Daniel Hand, Field CTO APAC, Cloudera, perusahaan dapat leluasa memilih standar LLM dianggap yang cocok bagi mereka, baik open source, seperti Llama, Claude, atau proprietary LLM, seperti GPT dari OpenAI.
Dengan kata lain, Cloudera menawarkan pembuat model LLM yang memungkinkan bisnis dapat membuat model LLM mereka sendiri berdasarkan kebutuhan khusus mereka untuk melatih model LLM pada berbagai kumpulan data yang dimilki, baik teks, kode, dan gambar.
Model LLM spesifik yang digunakan Cloudera untuk aplikasi tertentu akan bergantung pada kebutuhan khusus aplikasi tersebut. Misalnya, aplikasi chatbot mungkin menggunakan model LLM yang berbeda dari aplikasi penghasil teks.
OCBC: Early adaptor dalam integrasi generative AI Cloudera
Cloudera juga membagikan pengalamannnya dalam mengintegrasikan AI melalui LLM dan generative di perusahaan keuangan terbesar kedua di Asia Tenggara, yakni Bank OCBC.
OCBC menggunakan Cloudera LLM dan AI generatif dalam beberapa aspek dalam usahanya meningkatkan pengalaman pelanggan. Misalnya, menggunakan AI dalam membuat chatbot yang dapat menjawab pertanyaan pelanggan. OCBC juga menggunakannya untuk menghasilkan materi pemasaran yang dipersonalisasi dan rekomendasi produk.
Selain meningkatkan layanan pelanggan, Cloudera LLM dan AI generatif juga membantu OCBC dalam mengotomatisasi beberapa proses back-office. Hal ini meringankan beban karyawannya sehingga bisa lebih fokus pada tugas yang lebih penting.
Sebagai hasil dari integrasi AI dan ML terrsebut, Cloudera dapat membantu OCBC menghadirkan inovasi baru untuk pelanggan dan meningkatkan efisiensi operasional. Bank OCBC mampu meningkatkan pendapatannya dengan menganalisis data kontekstual secara real-time dari percakapan pelanggan yang terkait dengan penjualan, layanan, dan lainnya.
Tags: AI, ChatGPT, Cloud, Cloudera, Enterprise, generative AI, large language model, LLM