Mobitekno – Red Hat, Inc. penyedia solusi open source terkemuka, baru saja mengumumkan akuisisi Neural Magic, perusahaan inovatif di bidang perangkat lunak dan algoritma yang mempercepat inferensi Artificial Intelligence (AI) generatif. Akuisisi ini bertujuan untuk memperkuat solusi Red Hat dalam menghadirkan AI berperforma tinggi yang sesuai dengan kebutuhan spesifik pelanggan di seluruh lingkungan hybrid cloud.
Perkembangan teknologi large language models (LLM) menjadi pendorong utama AI generatif, namun penggunaannya menghadapi tantangan besar. Model ini membutuhkan daya komputasi, sumber daya energi, dan keahlian operasional khusus, yang membuatnya sulit diakses oleh banyak perusahaan.
Matt Hicks, Presiden dan CEO Red Hat, mengatakan, “Beban kerja AI harus berjalan di mana pun data pelanggan berada. Dengan akuisisi Neural Magic, kami semakin mendukung misi kami untuk menghadirkan solusi AI terbuka yang fleksibel dan standar,”
“Kami antusias untuk melengkapi portofolio AI yang berfokus pada hybrid cloud, dengan terobosan inovasi AI dari Neural Magic, semakin mendorong kami untuk tidak hanya menjadi ‘Red Hat’ open source, namun juga menjadi ‘Red Hat AI.”
Melalui inovasi terbuka seperti proyek vLLM yang dikembangkan UC Berkeley, Red Hat berkomitmen membuat AI generatif lebih terjangkau. vLLM adalah proyek open source yang mendukung keluarga model utama, riset inferensi canggih, dan berbagai perangkat keras seperti AMD GPU, NVIDIA GPU, Intel Gaudi, hingga Google TPU.
Red Hat + Neural Magic: Transformasi AI dengan Teknologi Open Source
Neural Magic, yang didirikan pada 2018 dari MIT, membawa teknologi unggul dalam performance engineering. Melalui akuisisi ini, Red Hat mempercepat visinya untuk memanfaatkan AI di lingkungan hybrid cloud.
Berikut adalah fokus utama kolaborasi ini:
– Model Open Source yang Fleksibel
Mendukung model berlisensi open source dengan skala parameter hingga 405B, yang dapat digunakan di pusat data, cloud publik, maupun edge.
– Adaptasi LLM yang Lebih Mudah
Kemampuan untuk menyesuaikan LLM dengan data privat dan kebutuhan spesifik perusahaan, dengan tingkat keamanan lebih tinggi.
– Efisiensi Operasional
Optimalisasi infrastruktur dan operasional melalui keahlian performance engineering.
– Ekosistem Terbuka
Beragam pilihan mitra, perangkat keras, dan sistem pendukung yang dirancang untuk kebutuhan pelanggan.
Red Hat menawarkan teknologi yang mendukung transformasi AI secara menyeluruh, termasuk:
1. Red Hat Enterprise Linux AI (RHEL AI)
Platform berbasis Linux untuk pengembangan, pengujian, dan penerapan model AI, termasuk IBM Granite LLM.
2. Red Hat OpenShift AI
Platform AI untuk melatih dan mengelola model machine learning di Kubernetes, baik di lokasi, public cloud, maupun edge.
3. InstructLab
Proyek komunitas untuk kolaborasi dalam mengembangkan LLM open source berbasis teknologi terbaru.
Peran Neural Magic dalam Ekosistem AI Red Hat
Neural Magic membawa keunggulan teknologi vLLM dan LLM Compressor, yang memungkinkan pelanggan mengoptimalkan model AI dengan efisiensi tinggi. Dengan inference stack siap pakai, Red Hat mampu menyediakan solusi AI generatif yang dapat digunakan di mana saja dalam lingkungan hybrid cloud.
Brian Stevens, CEO Neural Magic, menyatakan, “Open source adalah kunci inovasi. Kolaborasi kami dengan Red Hat memperkuat upaya kami untuk menghadirkan solusi LLM lintas platform yang efisien. Bergabung dengan Red Hat bukan hanya kecocokan budaya, namun akan menguntungkan perusahaan besar dan kecil dalam perjalanan transformasi AI mereka,”
Sementara itu, Dario Gil, IBM Senior Vice President, mengungkapkan, “Saat klien kami bermaksud mengembangkan AI di seluruh lingkungan hybrid mereka – LLM yang cloud-native dan tervirtualisasi serta dibangun dalam fondasi terbuka akan menjadi sebuah standar dalam industri,”
“Kepemimpinan Red Hat dalam open source, digabungkan dengan pilihan model open source yang efisien seperti IBM Granite dan penawaran dari Neural Magic untuk mengembangkan AI lintas platform, akan memberikan kontrol dan fleksibilitas yang dibutuhkan perusahaan untuk menjalankan AI di perusahaan mereka,” terang Gil.
Akuisisi Neural Magic oleh Red Hat menandai langkah besar dalam pengembangan AI generatif. Dengan dukungan teknologi open source, Red Hat berupaya menjadikan AI lebih inklusif dan efisien, memungkinkan perusahaan untuk memanfaatkan kekuatan transformatif AI di seluruh hybrid cloud.
Tags: AI Generatif, hybrid cloud, Neural Magic, open source, Red Hat, Teknologi AI, vLLM
