MediaTek Manfaatkan Meta Llama 2 Guna Tingkatkan AI Generatif di Komputasi Edge

Mobitekno – MediaTek, sebagai salah satu perusahaan semikonduktor global terkemuka yang telah memberdayakan lebih dari dua miliar perangkat komputasi yang terhubung ke internet setiap tahunnya, mengumumkan sebuah kolaborasi yang menarik dengan teknologi kecerdasan buatan (AI) dari Meta Platform Inc., yang dikenal dengan sebutan Llama 2. Teknologi ini mewakili generasi masa depan dari model bahasa besar (Large Language Model/LLM) yang bersifat open-source. Dengan memanfaatkan Meta Llama 2, teknologi APU terbaru dari MediaTek, serta platform AI NeuroPilot, MediaTek bertujuan untuk membentuk ekosistem edge computing yang komprehensif, dirancang untuk mempercepat pengembangan aplikasi kecerdasan buatan (AI) pada berbagai perangkat, seperti ponsel pintar, Internet of Things (IoT), kendaraan pintar, rumah pintar, dan perangkat komputasi edge lainnya.

Saat ini, sebagian besar pemrosesan AI generatif dilakukan melalui edge computing, namun model Llama 2 yang diadopsi oleh MediaTek akan memungkinkan aplikasi AI generatif untuk berjalan langsung di perangkat tersebut. Hal ini membawa sejumlah keuntungan bagi para pengembang dan pengguna, termasuk performa yang lebih mulus, tingkat privasi yang lebih tinggi, peningkatan dalam keamanan dan keandalan, latensi yang lebih rendah, kemampuan untuk beroperasi dalam kondisi koneksi rendah, dan biaya operasional yang lebih efisien.

Untuk dapat sepenuhnya memanfaatkan teknologi AI generatif pada perangkat, produsen perangkat edge harus mengadopsi komputasi yang kuat, prosesor AI berdaya rendah, serta konektivitas yang lebih cepat dan andal guna meningkatkan kemampuan komputasi. Setiap System on Chip (SoC) pada ponsel pintar 5G yang didukung oleh MediaTek telah dilengkapi dengan APU yang dirancang khusus untuk menjalankan berbagai fitur AI generatif, seperti pengurangan noise AI, AI Super Resolution, AI MEMC, dan lainnya.

MediaTek persiapkan Chipset Selanjutnya

Selain itu, cipset unggulan generasi berikutnya dari MediaTek, yang akan diperkenalkan menjelang akhir tahun ini, akan menghadirkan perangkat lunak yang dioptimalkan untuk menjalankan Llama 2, serta APU yang ditingkatkan dengan inti Transformer yang dioptimalkan, pengurangan area akses, dan penggunaan bandwidth DRAM yang lebih efisien. Inovasi-inovasi ini akan membantu dalam mempercepat penggunaan teknologi AI generatif di berbagai perangkat.

JC Hsu, Corporate Senior Vice President dan General Manager of Wireless Communications Business Unit di MediaTek, menyatakan, “Popularitas yang semakin meningkat dari teknologi AI generatif adalah tren yang signifikan dalam perubahan digital. Visi kami adalah memberikan komunitas pengembang dan pengguna Llama 2 alat yang mereka butuhkan untuk berinovasi secara penuh dalam domain AI. Melalui kerja sama kami dengan Meta, kami dapat menyediakan perangkat keras dan perangkat lunak dengan kemampuan yang jauh lebih canggih dari sebelumnya.”

MediaTek memiliki rencana untuk menjadikan aplikasi AI berbasis Llama 2 tersedia untuk ponsel pintar yang ditenagai oleh SoC generasi berikutnya, dan diharapkan aplikasi ini akan memasuki pasar menjelang akhir tahun ini. Kolaborasi ini membuktikan komitmen MediaTek dalam mendorong kemajuan teknologi AI, memberikan solusi yang lebih canggih, dan menghadirkan inovasi yang akan membawa manfaat besar bagi industri dan konsumen.