Mobitekno – Meta, perusahaan induk untuk Facebook, Instagram, WhatsApp, hingga Oculus baru-baru ini meluncurkan Code Llama, model bahasa besar atau Large Language Model (LLM) untuk generative AI yang dirancang khusus untuk melakukan tugas pemrograman.
Code Llama yang tergolong open source dan dapat dipakai untuk tujuan komersial ini dirancang khusus untuk menghasilkan kode program termasuk mendiskusikannya melalui mode interaksi. LLM ini dilatih melalui kumpulan data kode yang sangat besar, yang memungkinkannya mempelajari pola dan struktur kode suatu program.
Menurut Meta, karena dirancang khsus untuk pemrograman, Code Llama lebih baik dalam menghasilkan suatu kode program dibandingkan LLM Meta lainnya, yakni LLaMA 2 yang memang dirancang untuk tujuan umum, seperti membuat teks, menerjemahkan bahasa, dan menulis berbagai jenis konten kreatif.
Code Llama dirancang untuk mendukung para insinyur perangkat lunak di berbagai sektor, termasuk riset, industri, proyek open source, LSM, dan bisnis.
Melalui posting blognya, Meta menjelaskan bahwa Code LlaMA adalah versi yang lebih khusus dari LLaMA 2 yang dapat menghasilkan kode program, melengkapi kode, membuat catatan dan dokumentasi pengembang, melakukan proses debugging, dan berbagai aktivitas coding lainnya.
Code Llama diklaim lebih andal
Meta mengklaim kode program yang dihasilkan Code Llama memiliki kinerja yang lebih baik daripada kode program yang dibuat oleh LLM lainnnya saat ini berdasarkan pengujian benchmark. Meta mengatakan Code Llama mendapat skor 53,7 persen berdasarkan pengujian benchmark kode HumanEval dan dan mampu menulis kode berdasarkan deskripsi tekstual tanpa kesalahan.
Code LlaMA mendukung Python, C++, Java, PHP, Typescript (Javascript), C# dan Bash. Pengguna juga dapat melihat kinerjanya lebih jauh di link ini.
Membangun analogi itu, keluarga tersebut mencakup tiga anggota utama: model parameter 7 miliar, 13 miliar dan 34 miliar, masing-masing dilatih pada 500 miliar token.
Model yang lebih kecil dirancang untuk berjalan pada GPU yang lebih sedikit (model 7 miliar dapat berjalan pada satu GPU tunggal), atribut yang bermanfaat mengingat kelangkaan yang dikabarkan pada saat ini pada perangkat keras kritis ini, dan Meta mengatakan kedua model tersebut lebih cepat daripada model besar 34 miliar.
Semua model mendukung hingga 100.000 token untuk prompt mereka. Ini berarti “pengguna dapat memberikan model dengan lebih banyak konteks dari basis kode mereka untuk membuat generasi lebih relevan,” menurut Meta.
Keluarga LLaMA yang diperluas juga mencakup dua model fine-tuned, satu untuk Python dan satu untuk Instruct. Yang terakhir “telah fine-tuned untuk menghasilkan jawaban yang membantu dan aman dalam bahasa alami,” dan oleh karena itu, Meta mengatakan, harus digunakan saat menghasilkan kode baru dari prompt bahasa alami. Artinya, ia mengembalikan respons yang lebih aman, lebih diharapkan dan mungkin kurang kreatif.
Anda dapat mengunduh Code LlaMA langsung dari Meta di sini dan menemukan kode sumber di Github di sini.
Bersaing dengan code generator Microsoft, AWS, dan Google
Code generator atau pembuat kode program seperti Code Llama dianggap telah banyak membantu pekerjaan para pengembang (developer) dalam membuat. GitHub yang telah dimilki Microsoft telah meluncurkan Copilot yang didukung oleh GPT-4 dari OpenAI pada bulan Maret 2023.
Selain dapat menulis dan memeriksa kode dengan cepat, GitHub Copilot juga dapat menulis ulang kode lama untuk memperbaruinya. AWS Amazon juga telah memiliki CodeWhisperer, yang juga dapat menulis, memeriksa, dan memperbarui kode program.
Selain mengandalkan LLM LaMDA, raksasa Google, melalui divisinya DeepMind juga sedang mengembangkan code generator berbasis AI lainnya yaitu AlphaCode. Meta Code Llama juga siap bersaing dengan tool LLM lain yang spesifik untuk melakukan coding, seperti OverflowAI dari Stack Overflow.
Bagi yang tertarik mendalamai LLM Code LlaMA dari Meta ini dapat mengunjungi website LLM Meta sini dan menemukan kode sumber di Github.
Tags: AI, AWS, Code Llama, CodeWhisperer, generative AI, Github Copilot, Google, LaMDA, Meta, Microsoft, OpenAI, OverflowAI