Code Llama

Code Llama: Açık kaynak kod üretimi için Llama 2 tabanlı modeller

Code Llama, Meta tarafından Llama 2 üzerine ince ayar yapılmış; kod üretimi, tamamlama ve infilling için optimize edilmiş bir model ailesidir. 7B, 13B, 34B ve 70B büyüklüklerinde modeller; ayrıca Python’a özel ve talimat (instruction) takip eden ince ayarlı varyantları sunulur. Açık modeller arasında güçlü performans, geniş bağlam desteği ve kendi altyapınızda çalıştırma imkânı hedefleyen bir tercih olarak öne çıkar.

Temel yetenekler ve teknik detaylar

Öne çıkan teknik noktalar:

• Model boyutları ve yaklaşık disk gereksinimleri: 7B (~12.6GB), 13B (~24GB), 34B (~63GB), 70B (~131GB).
• Infilling desteği: 7B ve 13B (Code Llama ve Code Llama – Instruct varyantları) çevresel bağlamdan eksik kodu doldurabilir.
• Geniş bağlam: Çoğu model, 100.000 token’e kadar girişleri destekleyecek şekilde eğitildi (70B’nin bazı python/instruct varyantları hariç).
• Instruction-following: Code Llama – Instruct modelleri kullanıcı talimatlarını takip etme için ince ayarlı; doğru kullanım için özel formatlama (INST, <<SYS>> etiketleri vb.) gerektirir.
• Çalıştırma notları: torchrun ile örnek betikler sağlanır; MP (model-paralel) değerleri önerilmiştir (7B:1, 13B:2, 34B:4, 70B:8).
• Güvenlik ve lisans: Meta, ince ayarda çeşitli güvenlik hafifletmeleri uygulamıştır. Üretilen kod çıkışları üçüncü taraf lisanslarına tabi olabilir; kullanım öncesi lisans ve politikalara dikkat etmek gerekir.

Kurulum, kullanım ve kısıtlar

Repo, temel bir inference örneği ve yardımcı kurulum betikleri içerir. Model ağırlıklarını indirmek için Meta’nın sitesinde lisansı kabul etmeniz ve size gönderilen imzalı URL ile download.sh betiğini çalıştırmanız gerekir. Dikkat edilmesi gerekenler:

• Bu repository 1 Temmuz 2025’te arşivlendi ve şu anda salt okunur (read-only) durumdadır; yani resmi repo üzerine doğrudan güncelleme gelmeyecektir.
• Donanım gereksinimleri model büyüklüğüne göre hızla artar; 7B ve 13B modeller tek güçlü GPU veya küçük çoklu GPU kurulumlarında çalıştırılabilirken, 34B/70B üretim düzeyi çoklu GPU ve bellek optimizasyonu gerektirir. Kuantizasyon/optimizasyon teknikleri ile tüketim azaltılabilir.
• Hızlı başlamak için örnek betikler: example_completion.py, example_infilling.py ve example_instructions.py bulunuyor; ancak production için daha sağlam entegrasyon ve güvenlik kontrolleri gerekir.
• Lisans ve kullanım kısıtları: ağırlıkları indirmeden önce Meta lisans şartlarını dikkatle okuyun; indirme linkleri 24 saatlik süreyle geçerli olabilir ve erişim sınırları vardır.

Kimler için uygun ve kullanım senaryoları

Uygunluk ve tipik senaryolar:

• Geliştiriciler ve ekipler: Kod tamamlama, otomatik dokümantasyon, refaktör önerileri ve test üretimi gibi iş akışlarına entegre edilebilir.
• Araştırmacılar: Açık ağırlıklar ve örnek inference kodu, modeller üzerinde deney ve inceleme yapmaya uygun.
• Kurumsal kullanım: Kendi altyapısında self-host etmek isteyenler için çekici; ancak model boyutu ve lisans sınırlamaları göz önünde bulundurulmalı.
• Kısıtlamalar: Güncelleme ve bakım için resmi repo artık aktif geliştirme almıyor; güvenlik/etik politikalar ve üçüncü taraf lisans uyumluluğu kontrol edilmelidir.

Fiyatlandırma

Ücretsiz. Model ağırlıkları ve kaynak kodu Meta tarafından paylaşılmıştır; indirme için Meta lisansını kabul etmeniz gerekir. Resmi repo: https://github.com/meta-llama/codellama

Özetle: Code Llama, açık kaynak kod üretimi için güçlü, iyi dokümante edilmiş bir model ailesi sunuyor; geniş bağlam ve infilling gibi yetenekleriyle dikkat çekiyor. Ancak repo arşivlenmiş olması, model ağırlıklarının lisanslı indirme süreci ve büyük modellerin yüksek donanım gereksinimleri karar verirken göz önünde bulundurulması gereken noktalar. Kısa vadeli deney ve araştırma amaçlı kullanım için uygun, üretime alma planı olanlar için ise lisans ve operasyonel maliyetleri dikkatlice değerlendirmek gerekiyor.