Llama: bilgisayarınızda yerel yapay zeka ve API

Llama.app ne işe yarar? Basit bir açıklama

Llama.app, dil modellerini kendi bilgisayarınızda çalıştıran ücretsiz ve açık kaynaklı Llama uygulamasının indirme ve belge sitesidir. Bir model indirip tarayıcıdaki sohbet arayüzünden kullanabilir veya başka uygulamaları yerel API’ye bağlayabilirsiniz. Site, projeyi llama.cpp ekibi ve Hugging Face ile ilişkilendirir.

Yerel yapay zeka ile metin yazmak, içerik incelemek veya geliştirme araçlarına model sağlamak isteyenlere yöneliktir. Hangi görevlerin yapılabildiği ve yanıtların kalitesi seçilen modele bağlıdır.

Yerel yapay zekayı kurup ilk sohbeti başlatma

Mac ya da Windows 11 uygulamasını indirin ve açın. Mac için brew install --cask llama-app seçeneği de vardır.

Menü çubuğu veya sistem tepsisi simgesini açıp önerilen modelin yanındaki indirme okuna tıklayın. İndirme bitince modeli seçin, belleğinize uygun bir bağlam penceresi belirleyin ve sohbeti açın. Önce kısa bir soru göndererek yanıtı kontrol edin.

Resmî başlangıç kılavuzu adımları gösterir. Linux kullanıcıları için sitede komut satırı kurulum yolu bulunur.

Bilgisayarın belleğine uygun modeli seçme

Model boyutu ve konuşmanın bağlam uzunluğu birlikte bellek tüketir. Büyük bir dosyanın diske sığması, uzun konuşmaların da sorunsuz çalışacağı anlamına gelmez.

Llama donanıma uygun modeller önerir ve ayarları otomatik yapılandırır. Model kataloğundaki her modelin kendi bellek önerisini inceleyin. Tüm modeller için geçerli tek bir RAM alt sınırı yoktur.

Modeller, diğer araçlarla paylaşılan Hugging Face önbelleğinde saklanır. Kullanılmadıklarında bellekten çıkarılırlar. Mac uygulamasının küçük indirme boyutu model ağırlıklarını kapsamaz; ek disk alanı gerekir.

Editörleri ve ajanları yerel API’ye bağlama

Uyumlu istemcinin temel adresini http://localhost:9931/v1 olarak ayarlayın. Gerçek model kimliğini öğrenmek için GET /v1/models kullanın.

API belgeleri, akış yanıtlarını, yapılandırılmış çıktıları, araç çağrılarını ve Anthropic uyumlu Messages uç noktasını açıklar. Kodlama ajanı kullanırken Llama modeli sunar; ayrı ajan programı araçları ve eylemleri yönetir. Protokol uyumu tek başına her modelin aynı görev başarısını sağlayacağını göstermez.

Dosyalarla çalışma ve sohbetleri saklama

Web arayüzü, görsel anlayan modellerde resim ve PDF; ses kabul eden modellerde MP3/WAV destekler. Yalnızca metin işleyen bir model bu özellikleri kendiliğinden kazanmaz.

Uyumlu bir dosya ekleyin, belirli tarihleri çıkarma veya özet hazırlama gibi somut bir istekte bulunun ve sonucu kaynağıyla karşılaştırın. Sohbet araması, dallandırma ve JSON içe/dışa aktarma seçenekleri önceki çalışmalara dönmeyi kolaylaştırır.

Ücretsiz kullanım, gizlilik ve sınırlar

27 Ekim 2026 tarihinde doğrulanan bilgilere göre uygulama ücretsizdir; site yerel API için token ücreti belirtmez. Donanım, depolama ve elektrik kaynaklarını siz sağlarsınız. Uygulamanın MIT lisansı, indirilen modellerin lisanslarının yerine geçmez; ticari kullanım koşullarını ayrı kontrol edin.

Yerel çıkarım, gerekli indirmelerden sonra çevrimdışı çalışabilir. Güncellemeler ve dış araçlar internet kullanabilir. Windows deposu telemetri gönderilmediğini belirtir. Sunucu varsayılan olarak yalnızca aynı bilgisayardan erişilir; ağ erişimini açmak bu sınırı değiştirir.

Sık sorulan sorular

Ücretli abonelik gerekir mi?

Uygulama şu anda ücretsiz sunulur. Bağladığınız diğer servisler ayrı ücretlendirme yapabilir.

İnternet olmadan çalışır mı?

Program ve model indirildiyse yerel çıkarım çalışır. Çevrimiçi araçlar bundan ayrıdır.

Ne kadar RAM gerekir?

Modele ve bağlam penceresine bağlıdır. Bilgisayarınıza önerilen modelden başlayın.

Bir ajanın tüm verileri yerelde kalır mı?

Bunu yalnızca yerel modelden çıkaramazsınız. İstemciyi, araçları ve ağ bağlantılarını da inceleyin.

Resmî kaynaklar ve geliştirici topluluğu

• Web arayüzü kılavuzu: dosyalar ve sohbet yönetimi.
• Ajan bağlantı kılavuzu: istemci ayarları.
• Mac deposu ve Windows deposu: kaynak kod, sürümler ve sorun bildirimleri.