Llama: AI lokal untuk percakapan dan API di komputer

Llama.app itu untuk apa? Penjelasan sederhana

Llama.app adalah situs unduhan dan dokumentasi Llama, aplikasi gratis dan sumber terbuka untuk menjalankan model bahasa di komputer sendiri. Setelah mengunduh model, kamu bisa mengobrol melalui browser atau menghubungkan aplikasi lain lewat API lokal. Situs resminya memperkenalkan proyek ini sebagai karya tim llama.cpp dan Hugging Face.

Cocok untuk menulis dan menganalisis konten secara lokal, serta untuk pengembang yang ingin memasok model ke editor atau agen. Aplikasi mengatur cara model dijalankan, sedangkan kemampuan memahami masukan dan kualitas jawaban bergantung pada model.

Memasang AI lokal dan memulai percakapan

Unduh aplikasi Mac atau Windows 11, lalu jalankan. Di Mac, tersedia juga perintah brew install --cask llama-app.

Buka ikon di bilah menu atau system tray. Klik panah unduh di samping model yang direkomendasikan. Setelah selesai, pilih model, tentukan jendela konteks sesuai memori, lalu buka chat. Coba pertanyaan singkat dan periksa jawabannya sebelum memakai dokumen atau tugas yang lebih besar.

Panduan mulai resmi menunjukkan langkahnya. Untuk Linux, situs menawarkan pemasangan melalui baris perintah, bukan aplikasi desktop dengan bentuk yang sama.

Memilih model sesuai memori komputer

Ukuran model dan panjang konteks percakapan sama-sama memakai memori. Berkas yang muat di penyimpanan belum menjamin percakapan panjang berjalan lancar.

Llama menyarankan model berdasarkan perangkat dan mengatur parameter secara otomatis. Lihat kebutuhan model tertentu di katalog resmi; tidak ada satu angka RAM minimum untuk semua model. Uji dengan contoh bahasa Indonesia atau pekerjaanmu sendiri sebelum menentukan pilihan.

Model disimpan dalam cache Hugging Face yang dibagi dengan alat lain dan dilepas dari memori saat tidak aktif. Unduhan kecil aplikasi Mac tidak mencakup bobot model yang membutuhkan ruang disk tambahan.

Bertanya tentang berkas dan menyimpan percakapan

Antarmuka web mendukung gambar dan PDF untuk model yang memahami visual, serta MP3/WAV untuk model dengan masukan audio. Model teks tidak otomatis mendapat kemampuan tersebut.

Lampirkan berkas yang didukung, minta hasil terarah seperti daftar tanggal atau ringkasan bagian tertentu, lalu cocokkan dengan sumber asli. Pencarian percakapan, percabangan, dan impor/ekspor JSON membantu menemukan kembali atau menyimpan pekerjaan.

Menghubungkan editor dan agen ke API lokal

Atur alamat dasar klien yang kompatibel ke http://localhost:9931/v1. Gunakan GET /v1/models untuk mengetahui ID model yang benar sebelum memilihnya di klien.

Dokumentasi API menjelaskan streaming, keluaran terstruktur, pemanggilan alat, dan endpoint Messages yang kompatibel dengan Anthropic. Dalam alur agen pemrograman, Llama melayani model, sementara program agen terpisah mengelola alat dan tindakan. Kesesuaian model untuk pekerjaan tetap perlu diuji.

Biaya, privasi, dan batas penggunaan

Diperiksa pada 27 Oktober 2026: aplikasi ditawarkan gratis dan situs tidak mengiklankan biaya per token untuk API lokal. Perangkat keras, penyimpanan, serta listrik tetap menjadi sumber daya yang kamu sediakan. Lisensi MIT aplikasi tidak menggantikan lisensi setiap model; periksa ketentuan model sebelum pemakaian komersial.

Inferensi lokal bisa berjalan offline setelah semua unduhan tersedia. Pembaruan dan alat eksternal mungkin membutuhkan internet. Repositori Windows menyatakan tidak mengirim telemetri. Secara bawaan server hanya dapat diakses dari komputer itu sendiri; membuka akses jaringan mengubah batas tersebut. Aplikasi yang terhubung memiliki perilaku pengolahan data masing-masing.

Pertanyaan umum

Apakah Llama perlu langganan berbayar?

Saat ini aplikasinya gratis. Layanan eksternal yang dihubungkan dapat memiliki biaya sendiri.

Apakah bisa dipakai tanpa internet?

Bisa untuk inferensi lokal jika program dan model sudah tersedia. Alat online perlu diperiksa secara terpisah.

Berapa RAM yang diperlukan?

Tergantung model dan jendela konteks. Mulailah dari rekomendasi untuk komputermu.

Apakah semua data agen tetap lokal?

Itu tidak dapat disimpulkan hanya dari lokasi model. Tinjau klien, alat, dan koneksi jaringan yang dipakai.

Sumber resmi dan komunitas pengembang

• Panduan antarmuka web: lampiran dan pengelolaan percakapan.
• Panduan agen: pengaturan klien.
• Repositori Mac dan repositori Windows: kode, rilis, dan pelaporan masalah.