Llama: lokale AI voor gesprekken en je eigen apps

Wat doet Llama.app in gewone taal?

Via Llama.app download je Llama, een gratis opensourceprogramma waarmee taalmodellen op je eigen computer draaien. Je kiest en downloadt een model en praat ermee in een browservenster. Andere programma's kunnen datzelfde model via een lokale API aanspreken. De website noemt het team achter llama.cpp en Hugging Face als makers.

Het programma past bij mensen die lokaal willen schrijven of informatie willen analyseren, en bij ontwikkelaars die hun editor of agent aan eigen modellen koppelen. Wat het model begrijpt en hoe goed het antwoordt, verschilt per model.

Een model kiezen dat bij je computer past

Beschikbaar geheugen bepaalt samen met modelgrootte en gesprekslengte wat haalbaar is. Een langer contextvenster vraagt meer geheugen. Een model kunnen downloaden betekent daarom nog niet dat iedere taak soepel draait.

Llama beveelt passende modellen aan en stelt opties automatisch in. Gebruik de modelgebonden geheugenadviezen in de officiële catalogus; één algemeen RAM-getal zou misleidend zijn.

Modellen staan in de Hugging Face-cache die ook andere tools gebruiken. Ze worden bij inactiviteit uit het geheugen gehaald. De kleine Mac-app bevat de modelbestanden niet: daarvoor is extra schijfruimte nodig.

Lokale AI installeren en een eerste gesprek starten

Download en open de Mac-app of Windows 11-app. Op de Mac is ook brew install --cask llama-app beschikbaar.

Open het pictogram in de menubalk of het systeemvak. Download een aanbevolen model met het pijltje, selecteer het daarna en kies een contextvenster dat bij je geheugen past. Open de chat en probeer eerst een korte vraag.

De snelstartgids laat de stappen zien. Voor Linux verwijst de site naar de opdrachtregel. Er wordt daar geen vergelijkbare Linux-desktopapp aangeboden.

Je apps aansluiten op een lokale API

Een compatibele client gebruikt http://localhost:9931/v1 als basisadres. Vraag de echte modelnaam op met GET /v1/models en stel die in de client in.

De API-handleiding beschrijft streaming, gestructureerde uitvoer, toolaanroepen en een Anthropic-compatibel Messages-eindpunt. Bij een programmeeragent levert Llama de modelantwoorden; de aparte agent beheert gereedschap en acties. Test of die combinatie voor je taken geschikt is.

Bestanden bespreken en gesprekken terugvinden

De webinterface accepteert afbeeldingen en PDF's bij visionmodellen, en MP3/WAV bij modellen die audio ondersteunen. Een tekstmodel krijgt daardoor geen beeldherkenning.

Voeg een passend bestand toe, vraag bijvoorbeeld om specifieke datums of een samenvatting en controleer de uitkomst in het origineel. Met zoeken, gespreksvertakkingen en JSON-import en -export kun je eerder werk terugvinden of bewaren.

Kosten, privacy en praktische grenzen

Gecontroleerd op 27 oktober 2026: de app is gratis en de site adverteert geen tokenkosten voor lokale API-verzoeken. Je gebruikt wel eigen hardware, opslag en stroom. De MIT-licentie van de app vervangt de licentie van elk afzonderlijk model niet.

Lokale inferentie kan na de downloads offline werken. Updates en externe tools kunnen nog steeds internet gebruiken. Het Windows-project verklaart geen telemetrie te verzenden. Standaard is de server alleen vanaf je eigen computer bereikbaar. Netwerktoegang inschakelen en andere clients aansluiten verandert de gegevensstroom.

Veelgestelde vragen

Heb ik een betaald abonnement nodig?

De toepassing wordt momenteel gratis aangeboden. Externe diensten kunnen eigen kosten hebben.

Werkt de chat zonder internet?

Ja, met het programma en model al op de computer. Online gereedschap blijft een aparte afhankelijkheid.

Hoeveel geheugen is nodig?

Dat verschilt per model en contextvenster. Begin met de aanbeveling voor je computer.

Is een aangesloten agent automatisch privé?

Nee. Bekijk ook welke externe tools en verbindingen de agent gebruikt.

Officiële documentatie en community

• Webinterface: bestanden en gespreksbeheer.
• Agenten aansluiten: praktische clientinstellingen.
• Mac-repository en Windows-repository: broncode, releases en problemen melden.