Llama: IA locale per chat, editor e applicazioni

A cosa serve Llama.app, in parole semplici?

Llama.app è il sito da cui scaricare Llama, un'applicazione gratuita e open source per far funzionare modelli linguistici sul proprio computer. Dopo aver scaricato un modello puoi usarlo in una chat nel browser oppure collegarlo ad altre applicazioni tramite una API locale. Il sito attribuisce il progetto al team di llama.cpp e a Hugging Face.

È utile a chi cerca una IA locale per scrittura e analisi, ma anche agli sviluppatori che vogliono fornire un modello a editor e agenti. La qualità e le modalità di input dipendono dal modello scelto.

Software gratuito, privacy e limiti concreti

Alla verifica del 27 ottobre 2026, l'app è gratuita e il sito non prevede una tariffa a token per la API locale. Restano necessari spazio su disco, memoria e risorse del computer. La licenza MIT dell'applicazione non concede automaticamente gli stessi diritti sui modelli: prima dell'uso commerciale controlla la licenza dei pesi.

L'inferenza può avvenire offline dopo i download. Aggiornamenti, nuovi modelli e strumenti esterni possono invece richiedere internet. Il repository Windows dichiara l'assenza di telemetria. Il server è accessibile solo dal computer per impostazione predefinita; abilitarne l'accesso in rete cambia questo confine.

Installare la IA locale e iniziare una chat

Scarica l'app per Mac o Windows 11 e avviala. Su Mac puoi anche eseguire brew install --cask llama-app.

Apri l'icona nella barra dei menu o nell'area di notifica, quindi usa la freccia di download accanto a un modello consigliato. Seleziona il modello scaricato, scegli una finestra di contesto compatibile con la memoria e apri la chat. Prova una domanda breve e valuta il risultato prima di caricare un lavoro più impegnativo.

La guida iniziale illustra il procedimento. Su Linux il percorso indicato è quello della riga di comando.

Scegliere il modello in base alla memoria

Un modello più grande e una conversazione più lunga richiedono risorse aggiuntive. Non basta che il file entri nel disco per garantire un'esecuzione fluida.

Llama suggerisce modelli adatti al computer e configura automaticamente i parametri. Consulta il catalogo ufficiale per le indicazioni specifiche: non c'è un valore minimo di RAM valido per qualsiasi modello.

I pesi vengono conservati nella cache Hugging Face condivisa con altri strumenti. I modelli inattivi vengono scaricati dalla memoria. Le dimensioni ridotte dell'app Mac non comprendono i download dei modelli.

Usare documenti e conservare le conversazioni

La Web UI accetta immagini e PDF con modelli dotati di visione, e MP3/WAV con modelli che elaborano audio. Un modello solo testuale mantiene i propri limiti.

Allega un file compatibile, chiedi un risultato verificabile come un elenco di date o un riepilogo e confrontalo con l'originale. La ricerca nelle conversazioni, le diramazioni e l'importazione/esportazione JSON permettono di riprendere e salvare il lavoro.

Collegare editor e agenti alla API locale

Per un client compatibile, imposta http://localhost:9931/v1 come URL di base. Usa GET /v1/models per conoscere l'identificatore effettivo da selezionare.

La documentazione API descrive streaming, output strutturati, chiamate a strumenti e un endpoint Messages compatibile con Anthropic. Llama serve il modello; un agente separato gestisce azioni e strumenti. Il supporto al protocollo non garantisce prestazioni identiche fra modelli diversi.

Domande frequenti

Llama è gratuito?

L'app viene offerta gratuitamente. Hardware e servizi terzi collegati possono avere costi propri.

Funziona senza internet?

Sì, per l'inferenza locale con software e modello già scaricati. Gli strumenti online restano separati.

Quanta RAM serve?

Dipende da modello e contesto. Parti dai consigli per il tuo computer e verifica sul tuo carico di lavoro.

I dati di un agente restano sempre locali?

Il modello locale non determina il comportamento di ogni strumento. Controlla anche client, connessioni e accessi di rete.

Risorse ufficiali e community

• Guida alla Web UI: allegati e gestione delle chat.
• Configurazione degli agenti: collegamento dei client.
• Repository Mac e repository Windows: codice, versioni e segnalazioni.