AnythingLLM: come chattare con i documenti usando Ollama o LM Studio

AnythingLLM Desktop è un’app per Windows e macOS che permette di fare domande ai propri documenti con un modello che gira sul proprio computer. Questa guida è per chi ha già Ollama o LM Studio con un modello scaricato e vuole usarlo sui propri file. Alla fine avrete installato l’app e avrete il motore pronto per il collegamento. Saprete anche quali impostazioni controllare perché anche l’indicizzazione dei documenti resti locale, dove l’app salva i dati e come rimuoverla senza perderli. I comandi sono quelli della documentazione ufficiale, elencata in fondo.

Cosa serve

• Un PC Windows con Windows 10 o successivo, edizione Home o Professional, con processore x86 a 64 bit oppure ARM a 64 bit. L’app è pensata per un account utente di Windows Home e Windows 11 è il sistema di riferimento. Sulle edizioni Enterprise e Server potrebbe non funzionare.
• Oppure un Mac con chip della serie M o con processore Intel. Con i chip della serie M i modelli locali sono molto più veloci che sui Mac Intel.
• Ollama oppure LM Studio già installati sullo stesso computer, con almeno un modello scaricato. Questa guida non spiega come installarli: trovate le istruzioni nelle nostre guide a Ollama e a LM Studio. La guida a Ollama è scritta per Linux. Su Windows e macOS l’installazione segue le istruzioni ufficiali di Ollama, mentre i comandi da terminale sono gli stessi della CLI di Ollama.
• Una connessione a internet durante l’installazione su Windows, perché l’installer scarica i componenti che servono per usare la GPU.
• Homebrew, solo se sul Mac volete installare dal terminale.

Controllare i modelli di Ollama

Se usate Ollama, prima di tutto controllate di avere un modello da collegare. Questo comando elenca i modelli scaricati:

ollama ls

Nell’elenco deve comparire almeno un modello. Se è vuoto, tornate alla nostra guida di Ollama e scaricatene uno. Il secondo comando elenca invece i modelli in esecuzione in quel momento:

ollama ps

Un elenco vuoto qui è normale se non state usando nessun modello: compaiono solo quelli attivi. Se usate LM Studio, potete saltare questa sezione.

Installare AnythingLLM Desktop su Windows

Dalla pagina di installazione per Windows scaricate l’installer giusto per il vostro processore: c’è una versione per i PC x86 a 64 bit e una per quelli ARM a 64 bit. Fate doppio clic sul file e seguite la procedura.

Quando l’installer chiede per chi installare, scegliete «Current User». L’installazione per tutti gli utenti crea problemi e non è supportata. Durante l’installazione vengono scaricati in automatico i componenti per la GPU (Nvidia o AMD) o per la NPU. Se mancano, l’app mostra un avviso e i modelli locali possono usare solo la CPU, quindi sono più lenti.

Al termine fate clic sull’icona «AnythingLLM» sul desktop. Su alcuni sistemi il primo avvio richiede un minuto o due, ma i successivi sono quasi immediati.

Installare AnythingLLM Desktop su macOS

La pagina di installazione per macOS prevede due strade. La prima è il file DMG, da scegliere in base al chip:

• AnythingLLMDesktop-AppleSilicon.dmg per i Mac con chip della serie M;
• AnythingLLMDesktop.dmg per i Mac Intel.

Il browser potrebbe segnalare il file come non attendibile: in quel caso fate clic su «Keep» per completare il download. Poi aprite il DMG e trascinate il logo di AnythingLLM nella cartella Applicazioni.

La seconda strada è Homebrew, che deve essere già installato. Nel Terminale scrivete:

brew install --cask anythingllm

In tutti e due i casi l’app si trova nella cartella Applicazioni. Potete aprirla anche con cmd + spazio scrivendo AnythingLLM.

Collegare Ollama ad AnythingLLM

AnythingLLM Desktop ha un motore integrato basato su Ollama. La pagina per Windows suggerisce però di installare Ollama separatamente e di collegarlo all’app: un’istanza locale di Ollama viene rilevata in automatico e dà meno problemi quando arrivano gli aggiornamenti. Per chi ha già Ollama è quindi la strada più semplice.

Il collegamento si fa dalle impostazioni di AnythingLLM, nella parte dedicata al modello linguistico, scegliendo Ollama come provider e poi il modello da usare. Quali campi compilare e quali valori inserire lo spiega la pagina ufficiale sulla configurazione di Ollama, che conviene tenere aperta in questo passaggio. Il collegamento funziona se nell’elenco dei modelli di AnythingLLM ritrovate quelli mostrati da ollama ls.

In alternativa: collegare LM Studio

AnythingLLM parla con LM Studio attraverso il suo server locale, che rende disponibili i modelli caricati tramite API HTTP. Il modello quindi non deve essere solo scaricato, ma anche caricato in LM Studio, come spiega la nostra guida a LM Studio. Poi avviate il server con il comando indicato nella documentazione di LM Studio:

lms server start

Se non indicate una porta, il server usa l’ultima che ha usato. Di default resta in ascolto solo su 127.0.0.1 e quindi risponde soltanto alle app dello stesso computer, che è proprio quello che serve qui. Lo stato del server e la porta si possono controllare con il comando di stato descritto nella stessa documentazione.

Con il server acceso, aprite le impostazioni di AnythingLLM e scegliete LM Studio come provider del modello. I dettagli della configurazione sono nella pagina ufficiale su LM Studio. Lasciate il server acceso finché usate AnythingLLM: come fermarlo lo vediamo più avanti.

Tenere locali anche embedder e database vettoriale

Per interrogare i documenti non basta un modello locale. L’embedder, che trasforma il testo in vettori, e il database vettoriale che li conserva devono restare sul computer anche loro, altrimenti i vostri testi passano da un servizio esterno. Controllatelo nelle impostazioni di AnythingLLM prima di caricare qualsiasi file.

Le opzioni locali sono descritte nelle pagine ufficiali sull’embedder integrato e su LanceDB: lì trovate le voci da selezionare e cosa richiedono. La qualità della ricerca su note in italiano dipende dall’embedder scelto, quindi controllate le risposte sui documenti originali.

Usare i documenti: allegato o RAG

In AnythingLLM le conversazioni avvengono dentro un workspace, e un documento si può usare in due modi: allegarlo alla conversazione oppure indicizzarlo con il RAG, che a ogni domanda recupera solo le parti pertinenti. Come si caricano i file, quando conviene una modalità o l’altra e quali impostazioni del workspace tengono le risposte vicine alle fonti lo spiega la pagina ufficiale sulla chat con i documenti. Leggetela prima di caricare file lunghi.

AnythingLLM non sincronizza automaticamente un intero vault di Obsidian o una cartella di note. Senza attivare funzioni sperimentali, dovete ricaricare le note modificate. Su Desktop è però disponibile Automatic Document Sync, una funzione in anteprima: dopo averla abilitata nelle anteprime, potete attivare il monitoraggio sui singoli file già indicizzati, che vengono aggiornati automaticamente nei workspace. La documentazione avverte del rischio di corruzione del database locale e del database vettoriale: fate un backup prima di provarla.

Dove restano i documenti e i dati

Secondo la pagina sulla disinstallazione, database, documenti e cache vettoriale stanno in queste cartelle:

• Windows: %APPDATA%\anythingllm-desktop, cioè /Users/{user}/AppData/Roaming/anythingllm-desktop, con i dati nella sottocartella storage;
• macOS: /Users/<usr>/Library/Application Support/anythingllm-desktop, dove <usr> è il nome del vostro utente sul Mac.

Prima di copiare queste cartelle per farne un backup chiudete l’app. Su Windows, dalla versione 1.11.0, chiudere la finestra non basta, perché AnythingLLM resta nell’area di notifica: fate clic sulla sua icona e scegliete «Quit AnythingLLM».

Quando avete finito: fermare LM Studio

Se usate LM Studio, a fine lavoro potete fermare il server con il comando della documentazione di LM Studio. Le richieste in corso vengono interrotte, quindi aspettate che AnythingLLM abbia finito di rispondere.

lms server stop

Il messaggio di conferma indica la porta su cui girava il server, per esempio:

Stopped the server on port 1234.

Con il server fermo AnythingLLM non può più usare i modelli di LM Studio. La volta dopo riavviatelo con lms server start prima di tornare nell’app.

Disinstallare AnythingLLM

Su Windows il programma di disinstallazione si può lanciare da PowerShell, come spiega la pagina per Windows. La modalità silenziosa è disponibile dalla versione 1.16.1 di AnythingLLM Desktop. Questo comando rimuove l’app senza chiedere conferme e lascia i dati al loro posto, così se reinstallate ritrovate tutto:

& "$env:LOCALAPPDATA\Programs\AnythingLLM\Uninstall AnythingLLM.exe" /S

Attenzione: il comando che segue cancella tutta la cartella %APPDATA%\anythingllm-desktop, compresi workspace, documenti, database vettoriali, cronologia delle chat e modelli scaricati, e non si può annullare. Prima di lanciarlo copiate altrove quella cartella, se volete conservare qualcosa. Se avete dubbi, usate il comando precedente.

& "$env:LOCALAPPDATA\Programs\AnythingLLM\Uninstall AnythingLLM.exe" /S /DELETE_DATA=yes

Se sul Mac avete installato con Homebrew, questo comando rimuove l’app e lascia i dati:

brew uninstall --cask anythingllm

Attenzione: con --zap viene cancellata anche la cartella /Users/<usr>/Library/Application Support/anythingllm-desktop (<usr> è il vostro nome utente sul Mac), dove si trovano database, documenti e cache vettoriale. Una volta cancellati non si recuperano, quindi se vi servono copiate prima la cartella.

brew uninstall --zap --cask anythingllm

Se avete installato dal DMG, trascinate AnythingLLM dalla cartella Applicazioni al Cestino. Se volete eliminare anche i dati, cancellate a mano la cartella indicata sopra.

Se qualcosa va storto

• «AnythingLLM cannot be closed» durante l’installazione su Windows: l’app è ancora aperta nell’area di notifica. Fate clic sulla sua icona, scegliete «Quit AnythingLLM» e poi premete «Retry» nell’installer.
• Lo stesso errore dopo una vecchia installazione per tutti gli utenti: fate clic destro sull’icona di AnythingLLM Desktop e scegliete «Open File Location». Lanciate «Uninstall AnythingLLM.exe», come amministratore se serve, e poi reinstallate solo per l’utente corrente. Questa procedura non tocca dati e impostazioni.
• Errore nello scaricare o estrarre il supporto GPU: controllate la connessione, il firewall e le impostazioni del dispositivo, poi rilanciate l’installer. Se l’errore si ripete, i dettagli sono nel file ollama_install.log nella cartella %LOCALAPPDATA%\Programs\AnythingLLM. La pagina per Windows sconsiglia di sistemare il problema a mano e suggerisce di installare Ollama separatamente e collegarlo, come descritto sopra.

Documentazione di riferimento

Pagine consultate il 7 ottobre 2026:

• AnythingLLM — Installazione Desktop su Windows
• AnythingLLM — Installazione Desktop su macOS
• AnythingLLM — Disinstallare AnythingLLM
• AnythingLLM — Configurazione LLM: Ollama
• AnythingLLM — Configurazione LLM: LM Studio
• AnythingLLM — Embedder integrato
• AnythingLLM — LanceDB
• AnythingLLM — Chattare con i documenti
• Ollama — CLI Reference
• LM Studio — lms server start
• LM Studio — lms server stop

Leggi anche

• LM Studio: come installarlo e usare un modello AI in locale
• Ollama su Linux: come installarlo e usare un modello in locale
• AI in locale: che computer serve tra GPU, VRAM, RAM e mini PC