Vai al contenuto
Grafica con il titolo «Come installare LM Studio e usare un modello AI in locale» e il comando lms server start su sfondo scuro da terminale

Grafica: opengeek

Questa guida è per chi vuole usare un modello linguistico sul proprio computer, senza servizi esterni. Lo strumento è LM Studio, che funziona su Windows, macOS e Linux. Qui si usa soprattutto la sua riga di comando, lms. Alla fine avrete scaricato un modello e potrete chattarci dal terminale. Avrete anche un server locale che risponde come le API di OpenAI, a cui collegare script e programmi che usano già quel protocollo. I comandi sono quelli della documentazione ufficiale di LM Studio, elencata in fondo.

Cosa serve

I requisiti di sistema di LM Studio cambiano da una piattaforma all’altra:

  • macOS: un Mac con chip Apple Silicon (M1, M2, M3 o M4) e macOS 14.0 o successivo. Sono consigliati almeno 16 GB di RAM. Con 8 GB si può ancora usare, ma conviene restare su modelli piccoli e contesti modesti. I Mac con processore Intel per ora non sono supportati.
  • Windows: sistemi x64 oppure ARM (Snapdragon X Elite). Sui processori x64 serve il supporto alle istruzioni AVX2. Sono consigliati almeno 16 GB di RAM e una GPU con almeno 4 GB di VRAM dedicata.
  • Linux: sistemi x64 o ARM64 (aarch64), con Ubuntu 20.04 o successivo. Le versioni di Ubuntu successive alla 22 sono poco testate. Su x64 LM Studio include di serie il supporto AVX2.
  • I file dei modelli, da scaricare almeno una volta. Una volta ottenuti, LM Studio può lavorare anche del tutto offline.

I modelli linguistici possono consumare molta RAM, quindi tenete presente il valore consigliato quando scegliete quale modello scaricare.

Installare LM Studio su Windows, macOS o Linux

Scaricate LM Studio dal sito ufficiale del progetto, lmstudio.ai, e installatelo con la procedura normale del vostro sistema. Su Linux l’applicazione è distribuita come AppImage.

Finita l’installazione, avviate l’applicazione almeno una volta. Questo passaggio è obbligatorio: la documentazione della CLI lms chiarisce che lms si può usare solo dopo aver aperto LM Studio almeno una volta.

Verificare che la CLI lms sia disponibile

lms fa parte di LM Studio e non va installata a parte. È open source, con licenza MIT, e il codice sta nel repository lmstudio-ai/lms su GitHub. Per controllare che risponda, aprite un terminale e lanciate:

lms --help

Se tutto è a posto compare l’elenco dei comandi disponibili. Nell’esempio della documentazione, ottenuto lanciando lms da solo, ci sono i comandi per i modelli locali (chat, get, load, unload, ls, ps, import), quelli per il server (server, log) e quello per il runtime di inferenza (runtime). Se il terminale non trova il comando, avviate prima l’applicazione e poi riprovate.

Scaricare un modello con lms get

Il comando lms get cerca e scarica modelli dai repository online e li salva nella cartella dei modelli di LM Studio. Se lo lanciate senza indicare un nome, propone una selezione di modelli scelti dallo staff.

Come spiega la pagina di lms get, per scaricare un modello basta indicarne il nome:

lms get llama-3.1-8b

Molti modelli esistono in più quantizzazioni. Per sceglierne una precisa, aggiungete al nome il simbolo @ seguito dalla quantizzazione:

lms get llama-3.1-8b@q4_k_m

Il comando accetta anche opzioni per mostrare solo i modelli in formato MLX o GGUF e per limitare il numero di risultati. Se non indicate un formato, i risultati corrispondono ai runtime installati.

Vedere i modelli scaricati e quelli caricati in memoria

Un modello può essere presente su disco, cioè scaricato, oppure caricato in memoria e pronto a rispondere. Per vedere cosa c’è su disco:

lms ls

L’elenco riflette la cartella dei modelli impostata nella scheda My Models dell’app. Se avete appena usato lms get, qui dovreste trovare il modello scaricato: annotatevi il nome con cui compare. Per vedere invece quali modelli sono caricati in memoria in quel momento:

lms ps

Per caricare un modello in memoria la CLI offre lms load, per toglierlo lms unload.

Chattare con il modello in locale

lms chat serve a parlare con un modello direttamente nel terminale. La pagina di lms chat lo presenta come uno strumento per esperimenti veloci e per gli script. La forma più semplice è quella interattiva:

lms chat

Se non indicate un modello, il programma vi chiede di sceglierne uno. Poi scrivete i messaggi e leggete le risposte come in una normale chat. Mentre la chat è aperta, i comandi dei passaggi successivi vanno lanciati da un secondo terminale.

Per gli script c’è anche la modalità a colpo singolo. Con l’opzione -p il comando invia un solo prompt, stampa la risposta sullo standard output ed esce:

lms chat my-model -p "Summarize this release note"

Qui my-model è il nome d’esempio della documentazione: al suo posto va l’identificativo del vostro modello. Il testo tra virgolette è il prompt. Visto che la risposta finisce sullo standard output, potete salvarla in un file o passarla a un altro programma.

Il comando ha altre opzioni utili:

  • -s imposta un prompt di sistema personalizzato;
  • --stats mostra statistiche dettagliate dopo ogni risposta;
  • --ttl stabilisce per quanti secondi il modello resta caricato dopo la fine della chat (il valore predefinito è 3600, cioè un’ora);
  • lms chat legge anche dallo standard input, quindi potete passargli il contenuto di un file con una pipe.

Avviare il server locale compatibile OpenAI

Per chi sviluppa, la parte più utile è il server locale. Espone un’interfaccia compatibile con le API di OpenAI, così i programmi scritti per quel servizio possono usare il modello sul vostro computer. Si avvia così:

lms server start

Nell’esempio della documentazione, l’avvio produce questi messaggi:

Starting server...
Waking up LM Studio service...
Success! Server is now running on port 1234

Verificare che il server risponda sulla porta 1234

Il primo controllo si fa con la stessa CLI. Come spiega la pagina di lms server status, il comando mostra se il server è in esecuzione e con quale configurazione:

lms server status

Nell’esempio della documentazione, con il server attivo, la risposta è questa:

The server is running on port 1234.

Il secondo controllo passa dall’interfaccia HTTP, come farebbe un qualsiasi client esterno. L’endpoint /v1/models, descritto nella pagina List Models, restituisce i modelli visibili al server:

curl http://localhost:1234/v1/models

Se ricevete una risposta, l’interfaccia compatibile OpenAI funziona. Il contenuto dell’elenco dipende dai modelli visibili al server: quando è attivo il caricamento Just-In-Time, può comprendere tutti i modelli scaricati.

Usare il server da un client OpenAI

Qui non ci sono comandi da lanciare. Nella configurazione del client, della libreria o dello strumento che volete collegare, impostate come base URL http://localhost:1234/v1. È la stessa radice dell’endpoint usato sopra con curl, senza la parte finale /models.

Da quel momento le richieste del client arrivano al modello locale invece che a un servizio remoto. Come nome del modello usate uno di quelli restituiti da /v1/models.

Se il modello che vi interessa non compare nell’elenco, controllate con lms ps quali modelli sono caricati in memoria. Per caricarlo avete due strade:

  • aprire una sessione con lms chat e sceglierlo: finita la chat, il modello resta caricato per 3600 secondi, il valore predefinito di --ttl;
  • usare lms load seguito dal nome del modello; la panoramica della CLI mostra anche l’opzione --identifier, utile per assegnargli un identificativo che resti sempre uguale e da riusare nel client.

Poi ripetete la richiesta a /v1/models per controllare che il modello sia visibile.

Fermare il server e disinstallare LM Studio

Quando il server non serve più, fermatelo dal terminale:

lms server stop

Per ricontrollare lo stato potete usare di nuovo lms server status. Se volete togliere del tutto LM Studio, disinstallatelo con la procedura normale del vostro sistema operativo. I modelli scaricati stanno nella cartella indicata nella scheda My Models: tenetene conto se volete recuperare spazio su disco.

Se qualcosa va storto

  • Il comando lms non funziona: la CLI si può usare solo dopo aver avviato LM Studio almeno una volta. Aprite l’applicazione e riprovate.
  • LM Studio su un Mac Intel: i Mac con processore Intel per ora non sono supportati. Serve un Mac Apple Silicon con macOS 14.0 o successivo.
  • PC Windows x64 senza AVX2: sui sistemi x64 il supporto alle istruzioni AVX2 è obbligatorio.
  • Problemi su Ubuntu recente: le versioni successive alla 22 sono poco testate e gli sviluppatori chiedono di segnalare i problemi aprendo un bug.
  • Mac con 8 GB di RAM: conviene restare su modelli più piccoli e contesti modesti.

Documentazione di riferimento

Pagine ufficiali consultate il 29 settembre 2026:

Leggi anche