Vai al contenuto

Canonical pubblica Inference Manager per gestire i modelli IA locali su Ubuntu

Grafica ufficiale Canonical Inference Manager con diagramma di modelli IA
Immagine: progetto inference (GitHub)

Inference Manager è uno strumento da riga di comando che Canonical ha pubblicato su Snap Store con il nome di pacchetto inference: riunisce la gestione dei provider di modelli IA installati in locale e l’accesso ai modelli. Secondo la pagina ufficiale dello snap, la versione è la 1.0.1 nel canale latest/stable, con ultimo aggiornamento il 13 novembre 2026. Per chi fa girare modelli in locale su Ubuntu, la novità pratica è che le applicazioni si collegano a un singolo endpoint locale, che instrada le richieste ai provider in esecuzione sulla macchina, mentre i provider si gestiscono da terminale.

Cosa fa Inference Manager

Secondo la pagina, lo strumento permette di:

  • scoprire i provider di inferenza disponibili e ispezionarne modelli e motori;
  • installare e rimuovere gli inference snap da riga di comando;
  • elencare i modelli disponibili tramite l’inference proxy;
  • controllare lo stato del servizio e la salute dei provider;
  • inviare richieste di inferenza attraverso un unico endpoint locale.

La pagina non spiega che cosa sia l’inference proxy, né indica modelli o motori supportati oltre all’esempio gemma4, né requisiti hardware.

Installazione e primi comandi

L’installazione passa da snapd e dal comando sudo snap install inference. La pagina menziona Ubuntu 16.04 o successivo per lo store desktop e rimanda alla documentazione di snapd per le altre distribuzioni. I primi passi indicati da Canonical sono questi:

  • inference find per scoprire i provider disponibili;
  • inference install gemma4 per installare un provider ottimizzato;
  • inference models per esplorare i modelli;
  • curl http://localhost:8400/v1/models per integrare un agente, con l’indicazione «OpenAI and SystemOne» (la pagina non spiega che cosa sia SystemOne);
  • sudo snap get inference per vedere le configurazioni e sudo snap set inference <chiave>=<valore> per modificarle.

Versione, licenza e distribuzioni

Lo snap è pubblicato dall’account verificato Ubuntu e rientra nella categoria Productivity. L’aggiornamento del 13 novembre 2026 compare sia in latest/stable sia in latest/beta.

La licenza è la GPL-3.0-only. Il codice sorgente si trova su github.com/canonical/inference e le segnalazioni di bug vanno aperte nel tracker github.com/canonical/inference/issues.

Le istruzioni per installare snapd riguardano anche Arch Linux, Debian, Fedora, openSUSE e Red Hat Enterprise Linux, fra le altre.

Leggi anche

  • gemma4
  • GPL-3.0
  • Inference Manager
  • Snap Store
  • Ubuntu