Vai al contenuto

llama.cpp e ggml alla 1.0.0: i cambi di API si vedranno dal numero

Grafica ufficiale del rilascio di llama.cpp versione 1.0.0.
Foto: Hugging Face

Se un programma usa libllama o libggml, da ora il numero di versione dice se un aggiornamento può rompere la compilazione: un salto di versione maggiore (per esempio da 1.x a 2.0) segnalerà una modifica incompatibile dell’API C pubblica. Lo scrive il team ggml-org in un post sul blog di Hugging Face del 13 novembre 2026, data in cui ha rilasciato la versione 1.0.0 di entrambe le librerie.

Cosa cambia con il numero di versione

Secondo Hugging Face, d’ora in poi sia llama.cpp sia ggml renderanno visibili con un aumento del numero maggiore le incompatibilità di API e di ABI (l’interfaccia binaria, cioè il modo in cui il codice già compilato si aggancia alla libreria). Le regole valgono per tutti i progetti ggml-org che usano il versionamento semantico.

Tipo di modifica Quando scatta
MAJOR Modifica incompatibile dell’API C pubblica nella cartella ./include
MINOR Funzione compatibile con le versioni precedenti, aggiornamenti dei backend, supporto a nuovi modelli o aggiunta all’API
PATCH Correzione di bug senza modifiche all’API

In pratica, un nuovo backend o un modello in più rientrano tra le modifiche MINOR, e le incompatibilità di API o di ABI saranno segnalate da un aumento del numero maggiore.

Quali librerie e quali header

Le release sono due, ciascuna con i propri header pubblici: llama.cpp v1.0.0 (inferenza di LLM in C/C++) fornisce libllama con gli header in llama.cpp/include/, mentre ggml v1.0.0 (libreria di tensori per il machine learning) fornisce libggml con gli header in ggml/include/.

Il motivo dichiarato è la diffusione: il progetto ha 3,5 anni di vita e, scrive il team, molte applicazioni a valle già dipendono dal suo lavoro. Ogni nuova integrazione significa più sviluppatori che si appoggiano alle interfacce delle librerie, quindi serve un’API flessibile ma stabile.

Cosa gira: modelli, backend, hardware

Hugging Face descrive llama.cpp come un modo per eseguire LLM multimodali su hardware che va dai computer di casa ai server aziendali, grazie a quantizzazione (la riduzione della precisione dei pesi per occupare meno memoria), backend ottimizzati e implementazione portabile in C/C++. Dal post:

  • oltre 150 varianti di architettura di modelli supportate;
  • tutti i principali metodi di speculative decoding supportati;
  • ogni backend di ggml può essere compilato come libreria dinamica e, se si vuole, caricato a runtime.

L’elenco completo dei backend è in una pagina a cui il post rimanda.

Dove si scarica e come si impacchetta

Il team indica i canali con cui il software ggml-org viene distribuito e dice di voler ampliarli. Chi vuole inserire i progetti nelle proprie pipeline di pacchettizzazione e rilascio trova il riferimento in una discussione linkata nel post.

Canale Piattaforme
Artefatti pre-release Linux, macOS, Windows, Android, iOS
Docker Linux
Debian Linux
Homebrew macOS, Linux
conda-forge Windows, macOS, Linux
MacPorts macOS
Winget Windows
XCFramework iOS, macOS

Prezzi e disponibilità per l’Italia non sono indicati nel post, che non riporta nemmeno la licenza del software.

Leggi anche

  • ggml
  • Homebrew
  • libggml
  • libllama
  • llama.cpp