Step 5 Preview di StepFun: MoE da 600B parametri e 1M di contesto
Secondo StepFun, Step 5 Preview può muoversi in una grande base di codice, coordinare modifiche su più file, eseguire il programma, verificare il risultato e correggere. È il modello di punta di StepFun per il lavoro agentico, cioè in cui il modello usa strumenti e porta avanti un compito in più passaggi. Come si legge sulla scheda di StepFun su Hugging Face, è un Mixture-of-Experts (MoE, un’architettura in cui per ogni token lavora solo una parte dei parametri) da 600 miliardi di parametri totali, 27 miliardi attivi, con contesto fino a 1 milione di token.
I pesi si possono servire in proprio con vLLM o SGLang, ma gli esempi di StepFun partono da nodi con 4 GPU B300 o 8 GPU H200. La licenza prevede obblighi di attribuzione e un accordo commerciale separato per alcuni usi.
Cosa sa fare, secondo StepFun
StepFun dichiara prestazioni di livello «frontier» nell’ingegneria del software e nel lavoro professionale, con una forza particolare nella finanza. Sono dichiarazioni dell’azienda: nel testo della scheda non compaiono i valori dei test.
- Ingegneria del software: sviluppo a livello di repository, frontend e sviluppo visuale, programmazione per dispositivi. Il modello esegue e verifica il codice e itera sui risultati.
- Esecuzione agentica a lungo orizzonte: compiti che richiedono chiamate ripetute a strumenti, esecuzione, verifica e revisione, attingendo al contesto lungo per tutta la durata del lavoro.
- Lavoro professionale: ricerca, comprensione multimodale e uso di strumenti per analizzare documenti lunghi, grafici, screenshot, immagini e video e produrre report e analisi strutturati.
- Finanza: compiti che uniscono ragionamento quantitativo, analisi di dati finanziari e documenti di supporto.
Le specifiche: 600B totali, 27B attivi
L’architettura è un MoE sparso: dei 600 miliardi di parametri ne sono attivi 27 miliardi. Il contesto arriva a 1 milione di token e anche l’output massimo è dichiarato fino a 1 milione, ma il limite vale per ingresso e uscita insieme.
| Voce | Step 5 Preview |
|---|---|
| Architettura | Sparse Mixture-of-Experts |
| Parametri totali | 600B |
| Parametri attivi | 27B |
| Contesto | fino a 1M di token |
| Output massimo | fino a 1M di token |
| Input | testo, immagini |
| Output | testo |
Nota sull’input: la tabella delle specifiche elenca testo e immagini, mentre l’introduzione della stessa pagina parla di testo, immagini e video. La scheda non chiarisce la differenza.
Che hardware serve per servirlo
StepFun indica tre strade: un’API compatibile OpenAI con vLLM o SGLang, oppure la generazione offline con l’implementazione Transformers standalone. Esistono checkpoint FP8 e BF16; gli esempi sono questi.
| Framework | Precisione | Hardware d’esempio |
|---|---|---|
| vLLM | FP8 | un nodo B300 con 4 GPU, oppure un nodo H200 con 8 GPU |
| vLLM | BF16 | un nodo B300 con 8 GPU, oppure due nodi H200 con 16 GPU |
| SGLang | FP8 | un nodo B300 con 4 GPU, oppure un nodo H200 con 8 GPU |
| Transformers (offline) | FP8 | un nodo H200 con 8 GPU |
| Transformers (offline) | BF16 | due nodi H200 con 16 GPU |
Limiti e condizioni dichiarate
- I risultati mostrati usano l’impostazione di ragionamento High. Le impostazioni consigliate per l’inferenza sono
temperature=1.0,top_p=0.95,top_k=0. - I punteggi GDPval-AA v2.1 si basano sui risultati di Artificial Analysis al 20 settembre 2026. Le valutazioni DeepSWE v1.1 usano l’harness SWE-agent con
temperature=1.0etop_p=0.95. - Serve una build del framework che includa il supporto a Step 5 Preview, comprese le funzioni di reasoning, tool-call e speculative decoding usate nei comandi.
- Memoria necessaria, contesto utilizzabile e concorrenza dipendono da checkpoint, framework e allocazione della KV cache. Le configurazioni BF16 non garantiscono memoria sufficiente per una richiesta da 1M di token. Se la KV cache non basta, StepFun suggerisce di ridurre
--max-model-leno la concorrenza. - Impostare
--dtype bfloat16sul checkpoint FP8 non lo converte in BF16: per BF16 serve un checkpoint BF16. - Il flusso Transformers in BF16 (da
convert.pyagenerate.py --tp-dir) non è ancora stato validato end to end. Finora sono stati verificati nomi e forme dei checkpoint, la conversione e la generazione su un modello BF16 piccolo e l’inferenza del modello completo con pesi in streaming.
Licenza: stile Apache 2.0, con condizioni in più
Pesi, parametri, configurazione, tokenizer, codice specifico del modello e documentazione sono sotto la StepFun Model License 1.0. La pagina su Hugging Face la classifica come «other». StepFun la descrive come una licenza di stile Apache-2.0 con condizioni aggiuntive di attribuzione e di licenza commerciale, e il testo prevede restrizioni commerciali specifiche. Produttori e titolari di marchi hardware devono stipulare un accordo separato prima di offrire commercialmente le capacità del modello nei dispositivi o nei servizi associati, anche tramite cloud. L’accordo serve anche per qualsiasi uso commerciale da parte di chi, direttamente o tramite affiliate, gestisce un’attività MaaS, se i ricavi complessivi del gruppo superano 20 milioni di dollari in dodici mesi consecutivi. Sono esclusi dall’obbligo gli usi interni che non rendono disponibili a terzi il modello, i suoi derivati, i relativi output o le capacità sottostanti, e l’uso del modello o di derivati ottenuti tramite canali di distribuzione certificati da StepFun, nei limiti della certificazione. Restano gli obblighi di attribuzione della sezione 2(b). Il testo completo è nel file LICENSE.txt del repository.
Come provarlo
- Per vLLM l’immagine Docker è
vllm/vllm-openai:step-5-preview; per SGLang èlmsysorg/sglang:step-5-preview. - Gli esempi espongono il server sulla porta 18000 con vLLM e sulla 30000 con SGLang, con nome del modello
step5. La richiesta di prova è una chiamata curl all’endpoint/v1/chat/completions. - SGLang ha un Cookbook dedicato con configurazioni più ottimizzate.
- L’accesso via API passa dalla piattaforma di StepFun (platform.stepfun.ai), che ha anche la documentazione ufficiale. La pagina del modello sul sito StepFun raccoglie contesto di valutazione e casi di studio a lungo orizzonte. Nella scheda non sono indicate tariffe, né dettagli sulla disponibilità in Italia.
