L’ANALISI
Step 5 Preview: pesi ufficiali BF16 e deployment locale
Analisi pratica dei pesi ufficiali Step 5 Preview: checkpoint BF16, licenza, requisiti hardware, vLLM, SGLang, Transformers e checklist di verifica.
In breve: Il delta del 15 ottobre è concreto: Step 5 Preview non è più soltanto un modello accessibile via API, perché StepFun ha aperto il repository ufficiale con checkpoint BF16 e codice di inferenza. È però un artefatto da infrastruttura multi-GPU, non un modello locale da laptop, e la licenza personalizzata va verificata prima di un uso commerciale.
Dal lancio ai pesi ufficiali
StepFun aveva annunciato Step 5 Preview il 20 settembre con accesso API e apertura dei pesi prevista per il 15 ottobre. Il repository ufficiale ora è pubblico e non gated: il fatto nuovo è la disponibilità verificabile degli artefatti, distinta dalla data dell’annuncio iniziale.
Che cosa si può scaricare
Il repository BF16 contiene 24 shard Safetensors del modello principale, pesi separati per il vision encoder e per i moduli multi-token prediction, tokenizer, configurazione, template chat e una implementazione standalone. Questo permette ispezione, conversione e inferenza offline senza dipendere esclusivamente dall’API StepFun.
Come si esegue
La scheda documenta serving OpenAI-compatible con vLLM o SGLang e generazione offline con Transformers o con l’implementazione inclusa. Le build devono includere il supporto specifico per Step 5 Preview, compresi reasoning, tool call e speculative decoding: una installazione generica non garantisce compatibilità.
Scala e requisiti reali
L’architettura è un MoE da 600B parametri totali e 27B attivi per token, con contesto dichiarato fino a un milione di token e input testuale e visivo. La configurazione FP8 indicata dal produttore usa un nodo con quattro B300; il checkpoint BF16 è ancora più impegnativo in archiviazione e memoria.
Licenza e confini
La model card non dichiara Apache o MIT, ma rimanda alla licenza StepFun. Prima di integrare i pesi occorre leggere condizioni d’uso, distribuzione e impiego commerciale. Anche con i file disponibili, benchmark e sicurezza restano da validare sul proprio harness, sui propri dati e con il profilo di quantizzazione scelto.
Che cosa misurare
Un test utile separa qualità del modello, prestazioni del runtime e costo dell’infrastruttura. Vanno registrati commit esatto, precisione, parallelismo, lunghezza dei prompt, throughput, latenza, memoria, stabilità dei tool call e risultati su task interni; il solo confronto con le tabelle del produttore non basta.
Condizioni e limitazioni
Open weight non significa modello leggero né licenza permissiva: la scheda usa una licenza StepFun personalizzata. Il deployment FP8 indicato richiede quattro GPU B300 su un nodo; i benchmark restano dichiarazioni del produttore e non sono stati riprodotti in questo aggiornamento.
Checklist pratica
- Bloccare il commit del repository e archiviare licenza, model card e configurazione.
- Calcolare spazio, memoria e topologia GPU prima di scaricare gli shard completi.
- Usare una build vLLM o SGLang che dichiari esplicitamente supporto a Step 5 Preview.
- Avviare prima un test breve con prompt testuali e tool call controllati.
- Verificare separatamente input visivi, contesto lungo e speculative decoding.
- Misurare qualità, throughput, latenza e memoria su un set interno riproducibile.
- Confermare i diritti della licenza StepFun prima di ridistribuzione o uso commerciale.