L’ANALISI
Granite 4.2 arriva in GGUF e MLX per il deployment locale
IBM distribuisce Granite 4.2 in taglie 3B, 8B e 30B con varianti GGUF, MLX, FP8, MXFP4 e NVFP4; SGLang 0.5.19 aggiunge il supporto.
In breve: IBM distribuisce Granite 4.2 in taglie 3B, 8B e 30B con varianti GGUF, MLX, FP8, MXFP4 e NVFP4; SGLang 0.5.19 aggiunge il supporto.
Che cosa cambia
Le varianti ufficiali coprono llama.cpp e Apple Silicon.
La famiglia comprende 3B, 8B e 30B.
Il supporto SGLang collega uso locale e serving.
Perché conta adesso
Il delta modifica ciò che un team può scaricare, eseguire, misurare o mettere in sicurezza oggi, distinto dall’annuncio originario del progetto.
Impatto operativo
La decisione utile è verificare compatibilità, costi e confini di sicurezza sul proprio ambiente prima di estendere il rollout.
Condizioni e limiti
La disponibilità di molte quantizzazioni non sostituisce test di qualità; 30B e precisioni alte richiedono molta più memoria.
Checklist pratica
- Scegli formato in base a runtime e hardware.
- Confronta almeno due quantizzazioni sul task.
- Conserva versione e checksum del checkpoint.