L’ANALISI
llama.cpp b12223: corrette scale per Granite NVFP4
llama.cpp b12223 applica le scale NVFP4 nei blocchi FFN di Granite: fix in tre file, non nuovi pesi. Build pre-release e test da ripetere.
In breve: llama.cpp b12223 include la correzione delle scale NVFP4 nei blocchi FFN di Granite. La PR 31449 collega al calcolo scale già caricate: cambia la correttezza del percorso numerico, non rende disponibili nuovi pesi e non misura uno speedup. Release ufficiale llama.cpp b12223.
Verifica documentale del 9 novembre 2026 su release, PR integrata e diff completo di tre file. Nessuna compilazione, conversione di pesi o prova su GPU eseguita per questa analisi.
Quale errore corregge la patch?
La PR descrive scale per tensore NVFP4 presenti nel caricamento ma non utilizzate nel calcolo FFN. Il diff sostituisce argomenti NULL con i tensori di scala nei percorsi Granite dense, hybrid e SWA; copre anche rami MoE e shared. Il punto operativo è distinguere un file che si carica da un grafo che applica tutti i suoi parametri.
PR 31449: scale dei pesi Granite NVFP4 · Diff completo dei tre file Granite.
Che cosa dimostrano i risultati pubblicati?
L'autore riporta una perplexity anomala prima della patch e valori nuovamente confrontabili con riferimenti Q8 e Q4 dopo la modifica, su un caso Granite specifico. È la segnalazione che motiva il fix, non una nostra replica. La perplexity non è un rapporto di velocità: trasformarla in un moltiplicatore prestazionale sarebbe scorretto.
PR 31449: scale dei pesi Granite NVFP4.
Quale build contiene il cambiamento?
La release GitHub b12223, pubblicata il 9 novembre alle 12:52 UTC, richiama la PR 31449 integrata nello stesso giorno. La risposta ufficiale la marca pre-release. Nell'inventario verificato compare già la successiva b12224: b12223 è il punto di introduzione qui documentato, non una dichiarazione sull'ultima versione disponibile né una raccomandazione di aggiornare produzione senza prove.
Release ufficiale llama.cpp b12223 · Inventario ufficiale delle build llama.cpp.
Come preparare un confronto riproducibile?
In un ambiente autorizzato, conserva binario precedente, checkpoint e hash. Ripeti lo stesso dataset con backend, contesto e parametri invariati, annotando commit e log. Valuta prima errori numerici e qualità; misura latenza e throughput in una prova separata. Questo è un protocollo proposto, non un test già eseguito: non occorre cambiare quantizzazione per attribuire alla sola patch un risultato diverso.
PR 31449: scale dei pesi Granite NVFP4 · Diff completo dei tre file Granite.
Checklist pratica
- Identifica esattamente checkpoint Granite, formato NVFP4 e hash del file.
- Conserva binario precedente e configurazione per il ripristino.
- Verifica che il commit provato includa la PR 31449; annota lo stato pre-release.
- Confronta qualità sullo stesso dataset senza cambiare backend o parametri.
- Registra separatamente correttezza, tempi e memoria; non dedurre speedup dalla perplexity.
Condizioni e limitazioni
b12223 è marcata pre-release, non stable; esiste già b12224. La perplexity riportata appartiene all'autore della PR: nessuna replica indipendente o misura di velocità.