Vai al contenuto

llama.cpp b12413 corregge i token immagine di Inkling 2 e aggiunge sei casi di test al codice chat; DSpark resta fuori dall’integrazione.

L’ANALISI

llama.cpp: Inkling 2, conversione e immagini senza DSpark

llama.cpp b12413 corregge i token immagine di Inkling 2 e aggiunge sei casi di test al codice chat; DSpark resta fuori dall’integrazione.

6 min di letturaFatti, limiti e fonti primarie
PR 32217 di llama.cpp: supporto Inkling 2 per testo e visione, con esclusione esplicita di DSpark
La PR 32217 nel repository ufficiale llama.cpp: conversione e modello Inkling 2, senza lo speculatore DSpark. Schermata del 15 novembre 2026.

In breve: llama.cpp integra Inkling 2 per testo e immagini senza DSpark; la prerelease b12413 corregge anche la disposizione dei token immagine nella chat. Il fix elimina il blocco testuale vuoto descritto nella PR, ma non costituisce una prova di inferenza completa o di fattibilità sul portatile. Fix della PR 32294.

Verifica documentale del 15 novembre 2026: release REST, PR unita, file di conversione e proiettore al commit 5c008e00085f4d3e394f9a1be649284999de1326, model card e inventario Hugging Face. Nessun download dei pesi, benchmark o test end-to-end. La notizia è l’integrazione, non un nuovo lancio del modello.

Che cosa aggiunge davvero b12406?

Il delta verificato comprende il convertitore dei pesi testuali, l’architettura di inferenza e il percorso visivo separato. I file finali includono conversion/inkling2.py e tools/mtmd/models/inkling2v.cpp. Non basta quindi aggiornare soltanto il nome del modello in una configurazione: occorrono artefatti compatibili con questi percorsi. La PR è stata unita il 15 novembre alle 00:51 ora italiana; la prerelease REST è stata pubblicata alle 10:27. La data del feed non sostituisce questi due eventi.

llama.cpp, PR 32217: integrazione Inkling 2 senza DSpark · GitHub REST: prerelease b12406 e note di conversione · Convertitore Inkling 2 al commit dell’integrazione · Proiettore visivo Inkling 2 al commit dell’integrazione.

Testo e immagini usano lo stesso artefatto?

Il convertitore distingue il backbone testuale dal proiettore visivo: il percorso testo salta i tensori visivi e quelli MTP, mentre una classe dedicata gestisce la conversione del proiettore. Per valutare una futura distribuzione GGUF, controllerei quindi versione del runtime, modello testuale e proiettore corrispondente come tre elementi separati. La presenza di un file con il nome giusto non prova la correttezza della coppia né dell’elaborazione dell’immagine.

Convertitore Inkling 2 al commit dell’integrazione · Proiettore visivo Inkling 2 al commit dell’integrazione.

Perché DSpark e i test sintetici non provano il risultato completo?

L’autore esclude esplicitamente DSpark dall’integrazione. Le note della release descrivono fixture sintetiche per la conversione degli esperti e segnalano che la conversione del checkpoint reale non è stata testata in quel passaggio. È una limitazione da conservare, non un dettaglio da cancellare quando si riassume la release. I test di componenti documentati dal progetto non sono un nostro collaudo del modello completo, e non autorizzano promesse su velocità, qualità o parità tra backend.

llama.cpp, PR 32217: integrazione Inkling 2 senza DSpark · GitHub REST: prerelease b12406 e note di conversione.

Il supporto GGUF rende Inkling 2 Small adatto a un portatile?

Non è dimostrato. La model card dichiara 594 miliardi di parametri totali e 17 miliardi attivi; per il checkpoint NVFP4 indica almeno 500 GB di VRAM aggregata nel percorso GPU descritto. Questi sono requisiti del checkpoint e dello stack indicati dal produttore, non una misura del futuro percorso GGUF su CPU o con offload. I parametri attivi non sostituiscono il peso totale nel preventivo di memoria. Senza misure proprie non trasformerei questa integrazione in un consiglio di acquisto o in una promessa di uso domestico.

Thinking Machines: model card di Inkling 2 Small · Hugging Face: revisione e inventario del checkpoint.

Quale prova fare prima di cambiare runtime?

Il primo confronto proposto è di correttezza: una richiesta testuale ripetibile e una singola immagine non sensibile, con gli stessi artefatti e la stessa revisione. Solo dopo confronterei tempi, memoria di picco e stabilità su più richieste. Conservare log, comandi, hash e un caso negativo con proiettore incompatibile rende la prova controllabile. Se memoria o artefatti non sono disponibili, la conclusione corretta è compatibilità documentata ma fattibilità locale non verificata.

Convertitore Inkling 2 al commit dell’integrazione · Proiettore visivo Inkling 2 al commit dell’integrazione.

Che cosa corregge b12413 nei token immagine?

Aggiornamento del 15 novembre, verificato sulla prerelease REST pubblicata alle 13:38 ora italiana. La PR 32294, unita alle 09:41, descrive un blocco testuale vuoto aggiunto prima dell’immagine e sposta la separazione dei media nel codice del template chat. Nei file modificati compaiono sei casi di regressione: immagine prima del testo, testo prima dell’immagine, sola immagine, due immagini, immagine tra due testi e solo testo. Sono asserzioni presenti nel repository, non test eseguiti da questa redazione. Il delta riguarda la costruzione del prompt: non aggiunge DSpark, non cambia i pesi e non dimostra qualità visiva o prestazioni end-to-end.

PR 32294: disposizione dei token immagine di Inkling 2 · Prerelease b12413: data e stato REST · Fix Inkling 2 e sei casi nel codice test-chat

Checklist pratica proposta

  • Fissare b12406 o il commit 5c008e00085f4d3e394f9a1be649284999de1326, senza confondere prerelease e versione stabile.
  • Verificare la revisione del checkpoint, la licenza dichiarata e il budget di memoria prima di scaricare i pesi.
  • Controllare che modello testuale e proiettore visivo provengano da conversioni compatibili e conservare i relativi hash.
  • Provare prima testo, poi un’immagine non sensibile; registrare errori e memoria, non soltanto una risposta riuscita.
  • Non attribuire a questa integrazione DSpark, test completi del checkpoint o prestazioni mai misurate.
  • Per una prova visiva, registrare anche la revisione che include il fix della PR 32294 e controllare l’ordine dei blocchi immagine/testo nel prompt.

Condizioni e limitazioni

Prerelease e analisi del codice, non prova d’inferenza. DSpark escluso; il checkpoint completo non è stato convertito o eseguito in questo controllo. I requisiti GPU della model card non certificano un percorso GGUF domestico.

Modelli AI locali: come scegliere LLM, hardware e runtime

Fonti primarie

Radar AI · a cura di Francesco Gruner

Chiedi al sito.

Assistente OpenAI

Le domande vengono inviate a OpenAI. Non inserire dati personali o riservati. Privacy.

Verifica le risposte nelle fonti. 16 messaggi al giorno per rete.

Cosa cerchi? Ti indico le pagine utili.