Vai al contenuto

vLLM 0.34.0 elimina il vecchio runner e cambia cache e requisiti ROCm; llama.cpp corregge tre difetti del prefill OpenCL su Adreno.

Radar AI / Edizione giornaliera

IL PUNTO SULL’AI

17 novembre 2026

vLLM 0.34.0 elimina il vecchio runner e cambia cache e requisiti ROCm; llama.cpp corregge tre difetti del prefill OpenCL su Adreno.

2 notizie1 min di letturaVerificato alle 08:19
Inferenza01
Tabella ufficiale di migrazione di vLLM 0.34.0 con runner, cache KV, block size e requisiti ROCm

La release stabile rimuove Model Runner V1, attiva la cache KV estensibile per default e porta il block size ordinario a 64. Cambiano anche gli artefatti ROCm e le dipendenze: non è un aggiornamento trasparente per tutte le configurazioni. vLLM 0.34.0: note ufficiali e controlli prima dell’aggiornamento.

Limiti da conoscere

Limite: Le prestazioni riportate sono del progetto e dipendono da modello e hardware. La paged attention ROCm mantiene block size 16. Nessun aggiornamento o benchmark indipendente è stato eseguito qui.

AI locale02
Descrizione ufficiale della PR llama.cpp sui tre difetti OpenCL Adreno: memoria, q8_0 e contesto lungo

La prerelease b12456 interviene su un’immagine non rilasciata, sui risultati errati con cache K/V q8_0 e head size 512 e sul superamento dei limiti delle immagini 3D. Le correzioni riguardano il percorso della libreria di kernel Adreno. llama.cpp: PR sui tre difetti del prefill flash-attention Adreno.

Limiti da conoscere

Limite: La PR precisa che senza la libreria di kernel il comportamento non cambia. Le misure su Adreno X2-90 sono dell’autore, non benchmark riprodotti né una promessa per tutte le GPU.

LA COMMUNITY SCEGLIE

Quale notizia merita un test?

Scegli una notizia qui sotto o usa “Mi interessa” nella sua scheda. Un voto per edizione su questo dispositivo, senza iscrizione.

Radar AI · a cura di Francesco Gruner

Chiedi al sito.

Assistente OpenAI

Le domande vengono inviate a OpenAI. Non inserire dati personali o riservati. Privacy.

Verifica le risposte nelle fonti. 16 messaggi al giorno per rete.

Cosa cerchi? Ti indico le pagine utili.