llama.cpp Responses: come passa lo schema JSON

In breve: llama.cpp b12240 traduce la configurazione JSON schema della Responses API nel formato interno di Chat Completions. La modifica riguarda il passaggio dei vincoli: il JSON prodotto va comunque validato rispetto allo schema e alle esigenze applicative. llama.cpp: PR 26145, conversione dello schema Responses.

Letti release b12240, PR 26145 e diff di server-chat.cpp e test-chat.cpp. Nessun server o client applicativo avviato per questa verifica.

Dove avveniva il passaggio dei vincoli?

La Responses API del server converte le richieste in Chat Completions. La PR aggiunge a questa conversione la gestione dell’oggetto text e del suo campo format. Se il tipo è json_schema, costruisce il response_format corrispondente e porta nello spazio corretto nome, schema e strict. La modifica interessa dunque il trasporto dei vincoli tra due rappresentazioni della richiesta. Non è un modello nuovo né un miglioramento misurato della sua capacità di estrazione.

llama.cpp: PR 26145, conversione dello schema Responses · llama.cpp: diff della conversione e relativi test.

Quali configurazioni tratta il diff?

Il codice verifica che text e text.format siano oggetti. Per json_schema costruisce l’involucro atteso da Chat Completions; per json_object e text usa il formato corrispondente. Un tipo non vuoto diverso da quelli previsti produce un errore di argomento. Il test copre inoltre l’interazione con extra_params: un response_format fornito lì può sovrascrivere quello convertito. È un motivo pratico per conservare il payload completo e non guardare solo il campo visibile nell’interfaccia.

llama.cpp: diff della conversione e relativi test.

Perché è diverso dal fix già pubblicato ieri?

La notizia del 9 novembre riguardava la gestione dello schema indicato al livello principale nel percorso già usato dal server. Questo delta aggiunge invece la conversione della configurazione text.format proveniente dalla Responses API. Entrambi possono influire su un’applicazione con output strutturato, ma intervengono in punti diversi. Per deduplicare occorre confrontare il fatto tecnico e il percorso API, non soltanto le parole schema JSON nel titolo.

llama.cpp: PR 26145, conversione dello schema Responses · llama.cpp: diff della conversione e relativi test.

Come validare un client dopo l’aggiornamento?

Preparare uno schema piccolo con un campo obbligatorio e proprietà aggiuntive vietate, poi conservare il payload Responses esatto e la risposta ricevuta. Validare il JSON con uno strumento indipendente e ripetere il caso con una configurazione extra_params controllata. Separare quattro esiti: richiesta accettata, risposta JSON parsabile, rispetto dello schema e dato semanticamente corretto. I test del progetto documentano la conversione, non sostituiscono questa verifica dell’applicazione finale.

llama.cpp b12240: oggetto release ufficiale · llama.cpp: diff della conversione e relativi test.

Condizioni e limitazioni

Build GitHub marcata prerelease. I test dichiarati nel repository non sono una nostra esecuzione e non dimostrano equivalenza completa delle API, supporto di ogni schema o correttezza semantica delle risposte.