L’ANALISI
textGrain di OpenAI: come cambia la provenienza del testo AI in Europa
Che cosa introduce textGrain, dove OpenAI applicherà il watermark testuale, quali limiti dichiara e come valutarlo senza confonderlo con una prova di autenticità.
In breve: textGrain inserisce un segnale statistico invisibile nelle scelte lessicali del modello. OpenAI lo offre come opzione API per alcuni modelli e lo applicherà agli output idonei di ChatGPT e Codex nell’Unione europea, ma editing, traduzione e testi brevi possono ridurne l’affidabilità.
Il delta operativo
Dal 5 ottobre i clienti API possono attivare il watermarking per alcuni modelli, mentre l’opzione resta disattivata per impostazione predefinita. Nelle settimane successive OpenAI prevede un rollout sugli output testuali idonei di ChatGPT e Codex nell’Unione europea, su tutti i piani.
Come funziona textGrain
Il sistema modifica statisticamente le scelte di parole del modello per lasciare un segnale invisibile. Un rilevatore cerca quel segnale nel testo. Non è un’etichetta visibile e non associa il contenuto a utente, account, prompt o conversazione.
Accesso al rilevatore
Ricercatori approvati e organizzazioni esperte possono candidarsi per usare il detector. L’accesso iniziale è caso per caso, quindi non è ancora uno strumento pubblico universale.
Che cosa non dimostra
Un risultato positivo indica la presenza del segnale OpenAI, non la quantità di lavoro umano, la proprietà, la liceità, la responsabilità o la veridicità del testo. Un risultato negativo non prova origine umana.
Condizioni e limitazioni
Il segnale statistico può indebolirsi con modifiche, traduzioni o testi brevi. Un watermark non misura il contributo umano, non prova proprietà, responsabilità o accuratezza e la sua assenza non dimostra che un testo sia umano.
Checklist per una valutazione corretta
- Verificare quali modelli e output siano idonei.
- Registrare modello, regione, data e stato del watermark.
- Conservare il testo originale prima di editing o traduzione.
- Non usare il rilevatore come prova unica in decisioni disciplinari o legali.
- Misurare falsi positivi e falsi negativi sul proprio corpus.
- Separare il segnale da accuratezza e qualità del contenuto.
- Prevedere revisione umana e una procedura di contestazione.