Anthropic lavora a sistema per certificare l’identità AI
Anthropic si prepara a lanciare FlashProve, un sistema open source per certificare con prove crittografiche l’identità dei modelli AI.
Anthropic ha presentato un sistema open source pensato per verificare con certezza quale modello di intelligenza artificiale ha generato uno specifico output. Si chiama FlashProve e introduce una novità importante per chi cerca trasparenza nell’uso dei modelli AI, permettendo di controllare se una risposta arriva realmente dal modello dichiarato e non da un suo “sosia”.
La questione non è solo tecnica: la crescita dei servizi basati su AI ha reso fondamentale poter distinguere tra risposte autentiche di un modello e risultati prodotti da sistemi diversi, magari meno evoluti o più economici. FlashProve si basa su un principio simile alle firme digitali delle email: crea una prova matematica che collega in modo univoco una risposta al modello che l’ha generata. Questo sistema dovrebbe prevenire sostituzioni occulte, come l’uso di un modello meno costoso al posto di quello promesso, o il tentativo di far passare un output per qualcosa di più avanzato.
Come funziona FlashProve e cosa cambia per l’identità dei modelli AI
Per funzionare, FlashProve richiede che i laboratori AI pubblichino una sorta di “impronta digitale” (fingerprint) per ogni modello distribuito. Questa impronta può essere poi utilizzata per verificare, tramite crittografia, che un determinato output sia effettivamente riconducibile a quel modello. Il dettaglio interessante è che la fingerprint non rivela i pesi del modello, cioè i dati più riservati e strategici che le aziende come Anthropic o OpenAI non vogliono rendere pubblici. In questo modo, anche i modelli commerciali chiusi possono adottare il sistema senza rischiare di perdere valore competitivo.
Il processo di verifica è stato progettato per funzionare in modo leggero, anche su dispositivi locali e non solo su server remoti. Questo permette una verifica diffusa e accessibile, sia per sviluppatori che per utenti finali. FlashProve, almeno per ora, non verrà integrato direttamente nei prodotti Anthropic: il progetto è aperto e in fase di ricerca, con la documentazione tecnica e il codice già pubblici su GitHub per chi voglia studiarli o contribuire.
L’iniziativa mira a coinvolgere la community tech per migliorare il sistema, risolvendo un problema che riguarda chi sviluppa, distribuisce o utilizza servizi basati su AI generativa. Se il progetto prenderà piede, potrebbe diventare uno standard de facto per garantire l’autenticità e la tracciabilità delle risposte AI, offrendo maggiori garanzie sia alle aziende che agli utenti.
Fonte
