Google DeepMind afferma di aver usato AlphaProof Code per dimostrare proprietà di sicurezza selezionate del codice che implementa il protocollo Signal, compreso il codice compilato. WIRED ha riferito che il progetto è durato quattro settimane e che la verifica non ha riguardato l’intera app mobile Signal.
Quali parti del protocollo sono state verificate
La verifica ha riguardato proprietà specifiche del codice del protocollo, non ogni componente dell’app. Tra gli esempi indicati da Google DeepMind c’è la protezione dei messaggi prima e dopo la compromissione temporanea di un dispositivo. L’azienda descrive il lavoro come una verifica del codice compilato, così da collegare le proprietà di sicurezza specificate al codice effettivamente sottoposto a controllo. Google DeepMind
La verifica formale consiste nel definire una proprietà in termini matematici e controllare una dimostrazione rispetto a quella specifica. Il perimetro conta: una prova sulle proprietà selezionate non equivale a un controllo dell’intero software.
Come hanno collaborato esperti, agenti IA e Lean
Google DeepMind descrive AlphaProof Code come un sistema che combina più modelli linguistici, agenti IA ed esperienza umana. Ricercatori e modelli hanno tradotto gli obiettivi di sicurezza in specifiche matematiche; esperti umani hanno esaminato ogni specifica. Gli agenti basati su Gemini Carbon hanno poi generato oltre sei milioni di righe di prove in Lean, uno strumento che controlla formalmente le dimostrazioni.
Secondo Google DeepMind, gli agenti hanno segnalato l’1% del codebase per un ulteriore controllo umano, mentre Lean ha verificato il resto. Le persone, quindi, hanno contribuito sia a definire le proprietà da dimostrare sia alla revisione indicata dal sistema.
Una prova può rispondere soltanto alla domanda formulata nella specifica: definirne bene il perimetro è parte essenziale della verifica.
Che cosa ha mostrato il test con due bug
Per un test separato, i ricercatori hanno reinserito due bug già corretti in una versione isolata del codice Signal. Google DeepMind afferma che AlphaProof Code ha prodotto, per entrambe le versioni difettose, prove verificate da Lean che ne dimostravano l’insicurezza. Il risultato riguarda quei due difetti reintrodotti.
WIRED ha inoltre riferito che nelle porzioni attuali esaminate non sono emerse nuove vulnerabilità, mentre versioni precedenti con vulnerabilità note e già corrette non hanno superato la verifica formale. Sono risultati riferiti a parti e proprietà specifiche del codice del protocollo, non a un’analisi dell’intera app Signal.