Google DeepMind zegt met AlphaProof Code geselecteerde beveiligingseigenschappen van de code achter het Signal-protocol te hebben bewezen, ook op het niveau van gecompileerde code. WIRED meldde dat het project vier weken duurde en dat de Signal-app als geheel niet formeel is geverifieerd. Google DeepMind beschreef de methode.
Een formeel bewijs geldt voor nauwkeurig omschreven eigenschappen van code; het is geen automatische garantie voor elke functie van een app.
Welke beveiligingseigenschappen zijn bewezen?
Formele verificatie zet een beveiligingsdoel om in een wiskundige specificatie en controleert vervolgens of de code aan die specificatie voldoet. Google DeepMind zegt dat de bewijzen betrekking hadden op daadwerkelijke code achter het Signal-protocol, inclusief gecompileerde code. Als voorbeeld noemt het bedrijf bescherming van berichten vóór en na een tijdelijke compromittering van een apparaat.
De bewijzen gingen dus over gekozen eigenschappen van protocolcode. De Signal-app als geheel viel buiten de verificatie, meldde WIRED.
Hoe werkten mensen en AI samen?
Google DeepMind omschrijft AlphaProof Code als een framework waarin menselijke expertise en AI-agenten samenwerken. Onderzoekers en modellen vertaalden beveiligingsdoelen naar formele wiskundige specificaties; menselijke experts beoordeelden elke specificatie.
Daarna genereerden AI-agenten op basis van Gemini Carbon volgens Google DeepMind meer dan zes miljoen regels Lean-bewijscode. Lean is een systeem dat formele bewijzen mechanisch controleert. De agenten markeerden volgens het bedrijf 1% van de codebasis voor extra menselijke controle; Lean controleerde de rest. Google DeepMind beschrijft deze werkwijze.
Wat toonde de test met twee bugs aan?
Google DeepMind zegt dat onderzoekers twee eerder verholpen bugs opnieuw invoerden in een geïsoleerde versie van de Signal-code. AlphaProof Code leverde voor beide foutieve versies een machinaal gecontroleerd bewijs dat ze onveilig waren. Het resultaat geldt voor die twee teruggezette bugs.
WIRED meldde dat de onderzochte actuele onderdelen geen nieuwe kwetsbaarheden opleverden. Oudere versies met bekende, verholpen kwetsbaarheden faalden volgens het tijdschrift bij formele verificatie.
Google DeepMind zegt de artefacten van de formele verificatie open source beschikbaar te stellen.