Anthropic veröffentlichte am 2. November 2026 FlashProve als quelloffenen Forschungsprototyp. Das Verfahren soll prüfen, ob ausgewählte Ausgabetokens zu einem Modell mit zuvor festgelegten Gewichten passen. Der Nachweis verrät die Gewichte nicht, bestätigt aber weder die Richtigkeit einer Antwort noch beliebige Einstellungen bei der Textgenerierung.

Was FlashProve nachweisen soll

Ein zkSNARK ist ein kompakter kryptografischer Beweis, mit dem sich eine Aussage prüfen lässt, ohne bestimmte geheime Informationen offenzulegen. Bei FlashProve bindet ein sogenanntes Commitment den Nachweis an eine konkrete Auswahl von Modellgewichten. Ein Prüfer kann dann anhand dieses Commitments, des Prompts und der Antwort kontrollieren, ob das festgelegte Modell die behaupteten Tokens unter der beschriebenen Berechnung erzeugt.

Dabei bleiben die Gewichte und bestimmte Zwischenwerte verborgen. Die Modellarchitektur wird hingegen nicht geheim gehalten. Und der Nachweis sagt nichts darüber aus, ob eine Antwort sachlich richtig oder ein Modell sicher ist.

Vom Commitment zum Proof

Zuerst wird das Commitment einmal pro Modell vorbereitet. Anthropic gibt für diese Offline-Phase rund 39 Minuten an; es soll für etwa 16 Millionen Anfragen reichen. Der Client lädt ein Commitment von ungefähr 6,5 MB herunter. Für ausgewählte Tokens entsteht anschließend ein Proof, den ein Prüfer kontrolliert, ohne die Modellgewichte zu benötigen.

FlashProve arbeitet nachträglich: Es erstellt Proofs für fertige Texte in Stapeln, statt jedes Token während der Generierung unmittelbar zu belegen. In der beschriebenen Auswertung prüft jeder Proof ein Token. Das bedeutet zusätzliche Berechnung und eine Verzögerung, bevor der Nachweis vorliegt. Anthropic nennt außerdem möglichen Zeitverlust durch Seitenkanäle bei der Beweiserzeugung als Risiko.

Was Anthropic gemessen hat

Anthropic erprobte das Verfahren mit Llama 4 Maverick, einem Mixture-of-Experts-Modell mit 400 Milliarden Parametern, von denen ungefähr 17 Milliarden pro Token aktiv sind. Verwendet wurden öffentlich verfügbare, von Dritten erstellte 4-Bit-Gewichte. Die Auswertung lief mit einer H100-GPU und 24 CPU-Kernen. Für einen Stapel aus 24 Anfragen nennt Anthropic rund 223 Sekunden Beweiszeit und einen Durchsatz von etwa 110 Tokens pro Sekunde; ein Proof war 18,78 MB groß.

Der angegebene Durchsatz ist die Geschwindigkeit der Beweiserzeugung, nicht die gewöhnliche Inferenzgeschwindigkeit des Modells. Im Vergleich mit vLLM für denselben Modelltyp, dessen FP8-Version auf acht H100-GPUs lief, berichtet Anthropic etwa 72-mal so viel GPU-Zeit pro GPU. Je nach Lauf lag der Faktor bei 66 bis 77; bei der höchsten getesteten vLLM-Auslastung waren es rund 94. Die Werte beziehen sich auf Anthropic zufolge unterschiedliche Vergleichsläufe und Bedingungen.

Die Prüfung selbst lief in dieser Auswertung auf einer CPU: Anthropic gibt 17 Sekunden mit 24 Threads oder 21 Sekunden mit einem Thread an. Eine GPU war für diesen Verifikationsschritt also nicht nötig.

Wo der Nachweis endet

Der beschriebene Proof betrifft eine ganzzahlige Version des Modells und Greedy Decoding, bei dem jeweils das wahrscheinlichste nächste Token gewählt wird. Der angegebene maximale Kontext umfasst 1.024 Tokens. Aus dieser engen Festlegung folgt keine allgemeine Bestätigung beliebiger Erzeugungseinstellungen wie Temperatur oder Suchaufwand.

Auch Ausgaben aus Gleitkomma-Berechnungen oder mit stichprobenbasierter Decodierung können von der Berechnung abweichen, die der Proof abdeckt. FlashProve belegt somit eine bestimmte Modellberechnung für ausgewählte Tokens, nicht automatisch jede Ausgabe eines Dienstes unter allen Betriebsparametern.

Anthropic veröffentlichte einen Prover, einen schnellen C++-Verifier, einen Lean-Verifier, eine Protokollspezifikation, formale Beweise in Lean und einen interaktiven Theorem-Visualizer. Lean ist ein Beweisassistent, mit dem sich mathematische Aussagen formalisieren lassen. Anthropic weist darauf hin, dass die formale Beschreibung und der schnelle ausführbare Code nicht garantiert gleichwertig sind; der C++-Verifier habe in den eigenen Tests jedoch bei allen Proofs mit dem Lean-Verifier übereingestimmt. Die Software, Lean-Beweise und Dokumentation stehen unter Apache 2.0. Die Llama-Gewichte sind nicht Teil der Veröffentlichung.