Google DeepMind überprüft Signal-Verschlüsselung mit 6,5 Millionen Zeilen KI-Beweisen

Google DeepMind hat am 10. November 2026 AlphaProof Code vorgestellt, ein KI-Agentensystem zur mathematischen Überprüfung von Software. Damit hat ein Forschungsteam zentrale Sicherheitseigenschaften der tatsächlichen Signal-Protokollimplementierung libsignal formal verifiziert. Die KI-Agenten erzeugten innerhalb von vier Wochen rund 6,5 Millionen Zeilen mathematischen Beweiscode in der Programmiersprache Lean. Die Ergebnisse bestätigen definierte Schutzmechanismen der Verschlüsselung, bedeuten aber keinen vollständigen Sicherheitsnachweis für sämtliche Funktionen der Signal-App.

Die Forschungsarbeit markiert einen wichtigen Fortschritt bei der KI-gestützten Softwareprüfung. Bisher konzentrierten sich viele mathematische Sicherheitsanalysen auf theoretische Modelle kryptografischer Protokolle. Google DeepMind konnte die Nachweise nun bis auf den kompilierten Maschinencode einer real eingesetzten Implementierung ausweiten. Das ist besonders relevant für verschlüsselte Messenger und andere Anwendungen mit hohen Anforderungen an Datenschutz und Informationssicherheit.

Google DeepMind überprüft Signal-Verschlüsselung direkt im Maschinencode

AlphaProof Code kombiniert menschliche Sicherheitsforschung mit autonomen KI-Agenten. Ein fünfköpfiges Forschungsteam legte die zu überprüfenden Eigenschaften fest und kontrollierte die mathematischen Spezifikationen. Anschließend übernahmen KI-Agenten auf Basis von Gemini 4 Carbon die Erstellung der eigentlichen Beweise. Laut der am 10. November veröffentlichten Forschungsarbeit schrieb keiner der beteiligten Wissenschaftler den Beweiscode selbst.

Für die Untersuchung verwendete Google DeepMind die originale libsignal-Referenzimplementierung. Der unveränderte Rust-Code wurde mit einem regulären Compiler in ausführbaren AArch64-Maschinencode übersetzt und in einer kontrollierten Testumgebung ausgeführt. Anders als bei einer rein theoretischen Protokollanalyse berücksichtigt dieser Ansatz auch konkrete Abläufe der Softwareimplementierung.

Die Verifikation konzentrierte sich auf zwei zentrale Bestandteile des Signal-Protokolls: den quantenresistent ausgelegten Schlüsselaustausch PQXDH und den Triple Ratchet. Beide Mechanismen spielen eine wichtige Rolle beim Schutz verschlüsselter Nachrichten und beim regelmäßigen Austausch kryptografischer Schlüssel.

Mit den mathematischen Beweisen konnte das Forschungsteam mehrere Sicherheitseigenschaften unter festgelegten Annahmen bestätigen. Dazu gehören der Schutz früherer Nachrichten bei einer späteren Schlüsselkompromittierung, die Vertraulichkeit und Authentizität von Nachrichten sowie die Wiederherstellung bestimmter Sicherheitseigenschaften nach einer vorübergehenden Kompromittierung.

Die wichtigsten Ergebnisse der Untersuchung im Überblick:

PrüfbereichErgebnisEinschränkung
Signal-ImplementierungMaschinencode formal überprüftKontrollierter AArch64-Testaufbau
Forward SecrecySchutz früherer Nachrichtenschlüssel nachgewiesenGilt innerhalb der festgelegten Sicherheitsmodelle
Post-Compromise SecurityDefinierte Schutzwirkung nach Kompromittierung bestätigtNicht sämtliche Angriffsszenarien abgedeckt
AuthentifizierungSicherheitsgarantien mathematisch geprüftAbhängig von kryptografischen Annahmen
QuantenresistenzBestimmte Eigenschaften des Schlüsselaustauschs geprüftKein vollständiger Quantensicherheitsbeweis
Historische SicherheitsfehlerZwei bekannte Fehler erfolgreich nachgewiesenFehler wurden absichtlich erneut eingebaut

Die Größenordnung des Projekts ist außergewöhnlich. Insgesamt umfasst das veröffentlichte Repository knapp sieben Millionen Zeilen Lean-Code. Rund 6,5 Millionen Zeilen entfallen auf mathematisch überprüfte Beweise. Weitere etwa 26.000 Zeilen bilden einen wesentlichen Teil der vertrauenswürdigen Spezifikationen und Maschinenmodelle.

Entscheidend ist dabei nicht die Menge des erzeugten Codes, sondern dessen Überprüfbarkeit. Das formale Beweissystem Lean kontrolliert die mathematischen Schlussfolgerungen automatisch. Fehlerhafte oder unvollständige Beweise werden zurückgewiesen. Die menschlichen Forscher konnten sich dadurch stärker auf die Definition der Sicherheitsziele, die Annahmen und problematische Stellen konzentrieren.

Google DeepMind überprüfte außerdem, ob das Verfahren bekannte Schwachstellen tatsächlich erkennen kann. Dazu bauten die Wissenschaftler zwei bereits früher behobene Sicherheitsfehler absichtlich wieder in eine isolierte Version der Signal-Implementierung ein. AlphaProof Code konnte anschließend formal nachweisen, dass diese Veränderungen die definierten Sicherheitseigenschaften verletzen.

Das Experiment zeigt einen wichtigen Unterschied zu gewöhnlichen Softwaretests. Statt nur einzelne problematische Eingaben zu finden, kann die formale Verifikation innerhalb ihres Modells mathematisch begründen, warum ein bestimmtes Sicherheitsversprechen gilt oder verletzt wird.

Signal bleibt nicht vollständig fehlerfrei: Grenzen der KI-Verifikation

Trotz der umfangreichen Ergebnisse bedeutet die Veröffentlichung nicht, dass Signal vollständig gegen alle Angriffe abgesichert ist. Die Forscher betonen mehrere Einschränkungen. Die mathematischen Nachweise beziehen sich auf einen bestimmten kompilierten Testaufbau der libsignal-Bibliothek und ausgewählte kryptografische Eigenschaften.

Die vollständigen Signal-Anwendungen für Android, iOS und Desktop waren nicht Gegenstand dieser umfassenden Prüfung. Auch die tatsächlichen Betriebssysteme, sämtliche externen Bibliotheken, die Benutzeroberfläche und die komplette Kommunikation zwischen mehreren Geräten wurden nicht vollständig verifiziert.

Hinzu kommen Grenzen bei der Modellierung möglicher Angreifer. Die Forschungsarbeit untersucht sowohl symbolische als auch rechnergestützte Sicherheitsmodelle. Einige Eigenschaften lassen sich dabei nur unter bestimmten Voraussetzungen nachweisen. Besonders bei Angriffen mit zukünftigen Quantencomputern bleiben weitere Untersuchungen notwendig.

Für die Einordnung sind folgende Punkte entscheidend:

  • Begrenzter Prüfbereich: Die Ergebnisse beziehen sich auf definierte Sicherheitsgarantien der Signal-Protokollimplementierung und nicht auf sämtliche Funktionen des Messengers.
  • Mathematische Annahmen: Die Beweise setzen unter anderem bestimmte Eigenschaften der verwendeten kryptografischen Verfahren voraus.
  • Quantenangriffe: Einzelne Schutzmechanismen wurden untersucht. Eine vollständige Absicherung aller Protokollfunktionen gegen Quantencomputer ist nicht bewiesen.
  • Menschliche Kontrolle: Forscher mussten die Sicherheitsanforderungen definieren, prüfen und Änderungen an den zugrunde liegenden Annahmen freigeben.
  • Keine neue Sicherheitslücke: Die zwei untersuchten Fehler waren bereits behoben und wurden ausschließlich für die kontrollierte Überprüfung erneut eingebaut.

Für Signal-Nutzer ergibt sich aus der Veröffentlichung deshalb zunächst kein unmittelbarer Handlungsbedarf. Google DeepMind hat weder ein neues Signal-Update noch eine zusätzliche Sicherheitsfunktion für Endnutzer angekündigt. Die Ergebnisse schaffen vielmehr eine weitere Grundlage für das Vertrauen in die untersuchten kryptografischen Mechanismen.

Die Bedeutung reicht über den Messenger hinaus. Das Signal-Protokoll beziehungsweise darauf basierende Varianten kommen auch in anderen Kommunikationsdiensten zum Einsatz. Dazu zählen unter anderem WhatsApp und Google Messages. Die neue Forschungsarbeit bestätigt allerdings nicht automatisch die vollständige Sicherheit dieser Anwendungen oder ihrer jeweiligen Implementierungen.

Besonders interessant ist das Verfahren für die zukünftige Entwicklung sicherheitskritischer Software. Klassische formale Verifikation erfordert häufig jahrelange Arbeit spezialisierter Teams. Die Kombination aus menschlich geprüften Spezifikationen, autonomen KI-Agenten und maschineller Beweiskontrolle könnte diesen Aufwand erheblich reduzieren.

Google DeepMind hat die Lean-Spezifikationen und Beweise öffentlich zugänglich gemacht. Dadurch können unabhängige Sicherheitsforscher die Ergebnisse untersuchen, bestehende Annahmen hinterfragen und die Verifikation erweitern. Auch Signals Technikchef Ehren Kret bewertet die umfangreichere Überprüfung der tatsächlichen Protokollimplementierung als wichtigen Fortschritt.

Langfristig könnte die Technologie auch bei Betriebssystemen, Cloud-Diensten, medizinischer Software und kritischen Infrastrukturen eingesetzt werden. Voraussetzung dafür sind ausreichend präzise Sicherheitsanforderungen und eine verlässliche Überprüfung der zugrunde liegenden Annahmen. AlphaProof Code zeigt erstmals in diesem Umfang, wie KI-Agenten mathematische Sicherheitsbeweise für reale kryptografische Software erstellen können. Die nächste Herausforderung besteht darin, den Ansatz auf größere Anwendungen und zusätzliche Sicherheitsgarantien auszuweiten.