KI zerstört das Internet. Mathematik ist unsere einzige Hoffnung.

Vor nicht allzu langer Zeit war KI-generierter Inhalt ein bloßer Zaubertrick – sechsfingrige Päpste und unheimliche Doppelgänger von Tom Cruise, mehr amüsant als alarmierend. Diese Ära ist vorbei. Der Iran-Konflikt hat es bewiesen: synthetisches Filmmaterial von festgenommenen amerikanischen Soldaten, iranische Kampfjets, die aus unterirdischen Bunkern hervorstürmen, zerstörte Radarstationen – alle gefälscht, alle viral gegangen, alle weithin geglaubt und erreichen Hunderte Millionen, bevor jemand auch nur ein einziges Bild verifizieren konnte.

Das Internet, das wir einst kannten, existiert nicht mehr. Wo das Sehen früher Glauben vermittelte, weckt es heute Misstrauen. Wir erleben eine Vertrauenskrise. Und sie reicht weit über das hinaus, was wir mit unseren Augen sehen können.

Brian Trunzo ist Chief Growth Officer bei Succinct Labs.

Detektion funktioniert nicht

Die intuitive Reaktion besteht darin, bessere Erkennungssysteme zu entwickeln; KI, die darauf trainiert ist, andere KI zu erkennen. Das funktioniert nicht. Jeder kann die weltweit führenden Bilddetektoren durch einfaches Verwischen und Verzerren umgehen, senken ihre Genauigkeit auf bis zu 4 %. Die Erkennung scheitert aus dem gleichen strukturellen Grund, warum Antivirensoftware Malware nie vollständig beseitigen konnte: Der Angreifer verfügt stets über den asymmetrischen Vorteil.

Doch das Versagen der Erkennung ist fast nebensächlich, da das Problem sie bereits überholt hat.

KI erzeugt nicht mehr nur Inhalte. Sie ist handelnd. Autonome Agenten durchsuchen das Internet, tätigen Käufe, veröffentlichen Inhalte, verhandeln mit anderen Agenten und interagieren mit Menschen, und in einigen Fällen Kinder, die möglicherweise keine Ahnung haben, dass sie mit einer Maschine sprechen. Und wenn diese Agenten im großen Maßstab agieren, sind die Ausfallmodi katastrophal.

Ein auf subtil vergifteten Daten trainierter Agent macht kleine, plausible Fehler in der medizinischen Abrechnung, die sich über ein Krankenhausnetzwerk hinweg zu Millionen von Dollar an betrügerischen Forderungen summieren. Eine Flotte von Handelsagenten, die auf Marge optimiert, nutzt systematisch Preisverwundbarkeiten aus, die ihre Betreiber niemals beabsichtigten und nicht erklären können, was zu Milliardenverlusten führt.

Ein Schmetterling, der mit den Flügeln in einem Trainingsdatensatz schlägt, verursacht einen Tornado in der realen Wirtschaft.

Wenn der Schaden angerichtet ist, gibt es keinen Beleg. Die Argumentation eines Agenten ist keine chronologische Spur. Es ist ein einziger Durchlauf durch Milliarden undurchsichtiger Parameter, und seine Ausgaben sind probabilistisch. Stellen Sie dieselbe Frage zweimal, und Sie erhalten leicht unterschiedliche Antworten. Es gibt keine Möglichkeit, eine Entscheidung nachzuvollziehen, die auf endlos sich ändernden Variablen basiert. Es gibt keine Möglichkeit zu prüfen, auf welchen Daten der Agent trainiert wurde, welchen Anweisungen er folgte oder warum er tat, was er tat.

Der Instinkt von Web3 war richtig: Wir benötigen eine Möglichkeit, Glauben durch Garantien zu ersetzen. Doch Eigentum allein würde uns nicht dorthin führen. KI und Agenten machen das deutlich. Die Frage ist nicht, wer die Plattform besitzt. Sondern ob man demjenigen oder dem, was auf ihr agiert, vertrauen kann. Token waren das falsche Grundelement; Beweise sind das richtige.

In einem agentischen Internet benötigen die Gegenparteien, ob menschlich oder maschinell, Garantien: wer dieses System entwickelt hat, welche Daten es geprägt haben, welche Beschränkungen es regeln und ob es befugt ist zu handeln. Diese Garantien müssen Bestand haben, selbst wenn die zugrunde liegenden Systeme proprietär sind. Gerade dann.

Zero-Knowledge-Kryptographie macht dies möglich, indem sie die Verpflichtungen im Voraus bindet. Ein Entwickler kann seine Trainingsdaten kryptographisch kennzeichnen, wodurch ZK-Beweise Identität, Herkunft, Trainingsdaten und betriebliche Beschränkungen verifizieren können, ohne die zugrunde liegenden Daten offenzulegen. Nicht „Vertraue mir“, sondern „Beweise es“.

Dies ist nicht mehr nur eine Frage des Verbraucherschutzes. Es ist eine Angelegenheit der nationalen Sicherheit.

Deepfakes waren das Aufwärmprogramm. Agenten sind die Hauptveranstaltung. Ausländische Gegner werden nicht dabei haltmachen, zu manipulieren, was Amerikaner sehen – sie werden Agenten einsetzen, um zu beeinflussen, wie sie handeln. Sie werden autonome Systeme einsetzen, die in unseren Märkten Transaktionen durchführen, mit unseren Institutionen interagieren und sich mit unseren Kindern beschäftigen, ohne dass eine Gegenpartei überprüfen kann, was sie sind oder wer sie autorisiert hat. Dies ist lösbar. Aber nur, wenn Amerika die Infrastruktur aufbaut, bevor Gegner lernen, das Fehlen dieser auszunutzen.

Die Politik sollte folgen. Der Kongress sollte verlangen, dass risikoreiche KI-Agenten, wie diejenigen, die Finanztransaktionen abwickeln oder mit Minderjährigen interagieren, kryptografische Nachweise darüber mitführen, wer sie sind, wer sie autorisiert hat und was sie tun dürfen, die von jeder Gegenpartei überprüfbar sind, ohne vertrauliche Informationen preiszugeben. Dieselbe Logik sollte sich darauf erstrecken, was diese Agenten tun: Da Agenten beginnen, im Auftrag von Personen und Unternehmen mit maschineller Geschwindigkeit und in maschinellem Umfang zu handeln, sollte jede folgenschwere Handlung — eine Zahlung, ein Vertrag, ein Handel, ein Datenaustausch — einen Nachweis darüber mitführen, wer sie autorisiert hat und unter welchen Bedingungen.

Die technischen Grundlagen werden bereits geschaffen: Das US-Handelsministerium untersucht über das National Institute of Standards and Technology die Standardisierung von Zero-Knowledge durch sein Datenschutzsteigernde Kryptographie Initiative. Diese Arbeit sollte Priorität haben und hervorgehoben werden, und ihre Ergebnisse sollten den bundesweiten Maßstab setzen. Die Haftung sollte nicht für Inhalte, sondern für das Fehlen von Nachweisen bestehen.

HTTPS ermöglichte uns das Lesen. Abschnitt 230 ermöglichte uns das Schreiben. ZK ermöglicht uns das Beweisen.

Lesen Schreiben Eigentum Beweisen.

Hinweis: Die in dieser Kolumne geäußerten Ansichten sind die des Autors und spiegeln nicht unbedingt die von CoinDesk, Inc. oder deren Eigentümern und Partnern wider.