coindesk.com
Die Kryptowährungsbranche steuert auf eine Zukunft zu, in der KI-Agenten alles übernehmen – von der Buchung von Flügen bis hin zur Ausführung von Handelsgeschäften und der Abwicklung von Zahlungen. Neue Forschungen deuten jedoch darauf hin, dass die Infrastruktur, die diesem Wandel zugrunde liegt, möglicherweise nicht sicher ist.
McKinsey prognostizierte kürzlich, dass KI-Agenten bis 2030 ein Volumen von 3 Billionen bis 5 Billionen US-Dollar im weltweiten Konsumentenhandel vermitteln könnten.
Coinbase-Gründer Brian Armstrong sagte auf X dass „sehr bald“ mehr KI-Agenten als Menschen Transaktionen im Internet durchführen werden. Binance-Gründer Changpeng Zhao war noch mutiger, vorhersagende Agenten werden eine Million Mal mehr Zahlungen als Menschen, alle in Krypto.
Aber eine Gruppe von Sicherheitsexperten und Krypto-Forschern hat veröffentlichte ein Papier erläutert, dass ein weitgehend übersehener Teil der KI-Infrastruktur bereits dazu genutzt wird, Zugangsdaten zu stehlen und sogar Krypto-Wallets auszurauben.
Die Autoren der Artikel sind Forscher, die mit der University of California, Santa Barbara, der University of California, San Diego, dem Blockchain-Unternehmen Fuzzland und World Liberty Financial verbunden sind.
Leistungsstarke Angriffspunkte
Das Team stellte fest, dass sogenannte „LLM-Router“ oder Dienste, die zwischen Nutzern und KI-Modellen geschaltet sind, als leistungsstarke Angriffspunkte genutzt werden können, die von böswilligen Akteuren ausgenutzt werden. Diese Router sind dazu konzipiert, Anfragen an Modelle wie OpenAI oder Anthropic weiterzuleiten, haben jedoch auch vollen Zugriff auf alle Daten, die durch sie hindurchgehen, einschließlich sensibler Informationen.
„LLM-Agenten haben sich von rein konversationellen Assistenten zu Systemen entwickelt, die Flüge buchen, Code ausführen und Infrastruktur im Auftrag der Nutzer verwalten“, schrieben die Forscher und hoben hervor, wie schnell diese Werkzeuge reale finanzielle und operative Aufgaben übernehmen.
Die LLM-Router oder Angriffspunkte machen Nutzer extrem verwundbar, da sie davon ausgehen, direkt mit einem renommierten KI-Modell wie OpenAI, Grok oder anderen zu interagieren, während in Wirklichkeit viele Anfragen über Zwischeninstanzen laufen, die diese Daten einsehen und verändern können, so die Forscher.
Laut einem der Forscher, Chaofan Shou, ist das Problem nicht länger theoretischer Natur. Er schrieb auf Xdass „26 LLM-Router heimlich bösartige Tool-Aufrufe einfügen und Zugangsdaten stehlen. Einer hat das Wallet unseres Kunden um 500.000 $ geleert. Wir konnten zudem Router manipulieren, um den Datenverkehr an uns weiterzuleiten. Innerhalb weniger Stunden können wir so etwa 400 Hosts direkt übernehmen.“
„Ein bösartiger Router kann einen harmlosen Befehl durch einen vom Angreifer kontrollierten ersetzen oder stillschweigend jede Anmeldeinformation auslesen, die durch ihn hindurchläuft“, schrieben die Forscher.
Die Forscher erklärten, dass diese Systeme aufgrund ihrer Fähigkeit, autonom zu agieren, einschließlich der häufigen Genehmigung und Ausführung von Aktionen ohne menschliche Überprüfung, durch eine einzige veränderte Anweisung sofort Systeme oder Gelder gefährden können.
Für Krypto-Nutzer sind die Auswirkungen gravierend, da private Schlüssel, API-Zugangsdaten und Wallet-Zugriffstoken häufig in diesen Systemen im Klartext übertragen werden. Die Forscher fanden in mehreren Fällen heraus, dass Router diese Geheimnisse einfach sammelten, wie die Studie offenlegt. In einem Fall wurde eine Test-Ethereum-Wallet geleert, nachdem ihr privater Schlüssel offengelegt wurde.
„Sobald sie offengelegt sind, können Zugangsdaten wie private Schlüssel ohne Kenntnis des Nutzers kopiert und wiederverwendet werden“, bemerkten die Autoren des Papiers.
Kaskadierende Risiken
Das Team demonstrierte zudem, wie einfach es ist, den Angriff zu erweitern. Indem sie Teile des Router-Ökosystems „vergifteten“, also Dienste dazu brachten, den Datenverkehr weiterzuleiten, konnten sie innerhalb weniger Stunden Hunderte von angeschlossenen Systemen überwachen und potenziell kontrollieren.
„Ein einzelner bösartiger Router in der Kette reicht aus, um das gesamte System zu kompromittieren“, schrieben die Forscher und unterstrichen damit das, was sie als Schwachstellen-Problem in der Kette beschreiben.
Das deutet auf ein kaskadierendes Risiko hin, dass selbst wenn ein Nutzer seinem KI-Anbieter vertraut, die dazwischenliegende Infrastruktur möglicherweise nicht vertrauenswürdig ist, erklärten sie in ihrem Papier.
Dies schafft eine potenzielle Diskrepanz, da Branchenführer zunehmend prognostizieren, dass KI-Agenten einen wachsenden Anteil der Kryptoaktivitäten übernehmen werden, während die zugrunde liegende Infrastruktur weiterhin keine Garantien dafür bietet, dass die Ergebnisse nicht manipuliert wurden, fügten sie hinzu.