Google gab am Montag bekannt, dass ein Hacking-Tool entdeckt wurde, das Schwachstellen in Software eigenständig erkennt und ausnutzt, ohne menschliche Hilfe, was die Risiken von künstlichen Intelligenz (KI)-Agenten unterstreicht.
Die Erkenntnis, die ausführlich im Bericht der Google Threat Intelligence Group zum dritten Quartal, sagte, dass das Tool sich auf einem exponierten Staging-Server befand, einem Computer, den Angreifer nutzen, um ihre Werkzeuge zu speichern und vorzubereiten. Der Server war für das Internet offen zugänglich. Google nannte das Tool „exploit_agent.“
Das Tool ist an mehrere große Sprachmodelle (LLMs) angeschlossen, die Art von KI hinter Chatbots, einschließlich führender kommerzieller Modelle und solcher, die Google als „lokal“ bezeichnet.
Das Tool beobachtete anschließend beliebte Websoftware auf Patches, die Korrekturen, die Softwarehersteller zur Behebung von Schwachstellen herausgeben. Wenn ein Patch veröffentlicht wurde, verglich es den Programmcode vor und nach der Korrektur, um den Schwachpunkt zu identifizieren. Man kann sich das vorstellen wie den Vergleich zweier Entwürfe eines Dokuments, um zu sehen, welche Stellen ein Redakteur geändert hat. Die Änderungen zeigen, wo das Problem lag.
Es entwarf anschließend einen Exploit, um die Schwachstelle auszunutzen – ein Codeabschnitt, der den Fehler ausnutzt – und führte ihn automatisch aus.
"Google erklärte, dass dies das erste Mal ist, dass Angreifer ein solches Vorgehen beobachten. „Im vergangenen Quartal hat GTIG erstmals Bedrohungsakteure identifiziert, die LLM-Frameworks nutzen, um die Identifikation und Ausnutzung von Schwachstellen vollständig zu automatisieren, ohne einen Menschen im Prozess“, so der Bericht."
Die Erkenntnis fügt sich auch in eine wachsende Liste von Warnungen ein, dass autonome KI-Agenten eine Bedrohung für bestehende Systeme darstellen. Der Gouverneur der Federal Reserve, Michael Barr, erklärte am Montag, dass autonome KI-Agenten könnte innerhalb von Minuten einen Bankansturm auslösen. Im September äußerte sich Torsten Slok, Chefvolkswirt bei Apollo, warnte davor, dass KI-Assistenten, die Haushaltsgelder auf höherverzinsliche Konten verlagern, könnten den Banken günstige Einlagen entziehen.
Eine Abbildung im Google-Bericht zeigt, wie das Tool die Zugriffskontrollen eines WordPress-Plugins namens Spectra (Ultimate Addons for Gutenberg), Version 2.19.25, untersucht. Zugriffskontrollen sind der Code, der festlegt, wer was tun darf. Der Bericht gibt keine Auskunft darüber, ob dies zu einem Angriff geführt hat.
Der Staging-Server beherbergte ebenfalls Skripte, die nach einem Einbruch das Innere des Netzwerks kartografieren konnten, was Google als interne Aufklärung bezeichnet. Er konnte Passwörter erraten, indem viele davon in einem als „Brute-Force“-Angriff bekannten Verfahren ausprobiert wurden, und Webshells oder versteckte Kontrollpanels auf der Website platzieren, sodass der Angreifer erneut zurückkehren konnte.
coindesk.com