„Schlampiger“ Deal: OpenAI muss Vertrag mit dem Pentagon anpassen

Erst kürzlich kündigte OpenAI-Chef Sam Altman an, dass sein Unternehmen KI-Modelle für das US-Verteidigungsministerium bereitstellen werde. Diese Entscheidung löste allerdings eine Welle der Empörung aus. Wie The Guardian berichtet, räumt Altman inzwischen selbst ein, dass der schnell geschlossene Vertrag noch einmal überarbeitet werden müsse, um Sicherheitsstandards gerecht zu werden.

Erst am Freitag hatte OpenAI bekanntgegeben, künftig mit dem Pentagon zusammenzuarbeiten – und damit für Irritationen gesorgt. Zwar betonte der CEO, dass die KI-Modelle nicht für Massenüberwachung oder autonome Waffensysteme eingesetzt werden dürften. Genau an diesem Punkt war das Verteidigungsministerium aber kurz zuvor mit seinem bisherigen Partner Anthropic in Konflikt geraten. Es verlangte von KI-Unternehmen, ihre Systeme für „alle rechtmäßigen Zwecke“ zur Verfügung zu stellen.

Anthropic weigerte sich aber und verwies auf die Nutzungsbedingungen, die derartige Anwendungsszenarien ausschließen. „Wir werden nicht wissentlich ein Produkt liefern, das Amerikas Soldat:innen und Zivilist:innen in Gefahr bringt“, sagte CEO Dario Amodei. US-Präsident Donald Trump bezeichnete das Unternehmen daraufhin als „linke Spinner“ und wies die Behörden an, die Nutzung der Anthropic-Technologie einzustellen.

OpenAI sprang kurz darauf ein. Inzwischen erklärt aber Altman selbst, der hastig ausgehandelte Vertrag wirke „opportunistisch und schlampig“ und müsse angepasst werden. Gleichzeitig bekräftigte er erneut, dass OpenAI verhindern wolle, dass die Technologie des Unternehmens für Massenüberwachung im Inland eingesetzt oder von Geheimdiensten des Verteidigungsministeriums wie der National Security Agency (NSA) genutzt wird.

Trotz dieser Zusicherungen sorgt die Zusammenarbeit mit dem Pentagon weiterhin für Kritik. Auf Plattformen wie X und Reddit rufen Nutzer:innen dazu auf, ChatGPT zu löschen. In einem Beitrag hieß es: „Ihr trainiert jetzt eine Kriegsmaschine. Zeigt uns euren Beweis für die Löschung.“ Die Debatte scheint sich auch auf den Wettbewerb auszuwirken. Laut einer Analyse von Sensor Tower stieg Claude, der Chatbot von Anthropic, zeitweise an die Spitze der Charts im App Store von Apple und überholte ChatGPT. Schon vorher hatte der KI-Bot von OpenAI sukzessive Marktanteile verloren.

Aber auch innerhalb der Tech-Branche wächst der Widerstand. Fast 900 Beschäftigte von OpenAI und Google unterzeichneten einen offenen Brief, in dem sie ihre Arbeitgeber auffordern, dem US-Verteidigungsministerium die Nutzung ihrer Modelle für Überwachungszwecke und autonome Waffensysteme zu verweigern. Sie warnen außerdem davor, dass die Regierung versuche, Unternehmen gegeneinander auszuspielen. „Wir hoffen, dass unsere Führungskräfte ihre Differenzen beiseitelegen und gemeinsam weiterhin die aktuellen Forderungen des Verteidigungsministeriums ablehnen.”

Selbst Miles Brundage, der ehemalige Leiter der Politikforschung bei OpenAI, hat seinen früheren Arbeitgeber öffentlich kritisiert. In einem Beitrag auf X schrieb er, die naheliegende Vermutung müsse sein, dass OpenAI bei der Nutzung seiner KI-Modelle letztlich Zugeständnisse an das Pentagon gemacht habe. Gleichzeitig betont er, dass OpenAI keine einheitliche Organisation sei.

Viele Mitarbeiter:innen hätten vermutlich ernsthaft versucht, eine faire Lösung zu finden. Einzelnen Entscheidungsträgern – insbesondere im Umgang mit Regierung und Politik – traue er aber deutlich weniger. In einem weiteren Beitrag schrieb er, er würde „lieber ins Gefängnis gehen“, als einer aus seiner Sicht verfassungswidrigen Anordnung der Regierung zu folgen.