coindesk.com
Letzte Woche versprachen sechs der weltweit mächtigsten KI-Unternehmen dem Weißen Haus, Außenstehenden Einblick in ihre Arbeit zu gewähren.
Am 29. September unterzeichneten Nvidia, OpenAI, Anthropic, Google, Meta und xAI eine Vereinbarung über die fortschrittlichsten KI-Modelle, die vom US-Präsidenten Donald Trump gerufen „moralisch verbindlich.“ Jedes Unternehmen hat versprochen, „mit einem unabhängigen externen Prüfer oder Gutachter zusammenzuarbeiten“ und unabhängige Vorstandsmitglieder die Prüfungsberichte überprüfen zu lassen sowie sicherzustellen, dass Probleme behoben werden.
Externe Prüfungen sind eine gute Idee, und ich freue mich, dass sie enthalten sind. Aber das Abkommen sagt nichts darüber aus, wer die Prüfer auswählt, was sie untersuchen dürfen oder ob irgendwelche Ergebnisse veröffentlicht werden; es gibt keine Strafe für deren Nichtbeachtung. Derzeit wählt jedes Unternehmen seinen eigenen Prüfer aus und bestimmt, was dieser Prüfer einsehen darf.
Im Jahr 2000 zahlte Enron der Wirtschaftsprüfungsgesellschaft Arthur Andersen — einst Teil der sogenannten „Big Five“ der internationalen Wirtschaftsprüfungsgesellschaften, heute die „Big Four“ nach dem Zusammenbruch von Arthur Andersen — 25 Millionen US-Dollar für die Prüfung seiner Bücher und weitere 27 Millionen US-Dollar für Steuer- und Beratungsleistungen. Innerhalb von zwei Jahren waren beide Unternehmen zusammengebrochen. Der Kongress reagierte mit dem Sarbanes-Oxley-Gesetz, das die Wahl des Prüfers aus der Hand des Managements nahm, Prüfern den Verkauf der meisten anderen Dienstleistungen an die von ihnen geprüften Unternehmen untersagte und ein öffentliches Gremium zur Kontrolle der Prüfer einrichtete.
Andersen scheiterte nicht an einem Mangel an Fachwissen, sondern an einem Anreiz, einen Kunden, der ihm in einem einzigen Jahr 52 Millionen US-Dollar zahlte, kritisch zu hinterfragen. Freiwillige Verpflichtungen in der KI-Branche haben ebenfalls keine gute Bilanz. Im Jahr 2023 legten die führenden KI-Unternehmen dem Weißen Haus eine Reihe freiwilliger Zusagen vor, darunter die Erlaubnis, dass externe Experten ihre Systeme vor der Veröffentlichung testen. Als Forscher der Universitäten Stanford, Harvard und Brown 16 Unternehmen anhand dieser Zusagen bewerteten, erreichte der Durchschnittswert 53 %. In Bezug auf das Versprechen, Außenstehenden zu helfen, Probleme zu finden und zu melden, erhielten acht der 16 Unternehmen null Punkte.
Selbst wenn externe Tests stattfinden, legt der Entwickler die Bedingungen fest. METR, eine gemeinnützige Organisation, die KI-Modelle testet, schrieb, dass ihre Prüfung von OpenAI's o3-Modell vor der Veröffentlichung „nur über einen Zeitraum von drei Wochen durchgeführt wurde“, mit „begrenztem Zugang zu Informationen über das Modell“ und ohne Einsicht in die schrittweise Argumentation des Modells.
