Anthropic-CEO fordert verlangsamten KI-Wettlauf aus Sicherheitsgründen. Musk und OpenAIs Altman stimmen zu

Die Führungskräfte, die darum wetteifern, die weltweit leistungsstärksten Systeme der künstlichen Intelligenz (KI) zu entwickeln, beginnen, sich auf etwas zu verständigen, das noch vor wenigen Jahren außergewöhnlich geklungen hätte: Das Rennen muss verlangsamt werden.

Dario Amodei, CEO von Anthropic, dem Entwickler von Claude, forderte am Samstag Unternehmen dazu auf, Fortschritte im Bereich der Spitzentechnologie Künstlicher Intelligenz bewusst zu verlangsamen. Er argumentierte, dass sich die Fähigkeiten der Modelle schneller verbesserten als die Fähigkeit der Forschenden, diese zu verstehen und zu kontrollieren.

In einem Aufsatz mit dem Titel „Wir müssen das Spielfeld gestalten“, Amodei sagte, dass ihn die Fortschritte seit diesem Sommer davon überzeugt hätten, dass die Arbeit an der KI-Sicherheit nicht mehr mit den sich schnell verbessernden Fähigkeiten Schritt halte.

„Wir müssen das Tempo, mit dem wir die Fähigkeiten von KI-Modellen verbessern, verlangsamen“, schrieb Amodei.

Er forderte jedoch keinen vollständigen Stopp, sondern plädierte für eine Verlangsamung des Entwicklungstempos. „Die Nichtentwicklung der Technologie beraubt die Menschheit ihrer Vorteile oder überlässt die KI einfach autoritären Mächten, während ein zu schnelles Vorantreiben leichtsinnig ist.“

Zwei weitere führende Persönlichkeiten rivalisierender großer KI- und Technologieunternehmen unterstützten die Idee schnell.

OpenAI-CEO Sam Altman, sagte, „Ich stimme Dario zu, dass wir die Grenze mit Bedacht vorantreiben müssen,“ um der Gesellschaft Zeit zu geben, sich an zunehmend leistungsfähige Systeme anzupassen. Elon Musk, dessen Unternehmen xAI Grok entwickelt hat, öffentlich unterstützt Amodeis jüngster Vorschlag, in dem er antwortet, dass „Dario Recht hat.“

Das bringt drei der prominentesten und am heftigsten konkurrierenden Persönlichkeiten der KI-Branche hinter Versionen derselben Idee zusammen: Frontier-AI – die leistungsfähigsten, modernsten KI-Modelle – sollte weiterhin voranschreiten, jedoch nicht unbedingt so schnell wie technisch möglich.

Eine Warnung

Amodeis Warnung erfolgt, während Forscher innerhalb der Unternehmen selbst zunehmend besorgt über eine potenziell kritische Schwelle sind: KI-Systeme, die damit beginnen, die Arbeit zu automatisieren, die erforderlich ist, um leistungsfähigere KI-Systeme zu entwickeln.

Jacob Coxon, ein Forscher, der sowohl bei Anthropic als auch bei OpenAI tätig war, hat diesen Monat bei Anthropic gekündigt und beschuldigte die Unternehmen, „ direkt auf selbstverbessernde Superintelligenz zuzusteuern und mit unserem Leben zu spielen.“ Er sagte auch, dass „die Menschen, die KI ernsthaft entwickeln, fest davon überzeugt sind, dass sie uns bis zum Ende des Jahrzehnts alle töten könnte.“

Während Amodei nicht so weit ging wie Coxon, brachte Amodeis Essay mehrere der gleichen Bedenken zur Sprache.

Er erklärte, dass diese „rekursive Selbstverbesserung“, bei der KI Forschern zunehmend dabei hilft, die nächste Generation von KI zu entwickeln, sich in der Branche langsam abzeichne und die Entwicklung schneller vorantreiben könnte, als Menschen dies sicher überwachen können.