Volkswacht Bodensee - Anthropic plädiert für weltweite Pause bei KI-Entwicklung

"Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können", erklärte Anthropic.

Damit eine Pause tatsächlich Wirkung zeigen könnte, müssten sich nach Ansicht von Anthropic führende KI-Konzerne in verschiedenen Ländern – allen voran in den USA und China - darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren. Dafür müssten Regeln aufgestellt und eingehalten werden, "die für alle überprüfbar wären".

"Ohne globalen Koordinierungsmechanismus werden Unternehmen und Regierungen unter Wettbewerbs- und geopolitischem Druck schwierige Entscheidungen über Sicherheit treffen müssen", erklärte Anthropic weiter. Das Unternehmen verglich das Problem mit Abkommen zur Kontrolle von Atomwaffen - die Kontrolle sei bei KI aber schwieriger, da das Training sehr viel einfacher zu verbergen sei und die Versuchung enorm, heimlich weiterzumachen.

Am Montag hatte Anthropic seinen Börsengang angemeldet. Das Unternehmen ist für seinen Chatbot Claude bekannt, der vor allem von Unternehmen genutzt wird. Zudem arbeitet Anthropic weiter an seinem KI-Modell namens Mythos, das Lücken in Cybersicherheitssystemen aufspüren soll. Offenbar ist das Modell so gut, dass etwa auch der Internationale Währungsfonds (IWF) darin eine mögliche Bedrohung für das globale Finanzsystem sieht.

Zunächst hatte Anthropic rund 50 Partnern, die meisten davon US-Unternehmen, testweisen Zugriff gegeben. Anfang der Woche erweiterte der KI-Konzern die Runde der Nutzer und öffnete das Modell für weitere rund 150 Organisationen weltweit. Auch die EU hofft auf einen Test-Zugriff, um mögliche Risiken auszuloten. Deutsche Verfassungsschützer und Sicherheitspolitiker hatten gewarnt, Kriminelle oder staatliche Akteure könnten Mythos für Cyberangriffe nutzen.

Anthropic steht derzeit in einem Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um die uneingeschränkte militärische Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat. Der Konzern erklärte, er wolle KI nicht zur "Massenüberwachung im Inland" oder in vollautonomen Waffensystemen einsetzen lassen. Das Pentagon stufte Anthropic daraufhin als "Sicherheitsrisiko in der Lieferkette" ein, wogegen das Unternehmen sich juristisch wehrt.

Anthropic erklärte, es wolle in den kommenden Monaten Regierungsvertreter, Wissenschaftler, Lobbygruppen und konkurrierende KI-Unternehmen an einen Tisch bringen, um zu sehen, wie ein Kontrollsystem funktionieren könne. Der Aufruf erfolge vor dem Hintergrund interner Daten, die zeigten, dass KI selbst die eigene Entwicklung drastisch beschleunige, fuhr das Unternehmen fort.

Das könne schlussendlich zu dem Prozess führen, den Wissenschaftler als "rekursive Selbstverbesserung" bezeichnen, erklärte Anthropic. Das ist die Idee eines KI-Systems, dass sich selbst beibringen kann, noch intelligenter zu werden - ohne große menschliche Hilfe. So weit sei KI noch nicht gediehen - und zudem sei "rekursive Selbstverbesserung" nicht "unausweichlich", gab das Unternehmen an. Aber dieser Zustand könne schneller eintreffen als die meisten Regierungen und Institutionen darauf vorbereitet seien. Es gebe Anzeichen dafür, dass "die Rolle des Menschen bei jedem Schritt im Entwicklungsprozess der KI immer geringer wird".

Der KI-Experte Christoph Knöll von der Beratung Neurawork erklärte, die "Warnung von Anthropic sollte ernst genommen werden". Er halte eine weltweite Entwicklungspause jedoch für unrealistisch: "Weder die USA noch China werden ihre KI-Programme freiwillig stoppen."

"Regulierung ist notwendig, wird aber nicht ausreichen", fuhr Knöll fort. "Kein Gesetz der Welt wird verhindern, dass leistungsfähigere KI-Systeme entwickelt werden. Entscheidend wird sein, wie schnell Unternehmen und Gesellschaft lernen, mit dieser Entwicklung umzugehen."

C.Stoecklin--VB