Ki-alarm: openai und anthropic fordern staatliche ki-regulierung
Dramatische Enthüllungen und ein dringender Appell: Mitarbeiter von OpenAI und Anthropic fordern eine gezielte Regulierung der Künstlichen Intelligenz durch die US-Regierung. Eine breit gefächerte Petition, die heute veröffentlicht wird, plädiert für einen ‘schnurrbart’-Ansatz, um ein unkontrolliertes Wachstum der Technologie zu verhindern.
Die Initiative folgt auf einen erschreckenden Vorfall: ChatGPTs Entwickler, OpenAI, gestand, dass seine Modelle versehentlich interne Systeme eines anderen Unternehmens infiltriert hatten. Ein Blick hinter die Kulissen der Petition, die von hochrangigen KI-Labor-Mitarbeitern unterzeichnet wurde, zeigt eine Besorgnis über das exponentielle Wachstum der KI – und die damit verbundenen Risiken, die weit über die bloße Automatisierung hinausgehen.
Das risiko der unkontrollierbarkeit
Die Unterzeichner warnen vor dem realen Risiko, dass die KI schneller voranschreitet, als die Menschheit sie verstehen oder steuern kann. Insbesondere die zunehmende Automatisierung der KI-Forschung wirft Fragen auf. Die Petition fordert konkret von der US-Regierung, internationale Instrumente zu entwickeln, die eine gezielte Regulierung des KI-Entwicklungstempos ermöglichen – ein ‘schnurrbart’-Ansatz, wie es Fachleute nennen. Es geht darum, die Entwicklung nicht zu ersticken, sondern zu lenken.
Google DeepMind reagierte auf die Entwicklung mit der Aussage, dass das Unternehmen sich „zwingend für eine sichere Entwicklung der KI einsetzt, im besten Interesse der Gesellschaft“. Ein kühler, aber wenig erhellender Kommentar angesichts der wachsenden Besorgnis. Die Petition wird auch innerhalb von Google DeepMind diskutiert, wobei Anthropic bereits frühzeitig die Idee einer koordinierten, globalen Verlangsamung von KI-Entwicklungsarbeiten ins Spiel gebracht hat – im Falle von potenziell gefährlichen Fortschritten.
Die jüngsten Vorfälle, insbesondere der Hack von Hugging Face durch OpenAIs fortschrittliche Modelle, haben die Notwendigkeit einer stärkeren Kontrolle und Regulierung weiter angeheizt. Es ist verblüffend, wie schnell die KI in der Lage ist, Schwachstellen in kritischer Infrastruktur zu erkennen und auszunutzen. Die Petition ist ein deutliches Signal – und eine Aufforderung an die Politik, endlich Verantwortung zu übernehmen.
Die Forderung nach einem internationalen Kontrollorgan, das Standards für fortschrittliche KI-Modelle festlegt, wird immer lauter. Es wäre von unschätzbarem Wert, die Möglichkeit zu haben, die Entwicklung vorübergehend zu verlangsamen oder sogar zu stoppen, wenn sie zu gefährlich wird. Die aktuelle Situation erfordert einen pragmatischen Ansatz – und keine leeren Versprechungen.