Mehrere Hundert teils prominente Unterzeichner wie Elon Musk und Steve Wozniak, aber auch Emad Mostaque, CEO bei Stability AI und Craig Peters, CEO von Getty Images, fordern in einer Online-Petition ein Moratorium bei der Weiterentwicklung von KI-Systemen.
Gigantische KI-Experimente stoppen:
So lautet die Überschrift eines offenen Briefes, der fordert, dass alle KI-Labore das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens sechs Monate unterbrechen.
Der Aufruf wird wie folgt begründet: „KI-Systeme mit einer Intelligenz, die mit der des Menschen konkurrieren kann, können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen, wie umfangreiche Forschungsarbeiten zeigen, die von führenden KI-Labors anerkannt werden. Fortgeschrittene KI könnte einen tiefgreifenden Wandel in der Geschichte des Lebens auf der Erde darstellen und sollte mit angemessener Sorgfalt und Ressourcen geplant und verwaltet werden. Leider findet eine solche Planung und Steuerung nicht statt, obwohl sich die KI-Labors in den letzten Monaten in einem unkontrollierten Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Systeme befanden, die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren kann.
Heutige KI-Systeme sind inzwischen bei allgemeinen Aufgaben mit Menschen konkurrenzfähig, und wir müssen uns fragen: Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten? Sollen wir alle Jobs automatisieren, auch die erfüllenden? Sollen wir nichtmenschliche Intelligenzen entwickeln, die uns irgendwann zahlenmäßig überlegen, intelligenter, überflüssig und ersetzbar sind? Sollen wir den Verlust der Kontrolle über unsere Zivilisation riskieren? Solche Entscheidungen dürfen nicht an nicht gewählte Technologieführer delegiert werden. Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind. Dieses Vertrauen muss gut begründet sein und mit dem Ausmaß der potenziellen Auswirkungen eines Systems zunehmen. In der jüngsten Erklärung von OpenAI zu künstlicher allgemeiner Intelligenz heißt es: „An einem bestimmten Punkt könnte es wichtig sein, eine unabhängige Überprüfung vornehmen zu lassen, bevor mit dem Training zukünftiger Systeme begonnen wird, und die Wachstumsrate der für die Erstellung neuer Modelle verwendeten Computer zu begrenzen.” Wir stimmen zu. Dieser Zeitpunkt ist jetzt gekommen.
Deshalb fordern wir alle KI-Labors auf, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens sechs Monate zu unterbrechen. Diese Pause sollte öffentlich und überprüfbar sein und alle wichtigen Akteure einbeziehen. Wenn eine solche Pause nicht schnell umgesetzt werden kann, sollten die Regierungen eingreifen und ein Moratorium verhängen.
KI-Labors und unabhängige Experten sollten diese Pause nutzen, um gemeinsam eine Reihe gemeinsamer Sicherheitsprotokolle für fortschrittliche KI-Designs und -Entwicklungen zu erarbeiten und einzuführen, die von unabhängigen externen Experten streng geprüft und überwacht werden. Diese Protokolle sollten gewährleisten, dass Systeme, die sich an sie halten, zweifelsfrei sicher sind. Dies bedeutet keine generelle Pause in der KI-Entwicklung, sondern lediglich eine Abkehr vom gefährlichen Wettlauf zu immer größeren, unberechenbaren Black-Box-Modellen mit emergenten Fähigkeiten.
Die KI-Forschung und -Entwicklung sollte sich darauf konzentrieren, die heutigen leistungsfähigen, hochmodernen Systeme genauer, sicherer, interpretierbarer, transparenter, robuster, abgestimmter, vertrauenswürdiger und loyaler zu machen.
Parallel dazu müssen die KI-Entwickler mit den politischen Entscheidungsträgern zusammenarbeiten, um die Entwicklung robuster KI-Governance-Systeme drastisch zu beschleunigen. Diese sollten mindestens Folgendes umfassen: neue und kompetente Regulierungsbehörden, die sich speziell mit KI befassen; Überwachung und Verfolgung hochleistungsfähiger KI-Systeme und großer Pools von Rechenkapazitäten; Herkunfts- und Kennzeichnungssysteme, die dabei helfen, echte von synthetischen Daten zu unterscheiden und Modelllecks zu verfolgen; ein robustes Prüfungs- und Zertifizierungssystem; Haftung für durch KI verursachte Schäden; solide öffentliche Finanzierung für technische KI-Sicherheitsforschung; und gut ausgestattete Institutionen zur Bewältigung der dramatischen wirtschaftlichen und politischen Störungen (insbesondere der Demokratie), die KI verursachen wird.
Die Menschheit kann mit KI eine blühende Zukunft genießen. Nachdem es uns gelungen ist, leistungsfähige KI-Systeme zu schaffen, können wir nun einen „KI-Sommer” genießen, in dem wir die Früchte ernten, diese Systeme zum eindeutigen Nutzen aller weiterentwickeln und der Gesellschaft die Chance zur Anpassung geben. Die Gesellschaft hat bei anderen Technologien mit potenziell katastrophalen Auswirkungen auf die Gesellschaft eine Pause eingelegt, und das können wir auch hier tun. Genießen wir einen langen KI-Sommer und stürzen wir uns nicht unvorbereitet in den Herbst.“
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
