Über 800 Persönlichkeiten fordern Stopp für KI-Superintelligenz

Mehr als 800 bekannte Politikerinnen und Politiker, Wissenschaftler, Wirtschaftslenker und öffentliche Persönlichkeiten – darunter der als 'Godfather of AI' geltende Geoffrey Hinton, Baidu-Mitgründer Zhang Yaqin, die Schauspielerin Meghan Markle und der Schriftsteller Stephen Fry – haben einen offenen Brief unterzeichnet, der ein sofortiges Verbot der Entwicklung superintelligenter Künstlicher Intelligenz fordert.

Der vom gemeinnützigen Future of Life Institute (FLI) veröffentlichte Brief verlangt, die Entwicklung von Systemen zu stoppen, die die menschliche Intelligenz übertreffen könnten – und zwar so lange, bis die Wissenschaft ihre Sicherheit verifizieren kann und die Öffentlichkeit deren Einsatz klar unterstützt. Laut FLI-Forschung befürworten nur 5 Prozent der US-Amerikaner den derzeit weitgehend ungebremsten Kurs der KI, während fast 75 Prozent strenge Regulierung wünschen.

FLI-Präsident Max Tegmark betonte, das eigentliche Risiko gehe nicht von rivalisierenden Unternehmen oder Staaten aus, sondern von dem, was die Menschheit selbst erschaffe. Er hob hervor, dass es nicht darum gehe, Forschung stillzulegen, sondern einen Kontrollverlust über Systeme zu verhindern, die autonom handeln und potenziell gefährlich werden könnten. Diese Nuance ist entscheidend: Gefordert wird eine Pause mit Leitplanken, kein Rückzug aus der Innovation.

Zu den Unterzeichnenden zählen außerdem die Turing-Preisträger Yoshua Bengio und Yao Qizhi, die frühere US-Sicherheitsberaterin Susan Rice, der ehemalige Vorsitzende des Vereinigten Generalstabs Mike Mullen sowie Steve Wozniak und Richard Branson. Der Appell kommt inmitten eines sich beschleunigenden Wettlaufs großer Tech-Konzerne – darunter OpenAI, Google und andere – um sogenannte Künstliche Allgemeine Intelligenz, ein Vorstoß, den die Unterzeichnenden als möglichen Wendepunkt der Menschheitsgeschichte einordnen. Vor diesem Hintergrund wirkt der Zeitpunkt kaum zufällig.