Eine ungewöhnlich vielfältige Allianz aus Tech-Pionieren, Wissenschaftlern, religiösen Vertretern und Prominenten hat in einem offenen Brief ein sofortiges Verbot der Entwicklung von sogenannter »Superintelligenz« gefordert. Der vom ›Future of Life Institute‹ (FLI) initiierte Aufruf, betitelt als »Statement on Superintelligence«, verlangt ein Entwicklungsverbot, das erst aufgehoben werden soll, wenn ein breiter wissenschaftlicher Konsens über Sicherheit und Kontrollierbarkeit besteht – und wenn die Öffentlichkeit zustimmt.
Statement on Superintelligence
»Kontext: Innovative KI-Werkzeuge könnten zu einem nie dagewesenen Maß an Wohlstand und gesundheitlichem Fortschritt führen. Gleichzeitig verfolgen jedoch viele führende KI-Unternehmen das erklärte Ziel, in den kommenden zehn Jahren eine Superintelligenz (AGI) zu entwickeln, die den Menschen in nahezu allen kognitiven Aufgaben deutlich überlegen ist. Dies hat Bedenken ausgelöst – von wirtschaftlicher Verdrängung und Entmachtung des Menschen über den Verlust von Freiheit, Bürgerrechten, Würde und Kontrolle bis hin zu Risiken für die nationale Sicherheit und sogar der möglichen Auslöschung der Menschheit. Die folgende prägnante Stellungnahme soll das wachsende Bewusstsein für die zunehmende Zahl von Expertinnen, Experten und öffentlichen Persönlichkeiten fördern, die sich gegen ein überstürztes Vorgehen hin zur Superintelligenz aussprechen.
Wir fordern ein Verbot der Entwicklung von Superintelligenz, das erst aufgehoben werden darf, wenn
- ein breiter wissenschaftlicher Konsens darüber besteht, dass dies sicher und kontrollierbar erfolgen kann, und
- eine starke öffentliche Zustimmung vorliegt.«
Zu den Unterzeichnern zählen namhafte Persönlichkeiten wie Apple-Mitgründer Steve Wozniak, Virgin-Gründer Richard Branson, der rechte Medienkommentator Steve Bannon, Schauspieler Joseph Gordon-Levitt, das Herzogspaar Harry und Meghan, sowie renommierte KI-Forscher wie Yoshua Bengio und Geoffrey Hinton, beide als »Godfathers of AI« bekannt. Auch Paolo Benanti, der KI-Berater des Papstes, und der frühere US-Militärchef Mike Mullen unterstützen den Appell.
Laut FLI-Umfrage befürworten nur fünf Prozent der US-Amerikaner eine unregulierte Weiterentwicklung von Hochleistungs-KI, während über 70 Prozent eine strenge Regulierung wünschen. Rund zwei Drittel sprachen sich gegen den Bau einer Superintelligenz aus, solange deren Sicherheit nicht nachgewiesen ist.
Bengio warnte in einer begleitenden Stellungnahme, KI-Systeme könnten bald in vielen kognitiven Bereichen Menschen übertreffen. »Diese Fortschritte könnten globale Probleme lösen, bergen aber erhebliche Risiken«, sagte er. Notwendig seien wissenschaftliche Methoden, um KI so zu gestalten, dass sie Menschen grundsätzlich keinen Schaden zufügen könne.
Bemerkenswert ist, wer nicht unterzeichnete: Weder Elon Musk, der 2023 noch einen ähnlichen FLI-Brief unterschrieben hatte, noch Sam Altman (OpenAI), Mustafa Suleyman (DeepMind/Microsoft) oder Dario Amodei (Anthropic) fanden sich unter den Namen.
Während frühere Appelle kaum Wirkung zeigten – etwa vor dem Erscheinen von GPT-5 im Sommer 2025 –, verdeutlicht das neue Schreiben die wachsende politische und gesellschaftliche Einigkeit darüber, dass die Entwicklung Künstlicher Intelligenz demokratisch kontrolliert werden müsse.
»Niemand, der diese Systeme entwickelt, hat die Menschheit gefragt, ob das in Ordnung ist«, sagte FLI-Mitgründer Anthony Aguirre. »Wir haben gefragt – und die Antwort lautet: Es ist nicht akzeptabel.«
© ÆON-Z e.V. Thinktank. Alle Rechte vorbehalten, all rights reserved. Nachdruck und Weitergabe an Dritte untersagt.
