Was ist Superintelligenz und warum heißt sie so?

Kurz gesagt: Superintelligenz ist eine hypothetische KI, die dem Menschen in nahezu allen relevanten Bereichen weit überlegen wäre. Sie heißt so, weil „super“ „jenseits von“ bedeutet. Bei keinem System besteht allgemeine Einigkeit, dass es sie erreicht hat. Die praktische Frage für Unternehmen lautet daher, wie sie zunehmend leistungsfähige KI so einsetzen, dass sie sie überwachen und kontrollieren können.

Das Wichtigste auf einen Blick

• Die Idee geht auf I. J. Goods „ultraintelligente Maschine“ von 1965 zurück und wurde durch Nick Bostroms Buch von 2014 breit bekannt.
• AGI bezeichnet in etwa allgemeine Fähigkeiten auf menschlichem Niveau; Superintelligenz bezeichnet allgemeine Fähigkeiten, die diese deutlich übertreffen.
• Es gibt keinen allgemein anerkannten Test für AGI und keine vereinbarte Ziellinie für Superintelligenz.
• In der Debatte geht es vor allem um Sicherheit: Kontrolle, Alignment und die Frage, ob Bedenken Gehör finden.

Was ist Superintelligenz?

Superintelligenz ist eine hypothetische Form künstlicher Intelligenz, die dem Menschen in praktisch allen relevanten Bereichen weit überlegen wäre, von Wissenschaft und Strategie bis hin zu Kreativität und sozialer Kompetenz. Es geht nicht darum, etwas besser Schach zu spielen oder schneller zu rechnen. Computer schlagen Menschen bei eng umrissenen Aufgaben bereits heute. Superintelligenz bedeutet, bei nahezu allem besser zu sein als die besten Menschen.

Der Name hat einen einfachen Grund. Das Präfix „super“ stammt vom lateinischen Wort für „oberhalb“ oder „jenseits“, das Wort sagt also schlicht, worum es geht: Intelligenz, die über den menschlichen Bereich hinausgeht. Es ist das „super“ im selben Sinn wie in „Überschall“, also schneller als der Schall.

Woher stammen die Idee und der Name?

Die Idee ist älter als die moderne KI. 1965 schrieb der britische Mathematiker I. J. Good über eine „ultraintelligente Maschine“, die alle intellektuellen Tätigkeiten jedes Menschen übertreffen könnte, und argumentierte, eine solche Maschine könne noch bessere Maschinen entwerfen, was zu einer „Intelligenzexplosion“ führe, wie er es nannte.

Das Wort „Superintelligenz“ wurde breit bekannt, nachdem der Philosoph Nick Bostrom 2014 sein Buch Superintelligence: Paths, Dangers, Strategies veröffentlicht hatte, in dem er den Begriff als einen Intellekt definierte, der die kognitive Leistungsfähigkeit des Menschen in praktisch allen interessierenden Bereichen weit übertrifft. Seitdem wird er von Forschenden, KI-Unternehmen und politischen Entscheidungsträgern gleichermaßen verwendet.

Was ist der Unterschied zwischen AGI und Superintelligenz?

Die beiden Begriffe werden oft verwechselt, deshalb hilft eine Abgrenzung:

• Enge KI (Narrow AI) nutzen die meisten von uns heute: Systeme, die bestimmte Dinge gut können, etwa Texte übersetzen, Produkte empfehlen oder Code schreiben.
• AGI (Artificial General Intelligence, allgemeine künstliche Intelligenz) bezeichnet KI, die eine breite Palette von Aufgaben in etwa auf menschlichem Niveau lernen und ausführen kann, statt nur eine einzelne. Der Begriff kam in den 2000er-Jahren in Umlauf.
• Superintelligenz (manchmal ASI genannt) ist der Schritt darüber hinaus: allgemeine Fähigkeiten, die die menschlichen deutlich übertreffen.

Es gibt keinen allgemein anerkannten Test dafür, wann etwas als AGI gilt, und keine vereinbarte Ziellinie für Superintelligenz. Unterschiedliche Unternehmen und Forschende verwenden unterschiedliche Definitionen, und das ist ein Grund, warum sich Aussagen, man sei „nah dran“, so schwer vergleichen lassen. Betrachten Sie jeden einzelnen Zeitplan, den Sie lesen, mit Vorsicht.

Warum geht es in der Debatte um Sicherheit?

Der größte Teil der ernsthaften Diskussion über Superintelligenz dreht sich nicht darum, ob sie beeindruckend ist. Es geht um Kontrolle und Alignment: sicherzustellen, dass Systeme, die weit leistungsfähiger sind als wir, Ziele verfolgen, die für Menschen gut sind, und dass wir Probleme bemerken und korrigieren können, bevor sie ernst werden.

Sie müssen nicht glauben, dass Superintelligenz nahe ist, um zu verstehen, warum Unternehmen und Forschende hier investieren. Dieselben Fragen stellen sich bereits bei heutigen Systemen in kleinerem Maßstab. Können wir erkennen, was ein Modell tut und warum? Können wir es stoppen, wenn es seine Grenzen überschreitet? Finden Menschen, die Bedenken äußern, Gehör?

Zwei aktuelle Beispiele aus den Nachrichten

Zwei Meldungen aus den vergangenen Tagen zeigen, wie sich diese Bedenken in der Praxis äußern. Beide sollten sorgfältig gelesen werden, denn sie enthalten Behauptungen und unbestätigte Details.

OpenAI und sein Sicherheitsteam. TechCrunch berichtete unter Berufung auf das Wall Street Journal, OpenAI habe sich von drei Forschern seines Sicherheitsteams getrennt, die angeblich vertrauliche Informationen an eine externe KI-Sicherheitsorganisation weitergegeben haben sollen. Ein OpenAI-Sprecher sagte, eine interne Untersuchung habe bestätigt, dass die Personen „sensible Informationen außerhalb der etablierten Unternehmensverfahren missbräuchlich behandelt“ hätten. Der Bericht nannte weder die Forscher noch die Organisation noch die betroffenen Informationen, und TechCrunch erklärte, die Identität von in Social-Media-Beiträgen genannten Personen nicht bestätigt zu haben. TechCrunch wies außerdem darauf hin, dass die Abgänge zwei Tage nach einem Bericht der New York Times erfolgten, wonach OpenAI-Führungskräfte Sicherheitswarnungen von Mitarbeitenden beiseitegeschoben hätten, und dass ein OpenAI-Sprecher der Times sagte, das Unternehmen nehme Sicherheitsbedenken ernst und verfüge über interne Meldewege, räume aber „die Notwendigkeit ein, schneller voranzukommen“. Die Faktenlage ist weiterhin unklar, und es ist nicht bekannt, ob die Forscher ihre Bedenken zuvor intern vorgebracht hatten.

Google und die Überwachung der Schlussfolgerungen eines Modells. In seiner Ankündigung des Modells Gemini 4 Argon gibt Google laut Ars Technica an, das Modell mit Systemen entwickelt zu haben, die seine Gedankenkette (Chain-of-Thought) überwachen und es stoppen können, wenn es Grenzen überschreitet, und es schrittweise zu veröffentlichen, beginnend mit einer kleinen Gruppe vertrauenswürdiger Tester. Dies sind Googles Aussagen über die eigene Arbeit.

Keine der beiden Meldungen sagt etwas darüber aus, dass Superintelligenz bevorsteht. Sie zeigen vielmehr, dass die praktische Seite der KI-Sicherheit, von der Frage, wer intern Gehör findet, bis hin zu der Frage, wie leistungsstarke Modelle veröffentlicht und überwacht werden, ein aktives und mitunter umstrittenes Feld ist.

Was bedeutet das für ein Unternehmen, das KI nutzt?

Die meisten Unternehmen werden nie ein Frontier-Modell entwickeln, treffen aber Entscheidungen, die dieselben Themen berühren:

1. Lassen Sie eine Person verantwortlich bleiben. Was auch immer ein KI-System für Sie tut: Jemand sollte für das Ergebnis einstehen.
2. Beschränken Sie standardmäßig, was Systeme tun können. Geben Sie KI-Werkzeugen nur den minimal nötigen Zugriff und erweitern Sie ihn bewusst.
3. Protokollieren und prüfen Sie. Wenn ein KI-Werkzeug Aktionen ausführt, führen Sie ein Protokoll, das Sie auditieren können.
4. Fragen Sie Anbieter, wie sie mit Sicherheit umgehen. Sinnvolle Fragen sind, wie sie testen, wie sie überwachen und wie sie auf Probleme reagieren.
5. Seien Sie skeptisch gegenüber großen Versprechen. Sowohl „das wird gleich alles verändern“ als auch „das ist alles nur Hype“ lässt sich leichter sagen als belegen.

Die Kurzfassung

Superintelligenz ist die Vorstellung einer KI, die dem Menschen auf ganzer Linie weit überlegen ist. Sie heißt so, weil „super“ „jenseits“ bedeutet. Sie existiert heute in keiner allgemein anerkannten Form, und es gibt echte Meinungsverschiedenheiten darüber, wie und wann sie entstehen könnte. Für die meisten Organisationen kommt es derzeit auf die praktische Version derselben Frage an: Wie setzen wir zunehmend leistungsfähige KI so ein, dass wir sie verstehen, überwachen und kontrollieren können?

Wie sich das ins größere Bild einfügt, erfahren Sie in unserem Überblick über KI-Trends und Prognosen für 2026 oder in unserer Checkliste zur Auswahl eines KI-Entwicklungsunternehmens.

Weitere Einblicke

• Gemini 4 Argon: So lesen Sie die Ankündigung eines Frontier-Modells
• Warum KI-Agenten eine eigene Infrastruktur bekommen

Quellen

• TechCrunch, OpenAI cuts ties with 3 safety researchers, WSJ reports, 1. Oktober 2026
• Ars Technica, Google announces Gemini 4 Argon AI model, but you can't use it yet, 30. September 2026
• I. J. Good, „Speculations Concerning the First Ultraintelligent Machine“, 1965
• Nick Bostrom, Superintelligence: Paths, Dangers, Strategies, Oxford University Press, 2014