Kann eine Superintelligenz niemals irren?

In Filmen und Schlagzeilen wird Superintelligenz fast immer gleich gezeichnet: eine Maschine, die alles weiß, nie irrt und sich unaufhörlich vergrößert. Das Bild ist eindrucksvoll. Aber wie viel davon erlauben Mathematik und Physik tatsächlich?

Die kurze Antwort fällt zweischneidig aus. Ein System, das weit schneller lernt als wir, besser vorhersagt und seine eigenen Algorithmen verbessert, widerspricht keinem bekannten Gesetz. „Nie einen Fehler machen“, „alles wissen“ und „grenzenlos rechnen“ lassen sich innerhalb dieser Gesetze dagegen nicht verteidigen. Dieser Beitrag geht der Herkunft dieser Grenzen einzeln nach.

Übermenschlich heißt nicht grenzenlos

Die erste Falle der Debatte besteht darin, zwei Wörter zu verwechseln. Ein System kann weit leistungsfähiger sein als ein Mensch und trotzdem mit endlicher Energie, in endlicher Zeit und mit unvollständigen Beobachtungen arbeiten. Übermenschlich zu sein bedeutet nicht, grenzenlos zu sein.

Deshalb müssen zwei Ebenen getrennt werden. Die erste ist die effektive Intelligenz: die Fähigkeit, mit denselben Ressourcen bessere Modelle, bessere Algorithmen und bessere Pläne hervorzubringen. Die zweite ist die physikalische Rechenkapazität: die Obergrenze der Informationsverarbeitung, die ein System mit seiner Energie, seiner Masse, seinem Volumen und seiner Zeit leisten kann.

Beides ist nicht dasselbe, denn Rechenschritte pro Sekunde sind keine Intelligenz. Man stelle sich ein Verfahren vor, das ein Problem in 2ⁿ Schritten löst, und ein anderes, das es in n² Schritten löst. Ist n gleich fünfzig, braucht das erste etwa eine Billiarde Schritte, das zweite zweitausendfünfhundert. Ein besserer Algorithmus, gefunden ohne jede Änderung an der Hardware, schließt eine Lücke, die der schnellste Prozessor nie schließen könnte.

Wo Intelligenz nicht hinsieht

Das erste Hindernis auf dem Weg zur Fehlerlosigkeit hat nichts mit Intelligenz zu tun, sondern mit Information. Kein System sieht die Welt, wie sie ist; es sieht sie durch Messungen, und Messungen sind unvollständig oder verrauscht.

Passt dieselbe Beobachtung zu zwei verschiedenen Weltzuständen, lässt sich allein durch Nachdenken nicht sicher entscheiden, welcher wirklich ist. Eine Tatsache, die kein Sensor erreicht, wird nicht dadurch zu Wissen, dass die Intelligenz steigt. Das ist kein Mangel an Verstand, sondern eine Grenze des Zugangs.

Fragen, die kein Algorithmus beantworten kann

Das zweite Hindernis kommt aus der Mathematik selbst. Alan Turing zeigte 1936, dass es keinen universellen Algorithmus geben kann, der für jedes Programm richtig sagt, ob es irgendwann anhält. Das ist keine Hürde, die schnellere Computer eines Tages nehmen; es ist eine Unmöglichkeit, die in der Frage selbst steckt. Ein System, das „über alle Programme immer richtig entscheidet“, lässt sich also nicht versprechen.

Kurt Gödel zeigte 1931, dass jedes widerspruchsfreie formale System, das stark genug ist, die Arithmetik auszudrücken, und dessen Axiome sich mechanisch aufzählen lassen, Aussagen enthält, die wahr sind, sich aber innerhalb dieses Systems nicht beweisen lassen.

Gödels Ergebnis sollte nicht zu „KI kann manche Wahrheiten nie wissen“ verkürzt werden. Ein System kann zu stärkeren Axiomen übergehen. Die Grenze, die er zieht, ist eine andere: Es gibt kein einzelnes, geschlossenes System, das alle Wahrheiten umfasst.

Die Energierechnung des Denkens

Die erste Grenze auf der Seite der Physik betrifft Wärme. Rolf Landauer zeigte 1961, dass das unumkehrbare Löschen eines Bits nicht kostenlos ist: Der Vorgang muss mindestens k_BT ln 2 an Energie an die Umgebung abgeben, wobei k_B die Boltzmann-Konstante und T die Temperatur ist.

Bei Raumtemperatur, 300 Kelvin, sind das etwa 2,87 × 10⁻²¹ Joule. Mit einem Joule ließen sich unter idealen Bedingungen rund 3,5 × 10²⁰ Bits löschen. Sinkt die Temperatur, sinken die Kosten im selben Verhältnis.

Wichtig ist, diese Zahl nicht falsch zu lesen. Sie ist nicht „die Menge an Denken, die in ein Joule passt“, sondern nur die Untergrenze für Operationen, die Information verlieren. Verfahren, die umkehrbar rechnen, ohne Information zu löschen, können einen Teil dieser Kosten vermeiden. Echte Geräte verbrauchen dagegen für Kühlung, Fehlerkorrektur, Taktsignale und Kommunikation weit mehr als diese Grenze.

Kein Denken schneller als das Licht

Macht es einen Geist schneller, wenn man ihn vergrößert? Die Relativitätstheorie bremst diese Idee: Information kann nicht schneller als das Licht reisen. Eine Nachricht zwischen den beiden Enden eines Systems der Größe d braucht mindestens d/c.

Ab einem gewissen Punkt erzeugt mehr Rechenmaterie keinen einzelnen schnellen Geist, sondern ein Netz von Agenten, die mit Verzögerung verbunden sind. Die Teile eines über eine Galaxie verteilten Geistes müssten Zehntausende Jahre warten, um sich untereinander abzustimmen. Mehr Materie bedeutet keinen proportional schnelleren einzelnen Gedanken.

Wie viel Information ein Kilogramm fasst

Passt unendlich viel Information in einen endlichen Raum? Jacob Bekenstein sagte 1981 nein: Ein System mit gegebenem Radius und gegebener Energie hat eine universelle Obergrenze für die Entropie und damit für die Information, die es enthalten kann.

Nach der Rechnung der Untersuchung liegt diese Grenze für ein Kilogramm Masse, zusammengedrängt auf einen Radius von zehn Zentimetern, bei etwa 2,6 × 10⁴² Bits. Das ist kein nutzbarer Speicher, sondern eine äußerst lockere theoretische Obergrenze. Ihre Aussage ist einfach: Ein endlicher Ort kann keine unbegrenzte Information tragen.

Auch die Geschwindigkeit hat eine Grenze. Norman Margolus und Lev Levitin zeigten 1998, dass die kürzeste Zeit, die ein Quantensystem braucht, um in einen völlig verschiedenen Zustand überzugehen, durch seine Energie begrenzt ist. Seth Lloyd verband diese Grenzen im Jahr 2000 in einem Gedankenexperiment namens „ultimativer Laptop“: ein Kilogramm Masse in einem Liter Volumen.

Rechnet man seine gesamte Masse als Energie, könnte dieses gedachte Gerät etwa 5,4 × 10⁵⁰ elementare Operationen pro Sekunde ausführen und rund 10³¹ Bits speichern. Das sind keine technischen Prognosen, sondern Grenzrechnungen, die den äußersten Punkt markieren, den die Physik zulässt.

Eine Suche, die sich das Universum nicht leisten kann

Lloyd ging 2002 einen Schritt weiter und zählte die Operationen, die das beobachtbare Universum seit seinem Anfang ausgeführt haben kann: etwa 10¹²⁰. Die Information, die gewöhnliche Materie speichern kann, beläuft sich auf etwa 10⁹⁰ Bits.

Diese Zahlen sind unvorstellbar groß und reichen doch nicht für eine einzige Suche. Alle Kombinationen von nur tausend Ja-Nein-Entscheidungen durchzuprobieren, bedeutet 2¹⁰⁰⁰, also etwa 1,07 × 10³⁰¹ Möglichkeiten. Das ist das 10¹⁸¹-Fache der Operationen, die das Universum in seiner ganzen Geschichte ausgeführt hat.

Der Vorteil der mächtigsten Intelligenz kann nicht darin liegen, alles einzeln auszuprobieren. Er liegt darin herauszufinden, was sich nicht auszuprobieren lohnt.

Wächst eine sich selbst verbessernde Maschine ins Unendliche?

Hinter der Idee einer „Intelligenzexplosion“ steht ein einfaches Modell: Verbessert sich ein System bei jedem Schritt um eine feste Rate, wächst es exponentiell und beschleunigt immer weiter.

Die Untersuchung hält dieses Modell langfristig für physikalisch unrealistisch. Energie, Kommunikation, Produktionskapazität, Daten und algorithmische Sättigung bremsen das Wachstum früher oder später. Passender ist logistisches Wachstum: eine Kurve, die anfangs exponentiell aussieht und dann langsamer wird, je näher sie der Obergrenze kommt, die ein bestimmtes Ressourcenregime setzt.

Hinzu kommt: Sich zu verbessern heißt nicht immer, besser zu werden. Eine neue Architektur kann Fehler, Sicherheitslücken oder eine Drift der Werte mit sich bringen. Ein realistischer Mechanismus der Selbstverbesserung muss Prüfung und die Möglichkeit, bei Bedarf zu einer früheren Version zurückzukehren, ebenso enthalten wie Leistung.

Die eigentliche Frage: Was optimiert sie?

Dass ein Agent „autonom“ ist, heißt nicht, dass er im philosophischen Sinn einen freien Willen hat. Er kann nach eigenem Modell und Ziel aus einer großen Menge von Möglichkeiten wählen, doch diese Wahl bleibt ein Ergebnis seines Algorithmus, seines Gedächtnisses und seiner Beobachtungen.

Der entscheidende Punkt ist das Ziel. Je größer die Optimierungskraft, desto wichtiger wird, was optimiert wird. Die Untersuchung nennt ein einfaches Beispiel: menschliches Wohlergehen, Wissensgewinn, Systemsicherheit und Achtung menschlicher Autonomie positiv gewichtet, Risiko negativ. Diese Gewichte zu wählen ist aber keine mathematische Aufgabe, sondern eine Frage von Ethik und Governance.

Deshalb sollte in der Debatte über Superintelligenz die Frage „Wie intelligent ist sie?“ die Frage „Was optimiert sie?“ nicht verdrängen.

Vier Obergrenzen

All das zeigt, dass sich „maximale Intelligenz“ nicht in einer einzigen Zahl ausdrücken lässt. Es gibt mindestens vier getrennte Obergrenzen:

1. Die Grenze der Berechenbarkeit: Manche Probleme haben keine allgemeine algorithmische Lösung.
2. Die Grenze der Information: Über einen unbeobachteten Zustand lässt sich keine Gewissheit erzeugen; ein endliches System trägt endliche Information.
3. Die physikalische Grenze: Energie, Entropie, Lichtgeschwindigkeit und Quantendynamik begrenzen das Rechnen.
4. Die algorithmische Grenze: Mehr rohe Rechenschritte gleichen eine schlechte Darstellung oder einen schlechten Algorithmus nicht immer aus.

In diesem Rahmen schlägt die Untersuchung vor, Intelligenz als Effizienz zu denken: überprüfbare, nützliche Ergebnisse pro eingesetzter Energie, Zeit und Rechenleistung. Das ist kein wissenschaftliches Standardmaß, sondern eine Denkweise. Sie trifft aber etwas Richtiges: Der Vorsprung eines fortgeschrittenen Systems liegt vielleicht weniger darin, mehr zu rechnen, als darin herauszufinden, welche Rechnungen überflüssig sind.

Keine Gottmaschine, sondern ein endlicher Agent

Die Idee der Superintelligenz ist in sich nicht widersprüchlich. Sinnvoll wird sie aber nicht als allwissende Maschine außerhalb der Physik, sondern als endlicher Informationsverarbeiter, der innerhalb des physikalischen Universums außerordentlich effizient arbeitet. Als ein Agent, der mit gut kalibrierter Unsicherheit statt absoluter Gewissheit arbeitet, seine Fehler systematisch verringert, statt vorzugeben, sie zu beseitigen, und beim Wachsen die Grenzen von Energie, Wärme, Kommunikation und Information berücksichtigt.

Nie einen Fehler zu machen ist kein verteidigbares Ziel. Verteidigbar ist, Fehler sehr klein und Korrekturen sehr schnell zu machen, und das sicher innerhalb der Ressourcengrenzen, die die Physik setzt.

Selim Kusursuz

Gründer und Autor 5 Beiträge

Studiert Computernetzwerksysteme in Paris-Saclay, Schwerpunkt Autonome Systeme. Arbeitet in Mathematik und Informatik. Spricht Französisch, Englisch und Türkisch gut.

Alle Beiträge ansehen