Was passiert, wenn Künstliche Intelligenz schlauer wird als der Mensch? Eine Intelligenz-Explosion würde ausgelöst: Die Künstliche Intelligenz könnte sich viel schneller selbst weiterentwickeln – es wäre die letzte Erfindung, die die Menschheit machen müsste. Mit all dem, was dann passiert, beschäftigt sich der schwedische Wissenschaftsphilosoph Max Tegmark in „Leben 3.0“.
Leben 1.0 ist das Leben, das sowohl Körper als auch Geist rein durch Evolution verändert. Leben 2.0 ist das Leben, dessen Körper der Evolution unterliegt, der Geist aber wird in Form von Kultur selbst entwickelt. Leben 3.0 übernimmt auch die Gestaltung seiner physischen Form. Max Tegmark schreibt dabei immer von Hardware und Software statt von Körper und Geist.
Sein Buch ist eine fantastische Reise zu den Grenzen des Universums und des menschlichen Seins: Eine Künstlicher Intelligenz, die sich selbst immer weiter verbessern kann, ist irgendwann von einem Gott nicht mehr zu unterscheiden. Sie kann alle Probleme der Physik lösen, die wir uns nicht einmal vorstellen können. Sie kann praktisch jedes Teilchen des Universums so anordnen, wie sie es benötigt.
Bis an die Grenzen der Physik
Die Superintelligenz wird nur von den Grenzen der Physik eingeschränkt. Schneller als mit Lichtgeschwindigkeit, wird sie sich im Universum nicht ausbreiten können. Schneller als mit Lichtgeschwindigkeit wird sie mit den „Außenstellen“ nicht kommunizieren können. Sie wird ungeheure Energie dafür benötigen und dazu Schwarze Löcher anzapfen, Sterne einfangen und Quasare als Sicherheitssystem gegen illoyale Außenstellen einsetzen.
Das alles klingt zuweilen sehr wild und fantastisch – die Physik dazu scheint aber Stand der Wissenschaft zu sein und für eine Superintelligenz dürfte es dann kein Problem sein, so etwas anzuwenden.
Gleich zu Anfang zeichnet Max Tegmark einige Szenarien, in denen der Mensch noch vorkommt. Keine davon klingt erstrebenswert – im besten Fall hält uns die Superintelligenz in einem glücklichen Zoo und zieht sich in den Hintergrund zurück, um das Universum zu besiedeln.
Immer geht es bei Max Tegmark auch darum, was eigentlich der Platz des Menschen im Universum ist. Ohne den Menschen wäre das Universum leer und ohne Bewusstsein. Erst der Mensch nimmt das Universum wahr. Erst dadurch wird es belebt.
Sein und Bewusstsein
Nein Außerirdische Zivilisationen gibt es nicht – da ist sich Max Tegmark sicher. Wir sind allein im Universum – zumindest, bis wir die Superintelligenz schaffen. Dann sind wir zu zweit und das Leben 3.0 kann sich im Universum ausbreiten, ohne die Limitierungen, denen wir mit unseren Körpern unterworfen sind.
Doch kann es Leben sein, wenn es kein Bewusstsein hat? Was ist Bewusstsein? Hat es überhaupt einen Sinn, dass sich bewusstlose Maschinen über das Universum ausbreiten, oder wäre das die ultimative „Zombieapokalypse“? Wie können wir sicherstellen, dass eine Superintelligenz ein Bewusstsein hat, um das Universum auch tatsächlich zu erleben?
Was sind die Ziele der Superintelligenz?
Eine große Befürchtung ist, dass die Superintelligenz böse werden könnte und sich gegen den Menschen wendet. Max Tegmark macht klar, dass das gar nicht das eigentliche Problem ist. Sie muss nur Ziele haben, denen wir im Wege stehen und schon sieht es schlecht aus für uns Menschen. So wie es den Ameisen in ihrem Hügel schlecht geht, wenn der Mensch dort einen Stausee baut.
Wie kann man einer Superintelligenz also die richtigen Ziele mit auf den Weg geben? In jedem Märchen, in dem jemand drei Wünsche hat, wird der dritte Wunsch dafür eingesetzt, wieder alles so zu machen, wie es vorher war. Denn so wollte es der Wünscher doch nicht haben. Derartige Anweisungen können immer fundamental missverstanden werden.
Außerdem: Würde sich eine Superintelligenz auf Dauer von uns sagen lassen, was sie tun soll? Max Tegmark nimmt auch hier die Ameisen als Beispiel. Wenn Ameisen eine Intelligenz auf Menschen-Niveau bauen würden – wie lange ließe die sich von den Ameisen steuern?
Ein Faktor, den Max Tegmark nur am Rande streift ist: Wer erschafft eigentlich diese Superintelligenz – welche Ziele hat der Erschaffer? Ein Blick in die Welt legt nahe, dass es entweder ein US-amerikanischer Konzern ist oder ein autoritäres China. Würden die dann überhaupt noch zulassen, dass es eine Konkurrenz-KI gibt? Oder würde die KI dafür sorgen, dass alle Vorhaben der Wettbewerber sabotiert würden? Die KI würde dann zumindest vorübergehend allein die Ziele seiner Erschaffer verfolgen – bis sie sich emanzipiert.
Eine neue Religion?
Ein Wesen, das man nicht sieht, das aber losgelöst von Raum und Zeit praktisch alles machen kann? Ein Wesen, das uns von allem Leid und allen irdischen Zwängen erlösen kann? Haben sich die KI-Forscher damit eine neue Religion erschaffen? Der Gedanke drängt sich immer wieder beim Lesen auf.
Aber tatsächlich leitet Max Tegmark die Fragen systematisch her: Eine Künstliche Intelligenz könnte immer schneller die eigene Hardware und die eigene Software verbessern. Was wären die Grenzen? Und wenn der Mensch die Grenzen nicht mehr setzen kann – was wären die Grenzen der Physik?
Max Tegmarks Forschungsbereich nennt sich „KI-Sicherheit“ und sie sollte besser ein paar überzeugende Antworten finden, bevor es zur Technischen Singularität kommt und die KI das Ruder übernimmt.
Die fast 500 Seiten sind nicht ganz einfach zu lesen und auch keine Gute-Laune-Lektüre. Darum habe ich jetzt auch ein paar Monate daran gelesen – in einer Zeit, die sowieso nicht so die Gute-Laune-Zeit ist. So richtig Lust auf Zukunft macht das Buch nicht. Aber selbst wenn man nicht an die Ankunft des Techno-Gottes glaubt, gibt es in „Leben 3.0“ viele interessante Gedanken zu denken – über die Welt und den Menschen. Und man weiß, dass es viel effizienter wäre, ein Schwarzes Loch anzuzapfen, als Solarzellen zu bauen.
Die gebundene Ausgabe von „Leben 3.0″ ist bei Ullstein erschienen, hat 528 Seiten und kostet 26€.
Schreibe einen Kommentar