Künstliche Intelligenz fängt klein an. Sie errechnet Reiserouten, analysiert die Wetterlage, erkennt Gesichter, steuert Autos, gewinnt beim Schach, beim Go! und bei Computerspielen. Um alle diese Leistungen zu erbringen, muss eine Software lernfähig sein. Und wer aus seinen Fehlern lernt, wird immer besser. Intelligentere Software schafft irgendwann ihre eigene Hardware, und es kommt geradezu zwangsläufig zur "Intelligenzexplosion". Darauf sollten wir vorbereitet sein, warnt der M.I.T.-Physiker Max Tegmark.

Neue Computerprogramme können unser Leben angenehmer machen. Davon ist der Optimist und Technikfreund Max Tegmark überzeugt. Aber gerade darin sieht er auch das Risiko. Nicht die Boshaftigkeit künstlicher Intelligenzen gefährdet die Menschheit, sondern die zunehmende Kompetenz der Computer.

Schon heute gibt es nur noch wenige Spezialbereiche, in denen Menschen Computern überlegen sind. Unsere Fabriken, die Medizin, das Rechtssystem, das Finanzwesen und der Handel profitieren längst von den hochspezialisierten Teilintelligenzen, ohne dass das die Menschheit in Frage stellt. Andererseits lauern bereits jetzt Gefahren, denen wir uns stellen müssen, zum Beispiel wenn es bei der Entwicklung intelligenter Waffen zu einer Art Wettrüsten kommt oder wenn Computer überforderten Richtern Urteile empfehlen, deren Grundlage diese nicht verstehen.

Solange sich Computer auf Spezialbereiche beschränken, können wir Menschen das Ruder in der Hand behalten. Das wird sich jedoch grundlegend ändern, wenn aus der speziellen eine allgemeine Intelligenz entsteht. Sie verknüpft unterschiedliche Fähigkeiten und wird irgendwann dem Menschen überlegen sein. Ob und wann die künstliche Intelligenz die menschliche Intelligenz überflügeln wird, weiß der Experte Max Tegmark nicht zu sagen. Aber er liefert Argumente, warum es bereits in Jahrzehnten zu einer künstlichen Intelligenzexplosion kommen kann. Nämlich dann, wenn intelligente Software sich selbst verbessert und ihre eigene Hardware konstruiert.

Ob Menschen dann noch gebraucht oder wenigstens geduldet werden, wird davon abhängen, ob wir der Software die richtigen Ziele einprogrammiert haben. Was diese Ziele sind, sollten wir uns heute überlegen. Welche Ethik sollten wir einer Künstlichen Intelligenz mit auf den Weg geben, welche Schranken sollten wir ihr setzen? Und wird sich die Superintelligenz überhaupt in ihre Schranken weisen lassen?

Max Tegmark liefert in seinem Buch viel Detailwissen, um Außenseiter in die Welt der Softwareentwickler und Computerspezialisten einzuführen. Ausführlich beschreibt er seine eigenen Initiativen, die zahlreichen Diskussionen unter Fachleuten und Gedankenspiele der Insider. Das ist gelegentlich abstrakt und nicht immer leicht verständlich. Aber Max Tegmark will niemanden überrumpeln, er will überzeugen. Als Idealist träumt er von einer besseren Zukunft durch Technologie und warnt gleichzeitig vor möglichen Risiken. So entstand ein Buch, das sich trotz vieler offener Fragen zu lesen lohnt.