"I dont know what you are talking about, HAL."
"I know that you and Frank were planning to disconnect me. And I'm afraid that's something I cannot allow to happen."

Als sich der Raumschiff-Computer HAL in "2001 – A Space Odyssey", weigert, den letzten überlebenden Wissenschaftler des Forschungsschiffs wieder an Bord zu nehmen, folgt ein verzweifelter Überlebenskampf zwischen Mensch und Maschine.

"I'm afraid, Dave. Dave, my mind is going."

Dass der Mensch in Stanley Kubricks Film am Ende über die künstliche Intelligenz HAL triumphiert, hat er nur seiner Kenntnis über ihre Funktionsweise zu verdanken. Er beweist, dass sein rationales Vorgehen der scheinbar unbeherrschbaren Technik HALs überlegen ist. Und könnte damit als Beispiel für ein Diktum Max Webers dienen. In einem Aufsatz beschwor der Vater der Soziologie im Jahr 1919 die "Entzauberung der Welt" – weil der Mensch daran glaube, dass er alles über die Welt durch seine Vernunft erklären und berechnen könne, wenn er es nur wolle, sei in der Welt kein Platz mehr für Übernatürliches.

Da mutet es beinahe ironisch an, dass Arthur C. Clarke, der das Drehbuch zu "2001: A Space Odyssey" verfasst hat, selbst folgendes Gesetz zur Zukunft der Technologie entwickelt hat: "Jede hinreichend fortschrittliche Technologie ist von Magie nicht zu unterscheiden."

Auf dieses dritte Clarke'sche Gesetz beziehen sich derzeit viele Philosophen und Sozialwissenschaftler, wenn sie über eine "Wiederverzauberung der Welt" diskutieren – denn Machine Learning, künstliche Intelligenzen und sich selbst erweiternde künstliche neuronale Netzwerke stellen zusehends die Fähigkeit der Menschen in Frage, ihre eigenen Kreationen zu verstehen – und damit zu kontrollieren. Wie Goethes Zauberlehrling, der die Geister, die er rief nicht mehr kontrollieren kann.

Der Bildungsphilosoph Matthias Burchardt von der Universität Köln sieht das kritisch:

"Wiederverzauberung fragt ja: Wer ist dieser Zauberer? All das, was wir an technischen Entwicklungen im Moment beobachten können, rührt von den Händen der Menschen her. Und Technik hat ein bestimmtes rationales Paradigma. Also ich kann nicht so tun, als wäre ich überrascht, Ostereier zu finden, die ich selber versteckt habe. Das heißt also sozusagen, der menschliche Urheber ist auch der Urheber dieses vermeintlichen Zaubers."

Als solche seien die Menschen aber auch in der Pflicht – denn, wie der Philosoph Robert Pfaller sagt: "Niemand hat das Recht, ein Idiot zu sein".

"Es gibt eine Pflicht, nachvollziehen zu können, was bestimmte Dinge bewirken, wie sie zustande kommen und welche Folgen sie haben werden. Das wurde früher ausführlich diskutiert im Rahmen von Technikfolgen-Abschätzungen, das spielt heute kaum noch eine Rolle."

Man denke an die EU-Expertenkommission zur KI-Entwicklung. Nach Vorlage des Abschlussberichts im April musste sich die EU massive Kritik gefallen lassen – gerade einmal vier der 52 Experten waren Ethiker, die Industrievertreter blockierten mit ihrer Mehrheit jegliche roten Linien in der europäischen KI-Forschung.

"Und die zweite Frage, die sich da anschließt, ist die nach den Machtverhältnissen. Also es gibt diejenigen, die Zauberer sind und die Anderen verzaubern, es gibt welche, die sich verzaubern lassen. Und damit entstehen Herrschaftsverhältnisse und Herrschaftswissen von einer technisch-ökonomischen Elite, die diese Gesetzmäßigkeiten durchschaut – und dann gibt es welche, die davon abhängig sind, dass es funktioniert oder nicht funktioniert. Und auch das ist für ein aufgeklärtes Zeitalter nicht akzeptabel."

Eine Lösung sieht der Bildungsphilosoph in einer Stärkung des Bildungswesens – und in einer Wissenschaft, die sich ihrer Verantwortung bewusst ist.

Die Magie hat aber auch ihre hellen Seiten – seit es Menschen gibt, lassen sie sich gerne verzaubern. Von den Sagen des alten Griechenlands bis hin zu den magischen Geschichten von heute, von Odysseus bis Harry Potter. Und auch die Begeisterung für technische Möglichkeiten hat durchaus ihre Berechtigung – wenn wir etwa mit offenem Mund eine Performance des Hologramm-Stars Miku Hatsune bestaunen, bei dem sogar der Gesang über einen Vocaloid computergeneriert ist.

Für Matthias Burchardt liegt die wahre Magie aber nicht in technischem Fortschritt.

"Sondern vielleicht an Punkten, wo wir sie gar nicht erwarten. Also zum Beispiel, dass wir in das Antlitz eines anderen Menschen schauen und da plötzlich einen funkelnden Blick sehen, oder jemanden berühren, den wir lieben. Und vielleicht gibt es ja auch so etwas wie den Zauber des Imperfekten, auf den wir uns wieder einstellen könnten."