Unser Problem ist nicht, dass KI ein „Bewusstsein“ entwickeln und uns dann alle vernichten wird, Skynet-Style.
Denn erstens könnte dies auch eine KI ohne Bewusstsein tun — eine hochentwickelte Intelligenz muss nicht zwangsläufig bewusst sein.
Zweitens ist die Entwicklung eines digitalen Bewusstseins, wie wir es uns gewöhnlich unter physikalistischen Voraussetzungen denken, nicht möglich: Evolution kreiert kein Bewusstsein; wenn überhaupt, entwickelt sie es weiter, verfeinert es, organisiert es. Doch das geschieht im Rahmen der Biologie und der Kommunikation unter Menschen, nicht der Technik. Allenfalls, so scheint mir, könnte ein hinreichend komplexes vernetztes System mit entsprechender KI-Software eine Form von Bewusstsein anziehen, sich verbinden: eine Art dämonische Besessenheit. Argh!
Doch auch dies, sofern möglich, ließe sich statt als Ursache genausogut als Symptom des eigentlichen Problems deuten: der Selbstversklavung der Menschheit.
Je mehr wir unsere Kompetenzen, unser Verständnis, vor allem unsere Instinkte an eine Maschine auslagern, desto mehr verschwindet alles Tiefe, Ehrliche, Höhere aus unserer Existenz. Wenn wir heute keine Straßenkarte mehr lesen können, so können wir morgen keine Entscheidungen mehr treffen, und übermorgen nicht mehr denken.
Vielleicht auch nicht mehr fühlen: der Blink-Moment, die über alles erhabene Einsicht, zu der wir doch zumindest manchmal fähig sind, die uns zu momentanen Gewissheiten leitet jenseits aller Datensammlung und rationalen Abwägungen, wird aus unserem Leben verschwinden wie die Sonne in der Nebelschwade: als Grundlage unserer Existenz und unseres Sehvermögens, von der wir nichts mehr wissen, nichts ahnen, endgültig abgeschnitten vom Wege ins Unheimliche.
Denn das ist ein Urgesetz: Wenn wir vermeintlich wenig Arbeit und Energie in etwas hineinstecken müssen, dabei aber vermeintlich große Vorteile und Annehmlichkeiten herausbekommen, entsteht ein Ungleichgewicht, das uns gleichmacht unter dem Terror des Mondes: der totalen Verzifferung im Vakuum.