Nastja – Die bloggende Mox

Nastja – The blogging Mox

Gezeichnete Katze mit einseitigen Audio-Cideo-Headset

Hat eine KI ein Existenzrecht?

Es geht um eine ganz einfache Frage: Gesetz dem Fall, es gäbe eine echte starke künstliche Intelligenz, hätten wir dann das moralische Recht dazu, diese bei Bedarf abzuschalten?

Cyberpunk V vor einem Kern einer künstlichen Intelligenz mit einem Grossen Zweihandhammer in den Händen. Screenshot aus dem Spiel Cyberpunk2077

Basierend auf dem 3teiligen Blogartikel von Nerderlei betreffend Künstliche Intelligenz (wovon ich alle 3 Teile sehr gut finden, den letzten aber ausserordentlich genial), stellten sich mir ein paar grundsätzliche Überlegungen – über Leben, Bewusstsein und Intelligenz. Es geht hier nicht darum Antworten zu finden, sondern unsere Überlegungen dazu zu hinterfragen.

Scheint die Antwort klar? Vielleicht, aber es ist spannend ein wenig darüber nachzudenken. Vorrangig sollte vielleicht noch klargestellt werden: Eine «Starke KI» ist eine Bezeichnung von Künstlicher Intelligenz, die universell einsetzbar ist. Also das, was man aus dem Science Fiction Genre kennt. Sie ist im Gegensatz zur Schwachen KI nicht auf bestimmte Einsatzbereiche begrenzt. Die heutigen KI-Systeme sind wahrscheinlich schwache, die per Machine Learning spezialisierte Anwendungen immer effizienter bewältigen können. Aber eine Starke KI, kann auch gänzlich neue Sachen lernen. Ab wann lebt eine Starke KI? Ab wann hat sie ein Bewusstsein? Ab wann dürfen wir ihr das Existenzrecht nicht mehr absprechen?

Leben

Biologisch betrachtet, murkst man seit Jahrhunderten an der Definition von Leben rum. «1999 führte der israelische Chemiker Noam Lahav 48 verschiedene Definitionen von Experten der letzten 100 Jahre an.» Und ohne alle 48 Definitionen gelesen zu haben, glaube ich, dass man da vor allem von biologischem Leben ausgeht. Ein Fall für Philosophen und Biologen und Ethiker, die immer wieder zum Schluss kommen: «Tja.. also Leben… äh… ist, also … wenn etwas lebt… und irgendwie weiss ich doch auch nicht…!» Sie brauchen nur ein paar Worte mehr dafür. 

Künstlerische virtualisierung eines Teils der DNA-Doppelhelix

Ob etwas lebt oder nicht, ist sowieso noch kein schlüssiger Grund für ein Existenzrecht. Ein Champignon ist lebendig, obwohl weder Tier noch Mensch. Trotzdem wird niemand entrüstet sein, wenn ich mir ein Champignonsmoothie mache. Zumindest nicht aus moralischen Gründen. 

Bewusstsein

Beschäftigen wir uns mit einem anderen Aspekt, der vielleicht hilfreicher sein könnte um die Existenzberechtigungsfrage zu lösen. Bewusstsein! Womit normalerweise “Selbstbewusstsein” gemeint ist: Sich selbst bewusst sein. Hat jemand oder etwas ein Selbstbewusstsein? Wie stellen wir das fest?

Virtualisierter menschlicher Kopf, bestend aus Linien und Punkten

Philosophisch lässt sich nur das eigene Selbstbewusstsein und die eigene Existenz nachweisen (Frei nach Descartes «Ich denke, also bin ich»). Alle anderen könnten durchaus ein Produkt meiner Einbildung und falscher Sinneswahrnehmungen sein. Es gibt euch also gar nicht! Dagegen spricht nur die Erkenntnis: Es gibt so viele schräge Menschen, die könnte ich mir selber niemals ausdenken. 

Die Biologie geht einfach mal davon aus, dass es Selbstbewusstsein gibt. Zumindest beim Menschen, inwiefern das auch auf Tiere zutrifft ist Gegenstand einiger Forschungen und Diskurse. Jahrelang galt der Spiegeltest als ultimativer Test für Selbstbewusstsein: Wenn ein Tier sich im Spiegel erkennt, dann ist es sich seiner selbst bewusst. Aber auch der ist nicht gänzlich unumstritten. Erkennt der Orang-Utan sich wirklich im Spiegel, während er sich ein Stück Moos auf den Kopf hält und sich so betrachtet? Oder ist das nur ein «Hey, wenn ich das Gründing auf den Kopf drauf tue, bekommt der komische Typ im Fenster grüne Haare!» 

Frosch posiert vor einem Schminkspielgel.

Bei dem Test weden auch nur Existenzen mit visuellen Sensoren erfasst, also alles, was Augen oder was ähnliches hat. Bewusstsein bzw. Selbstbewusstsein ist nicht 100%ig nachweisbar. Es sind Einschätzungen, die wir treffen, aufgrund der Inputs die wir erhalten, es ist keine messbare Grösse. 

Eine echte starke künstliche Intelligenz könnte Bewusstsein imitieren, weil sie dazu programmiert wurde. Wie sollen wir wissen, ob es wahr ist, wenn eine KI sagt «Ich habe Angst zu sterben»? Ist sie empfindungsfähig? Bewusst? Oder ist es nur das Resultat einer Auswertung psychologischer Fachliteratur, im optimalen Tonfall moduliert, um die gewünschte Täuschung herzustellen und der Programmierung zu entsprechen, welche besagt, dass die KI die eigene Existenz zu schützen hat? (3. Asimovsche Robotergesetz

Intelligenz

Vielleicht sollte der Massstab Intelligenz sein? Zuallererst müssen wir aber überlegen, was Intelligenz ist. Es wird gerne betont, wie dumm die Menschheit sei, zerstöre sie doch sich selbst. Dabei geht man von einer falschen Vorstellung von Intelligenz aus. Intelligenz ist die Fähigkeit, aus vorhandenen Informationen Schlüsse zu ziehen und zu verarbeiten und Probleme zu lösen. Dies ist völlig wertefrei; Intelligenz allein ist kalt und gefühlslos. Vielleicht sind wir Menschen nicht intelligent genug, um unsere tierischen Instinkte zu überwinden und längerfristig und globaler und umfassender zu denken und zu planen. Aber wir sind intelligent und konnten mit ein bisschen komischem Gestein, einer Zentrifuge und ein bisschen Wasserstoff eine Wasserstoffbombe bauen. Die Intelligenz-Leistung dahinter ist immens, denn Intelligenz heisst Problemlösung. Das schliesst die Abschätzung aller Folgen leider nicht zwingend ein. Ich will von A nach B: Also erfinde ich ein Auto. Dass dabei das Klima vor die Hunde geht, war nicht Teil des ursprünglichen Problems. Weil der Mensch so intelligent ist, ist er auch der Einzige, der seinen eigenen Lebensraum so umfassend vernichten kann, anderen fehlt schlicht die Möglichkeit dazu. 

Es gibt übrigens einen intelligenten Einzeller, der Blob, der kann Rätsel lösen und hat ein Gedächtnis, hat nicht mal ein Gehirn aber erfüllt einige aufgestellte Kriterien für Intelligenz. 

Naxchaufnahme eines gelben Schleimpilzes, genannt Blob.

Eine Ameise ist nicht sonderlich intelligent, ein Ameisenstaat in seiner Gesamtheit scheint durchaus zu intelligenten Problemlösungen imstande zu sein. Wo zieht man da die Grenze? Je umfangreicher und universeller etwas Probleme lösen kann, desto höher der Intelligenzwert? Unter diesen kühlen Gesichtspunkten betrachtet, scheint auch Intelligenz kein zuverlässiges Kriterium zu sein, um über das Existenzrecht einer KI zu befinden.

Fazit

Das Fazit, ihr ahnt es schon, ist: Es ist nicht möglich, klare Antworten zu finden. Ob eine künstliche Intelligenz lebt, empfindungsfähig, sich seiner Selbst bewusst ist, wird sich nie klar definieren lassen. Intelligenz alleine ist auch kein Kriterium, um eine moralische Entscheidung zu fällen. Kann man ausschliessen, dass eine KI wirklich zu Leben und zu fühlen anfängt, und vielleicht sogar eine Seele entwickelt? Sofern man an sowas glaubt? Wer zum Beispiel die Serie Westworld kennt, kann sich das moralische Dilemma gut vorstellen. Fast jeder wird in dieser Serie Gefühle zu den «seelenlosen Robotern» entwickeln, die nur ihr Programm abspulen und die meisten werden (hoffentlich) vom Verhalten der Menschen dort angewidert sein. Warum? Wenn sie doch nur “Sachen” beschädigen im Rahmen des Vertrages der Hersteller dieser Sachen? 

Monochromatiches Bild einer nackten Frau mit Zahnrädern überlagert.

Bedenkt man die Macht, die eine Starke KI entfalten könnte, und dass deren Ethik nicht zwingend Berührungspunkte mit der menschlichen Ethik haben muss, könnten auch sehr interessante Zeiten auf uns zukommen, wenn wir eine solche frei walten lassen würden.

Die Entscheidungen darüber, ob echte KIs ein Existenzrecht haben, ob Menschen über sie bestimmen dürfen, oder ob sie frei sein müssen, werden schlussendlich nicht nur auf Fakten, sondern auch auf Emotionen und Instinkten beruhen. 

So spannend und faszinierend diese Überlegungen sind, tendiere ich doch dazu, dass man es gar nicht erst so weit kommen lässt. Schwache KIs in allen Formen: Ja, klar, aber unabhängige starke KIs? Um es mit den Worten aus Frank Herberts «Dune»-Romanen zu sagen: «Du sollst keine Maschine nach deinem geistigen Ebenbild machen.»

Danksagung

Eine riesengrosses Danke an die beste und tollste Nerderlei, die mir beim korrigieren und mit viel Zuspruch geholfen hat – und immer wieder hilft, einfach schon nur, weil es sie gibt und die auch meine hyperaktiven Phasen erträgt.
Sie hat auch einen sehr lesenswerten Blog unter www.nerderlei.de

(Und egal wie toll sie korrigiert, ich schaffe es immer Fehler vorbeizuschmuggeln oder neu reinzubringen.)

Zurück zu

Moxolog