Athos 2643 von Nils Westerboer

Auf einer Fleischfarm auf einem Neptunmond kommt es in einer religiösen Gemeinschaft zu einem Todesfall. Wie konnte die alleskontrollierende KI das zulassen?

Rüd Kartheiser ist ein Inquisitor, ein Spezialist für falsch funktionierende KI-Systeme und ausgebildet diese bei Bedarf ethisch nachzujustieren. Begleitet wird er von Zack, einer eigenen künstlichen Intelligenz, deren Aufgabe es ist Rüd zu gehorchen und alles zu machen was er will. Zack hat keine Meinung, keinen Willen und findet das in Ordnung, es ist ihr Daseinszweck. Die Geschichte wird aus der Sicht von Zack erzählt, und trotzdem sehr lebendig und mitreissend. Der Inquisitor Rüd muss also rausfinden was passiert ist und dafür Sorgen, dass die KI des Mondes das nächste mal „richtig“ handelt. Die Geschichte wird sehr glaubhaft, logisch, lebendig und mit Witz erzählt, die Charaktere haben Tiefe und auch die KI Zack ist alles andere kühl und langweilig.

Der Detektivteil, in welchem Rüd und Zack rausfinden müssen was passiert ist, ist nicht überwältigend spannend. Auch nicht als offenbar wird dass die kleine religiöse Gemeinschaft ihre eigenen Geheimnisse hat. Statt dessen zeigt sich, dass es in dem fiktiven Roman um was anderes geht: Um ehtisch-philosophische Fragen zu KIs, konkret vor allem um 2 Fragenkomplexe:

1. Sollte eine KI optimal für das Wohl der Gruppe entscheiden oder nach den voraussichtlich ethischen Standards der Menschen, also in deren Sinn. Das sind nämlich 2 verschiedenen Sachen und beide haben Vor- und Nachteile und ihre Berechtigung.
2. KI «entscheiden» nicht. Sie handeln gemäss Vorgaben und werden je entsprechend diesen Vorgaben handeln. Sie haben gar keine «Entscheidungsfreiheit», weil die Vorgaben fix definiert sind. Wer also ist Schuld, wenn etwas schief läuft oder es nun einen Todesfall gibt? Einen sehr spannenden Gedanken fand ich hier, dass Menschen dies bewusst wollen, sie diese Pseudo-Entscheidungen absichtlich den KI-Systemen überlassen, damit sie aus der Verantwortung genommen werden und ihreHände in Unschuld waschen können, wenn mal unangenehme Entscheidungen zu treffen sind.

Man muss die Geschichte nicht aus dem Gesichtspunkt lesen und hat weiterhin einen interessanten SF-Detektiv-Roman. Aber für mich bieten gerade diese Fragen, obwohl sie das Buch etwas verkomplizieren und umständlicher machen, einen grossen Mehrwert. Deshalb:

8/10 Skleroiden 

Autor Nils Westerboer: Homepage, Twitter