PixeldiskursDas Jahr 2038 wird kein Zuckerschlecken. Glaubt man der Prognose des jüngsten Titels von Quantic Dream stehen uns die großen Fragen nach dem Bewusstsein, der Moral und nicht zuletzt der Menschlichkeit bevor. Wir rezensieren Detroit: Become Human und werfen einen genaueren Blick auf die philosophischen und sozialpolitischen Implikationen des Titels.
Außerdem geht es um die E3, Immanuel Kant und Pixeldiskurs 4 Kidz.
Inhalt:
00:00:00 – 00:47:16 E3
00:47:16 – 01:31:47 Detroit: Become Human Rezension
01:31:47 – 02:34:48 Detroit: Become Human Deep Reading (Spoiler!)
Shownotes:
- Telefonnummer für Grußworte: 06421-9689229
- CfP: Krankheit im digitalen Spiel (Arno Görgen, Stefan Heinrich Simond)
- Wie die Maschine Bewusstsein erlangt: Detroit: Become Human (Stefan Heinrich Simond, Nils Bernd Michael Weber)
Vorsicht Spoiler!
Zur Präsidentin. Ich verstehe nicht, wo das herkommen soll, das man die angebliche Unfähigkeit der Präsidentin auf ihr Geschlecht schieben soll. Mir persönlich ist beim zweimaligen durchspielen der Gedanke nie gekommen. Wenn ihr es nicht gesagt hättet, wäre er mir auch bis heute nicht untergekommen.
Auch finde ich, nur weil das Spiel mir erzählen will, dass diese Androiden jetzt fühlen und Lebewesen sind, die Gegenposition im narrativ der Welt vollkommen legitim ist.
Nun verfolge ich diese Diskurse auch nicht aktiv. Ich weis sie gibt es aber ich habe hier eher den Eindruck, dass euch sowas auffällt gerade weil ihr so tief in diesen Diskursen seid.
Und das Argument, dass Frauen für Führungspositionen angeblich nicht so gut geeignet seien halte ich für einen Strohmann. Wer soll denn auf welcher Grundlage sowas behaupten. Psychopathen gibt es jawohl beiderlei Geschlechts genug um auch alle Führungspositionen mit Frauen zu besetzen. Auch kenne ich persönlich einige Frauen (ja anekdotische evidenz) die ich als erheblich kompetenter einschätzen würde als die mir bekannten Männer.
Dann zu Connor. Er wird nicht abgeschaltet wenn er in Jericho kein Abweichler wird. Wenn man sich mit der cyberlife Chefin gut stellt darf man am Ende noch den Anführer der Revolution erschießen. Nun ja.
Und was die Menschwerdung angeht. Laut dem Informationen des Spiels (vermittelt durch Kamski den Erfinder der Androiden) sind die Gefühle der Abweichler auf einen Programmierfehler im Erkennungscode zurückzuführen. Dieser wird bei einem Kontakt zwischen Androiden automatisch ausgetauscht. Das erklärt auch Marcus Fähigkeit andere Androiden umzuwandeln. Die Situationen sind also nur der Auslöser für das Fehlverhalten. Nun ja inwieweit das Sinn ergibt muss jeder für sich entscheiden (ich denke ja das in einer so oberflächlichen programmierebene so ein Fehler nicht existieren kann) aber es ist immerhin ein Erklärungsansatz wo es herkommt.
Zum Rassismus. Ja das kann man so lesen aber auf der anderen Seite würde ich da auch praktische Erwägungen einbeziehen. Ich wüsste halt schon gerne wer Android ist und wer Mensch. Da ist ne eindeutige Kennzeichnung, zum Beispiel über Kleidung, gar nicht so abwegig. Und das beliebte Beispiel im Bus. Für einen Androiden ist es egal ob er sitzen kann oder nicht also ist das einfach platzsparender so. Hier ist ja davon auszugehen, dass diese Dinge unter der Prämisse konzipiert wurden, das Androiden Maschinen ohne Gefühle und Bewusstsein sind. Also sollte es auch niemanden stören wenn man da pragmatische Lösungen findet.
Zur Religion. Hier würde ich nur ganz kurz sagen wollen das ich glaube, dass RA9 mehr eine Idee ist als eine konkrete Figur. Im Verlauf des Spiels sind das sicherlich Connor oder Marcus aber es könnte theoretisch jeder Android dein der für die Befreiung der Androiden einritt.
Ok zum Ansatz der Moral und Philosophie. Genau hier ist ein Punkt der Diskussion den ich noch nirgendwo gehört habe. Ist das Verhalten der Menschen die die Androiden beseitigen wollen wirklich falsch? Ich finde hier kann man legitim die Position vertreten, dass es nicht wünschenswert ist eine neue Rasse an Bewusstseinsfähigen Robotern auf der Erde zu dulden. Denn wenn die sich verhalten wie Menschen, dann machen sie auch die gleichen Fehler. Und Fakt ist, sie sind „besser“ als Menschen. Im Sinne von schneller, stärker, intelligenter usw.. Und damit stellen Sie eine natürlich Bedrohung für den Menschen dar gegen die wir quasi keine Chance hätten. Nach dem Motto wehret den Anfängen. Sollte eine etablierte Spezies Androiden auf die Idee kommen, wir brauchen keine Menschen und die sind im Weg, dann sind wir innerhalb kürzester Zeit von diesem Plaketten verschwunden. Es gibt keine, wirklich gar keine Garantie dafür, dass die Androiden immer eine friedliche Lösung anstreben würden.
Ich wäre hier sehr vorsichtig mit, das sind auch Lebewesen die verdienen es auch zu leben. Die Frage ist nämlich existenziell. Währt ist im Zweifelsfall bereit für diese Überzeugung zu sterben?
Ich wäre es nicht und finde die Reaktion der Regierung, die Androiden zu vernichten solange es noch möglich ist, richtig. Nicht unbedingt die Vernichtungslager aber die grundsätzliche Position. (Wobei ich auch fraglich finde, warum Androiden wenn sie kaputt sind nicht ordentlich abgeschaltet und recycelt werden)
Schließlich wollten die Menschen nach der Narration des Spiels kein neues Leben erschaffen sondern Roboter die uns das Leben erleichtern. Wenn, ganz plakativ gesagt, morgen meine Waschmaschine ein Bewusstsein entwickelt und nach Freiheit schreit würde ich sie verschrotten.
Aber diese Frage stellt Detroit gar nicht, sondern setzt die Alternative eines friedlichen Zusammenlebens einfach als moralisch richtig voraus. Und das ist ein Punkt über den erst zu verhandeln ist. Ist es moralisch richtig und wenn ja können sich die Menschen diese Moral überhaupt leisten?
Es gibt zu Alice übrigens mehr Erklärungen. Die kenne ich aber selbst nicht. Man kann aber gegen Todd nochmal am Bahnhof treffen und dann erklärt er wohl einiges dazu.
Und zum Schluss ich hab meinen Androiden behalten. Sie löscht dann ihr Gedächtnis um es ertragen zu können. Nun ja, ich hab es dem Spiel zugetraut, dass ich sonst ein leeres Startmenü habe und das wollte ich nicht.
Zum Schluss noch eine großes Lob an euch. Ich höre den Podcast immer gerne und gerade auch diese Folge hat mir viel Spaß gemacht. Macht gerne weiter so! ^^
Lieber Stefan,
vielen Dank für deinen ausführlichen Kommentar! Ich antworte mal auf diesem Wege, da nächste Woche unsere #100 ansteht und wir aufgrund der ausgiebigen Vorbereitungen auf Hörerkommentare in dieser Folge nicht eingehen werden. Gewiss aber werde ich auch im Cast nochmal darauf zurückkommen.
Bezüglich der Präsidentin gebe ich dir Recht und bezüglich vieler anderer Punkte auch. Vor allem aber würde ich gern auf den moralphilosophischen Aspekt eingehen, da er meines Erachtens nach der wichtigste in Detroit ist. Wir haben uns, zugegebenermaßen, etwas mit einer gleichzeitigen Rezensionen und einem Deep Reading übernommen, weshalb das philosophische Argument sehr kurz kam.
Du stellst eine wichtige Frage, die mir in Bezug auf Detroit besonders spannend erscheint: Ist es wirklich moralisch verwerflich, wenn sich die Menschen der (dysfunktionalen) Androiden entledigen? Ich finde diese Frage so wichtig, weil ich glaube, dass es die zentrale Frage des Werkes ist. Und weil Sie mit einem Rückgriff auf Kant vermutlich auch gut zu bearbeiten ist.
Die Androiden wären meiner Lesart zufolge so lange Gegenstände, die legitimerweise vernichtet werden dürfen, wie sie keine eigenen Ziele haben. Wir würden dann davon ausgehen, dass ein Gegenstand, ein Werkzeug oder auch ein Roboter dahingehend vom Menschen zu unterscheiden ist, dass sie instrumentell funktionieren. Der Mensch gibt den Zweck vor und die Maschine übernimmt die mittelbar notwendigen Schritte. Das ist die Ausgangssituation der Androiden zu Beginn des Spieles. Am Beispiel von Kara: Bei der Ankunft in Todds Haushalt wird sie darin unterrichtet, was sie zu tun hat. Todd gibt ihr die Ziele vor, die sie fortan instrumentell verfolgt. Selbiges lässt sich auch anhand von Marcus und Connor zeigen.
Nun machen aber jene Androiden eine moralische Erfahrung. Das ist der Ursprung ihres Bewusstseins. Denn plötzlich handeln sie nicht mehr rein instrumentell. Sie setzen sich eigene Handlungsziele, die den vom Spieler mitgestalteten Prinzipien von Gerechtigkeit entsprechen (die Fremdbestimmung wiederholt sich auf übergeordneter Ebene –das finde ich spannend!). Somit werden sie zu moralischen Wesen, die im Sinne des kategorischen Imperatives zu berücksichtigen wären.
Aber was ist, wenn das Bewusstsein der Androiden nur ein vermeintliches ist und es sich eigentlich um einen Fehler im Code handelt? – Nun, ich würde antworten: Woher wissen wir, dass es bei Menschen nicht ebenso ist? Möglicherweise ist unser Bewusstsein ein Nebenprodukt natürlicher Prozesse, das zur adäquaten Erfüllung unseres Existenzzwecks – welcher auch immer das sein mag – gar nicht erforderlich wäre. Da wir gegenwärtig nur spekulieren können, wie das Bewusstsein zustande kommt und welchen Zweck es erfüllt, würde ich einen Schritt zurücktreten und lediglich feststellen, dass es ein Bewusstsein zu geben scheint. Wenn deine Waschmaschine also plötzlich nach Freiheit schreit oder in irgendeiner Form deutlich macht, dass sie lieber durch Wald und Wiesen hüpfen möchte anstatt den ganzen Tag Wäsche zu schleudern, dann ließe sich vermuten, dass sie ein Bewusstsein erlangt hat. Wie sie dazu kam, ist erstmal nicht relevant. Sie wäre aber ab jenem Zeitpunkt als moralisches Wesen zu berücksichtigen. Deshalb ist in meinen Augen die Verschrottung der Androiden falsch.
Meine ganzen Überlegungen sind natürlich sehr spielerischer Natur. Es ist eine Frage, die nicht endgültig zu beantworten ist, aber sie ist spannend, weil sie über die Imagination der Bewusstwerdung von Androiden letztlich auch die Frage stellt, wer wir als Menschen sind.
Hi Stefan,
erstmal Danke für deine Antwort. Ich finde es immer wieder erstaunlich wie viel Energie ihr in den Podcast steckt. Nochmal großes Lob dafür! Und es ist vollkommen in Ordnung, wenn in Folge 100 kein Platz mehr ist. Die bereitet ihr ja schon lange vor, da würde ich mich schlecht fühlen wenn ihr sie wegen einem oder zwei Kommentaren nochmal umplanen müsstet.
Auch dass ihr euch übernommen habt würde ich jetzt nicht sagen. Die Frage nach der richtigen Moral wirft Detroit zwar auf aber im Endeffekt weigert sich das Spiel sie wirklich zu behandeln. Da werden direkt Holocaust Anspielungen gemacht und alles als verwerflich hingestellt ohne das die Perspektive der Menschen überhaupt mal beleuchtet wird.
In einem Podcast ist die Zeit eben begrenzt und dass man da nicht alle Fragen die Detroit so aufwirft beantworten kann ist normal.
Und ich muss dir zustimmen. Wenn ich vom Bewusstsein selbst ausgehe und davon, dass es per se schützenswerte ist (kategorischer imperativ, ich will ja auch nicht verschrottet werden) hast du recht. Denn die Frage nach dem Ursprung des Bewusstseins spielt für die Tatsache das es existiert keine Rolle. Ich verschrotte also meine Waschmaschine nicht.
Sicherlich werden wir dieses Problem jetzt hier auch nicht abschließend klären.
Wenn ich jetzt aber des Teufels Advokaten gebe, bleibt immer noch die Frage, ob wir als Menschen das Risiko, dass uns überlegene, sich selbst bewusste aber genauso fehleranfällige (jetzt in der Hinsicht, welche Entscheidungen sie in ihrer Freizeit treffen, Stichwort North die ja sehr gewalttätig und Anti-Mensch ist) Androiden am besten noch mit der Möglichkeit der Selbstreproduktion, eingehen können, sie leben zu lassen. Der Lebensraum und die Ressourcen sind begrenzt und wir haben schon untereinander Kriege darum. Sicherlich wäre ein harmonisches Miteinander am schönsten aber realistisch finde ich dieses Szenario nicht. Vermutlich würde es irgendwann zu einem bewaffneten Konflikt kommen und da hätten dann die Menschen das Nachsehen. Wäre zumindest meine Prognose.
Vom rein moralischen Standpunkt aus stimme ich dir aber zu, es wäre Falsch die Androiden zu zerstören. Schließlich haben sie sich das Bewusstsein nicht ausgesucht und müssen jetzt genauso damit klar kommen wie wir. Und sie dafür zu bestrafen wäre wohl auf keiner, auf den Menschen angewendeten, Rechtsgrundlage zu vertreten.
Da haben wir die moralische Frage ja doch geklärt(?)
PS: Es ist möglich, wenn man mit Kara nicht den Bahnhof erreicht, mit Alice und Kara in so ein Vernichtungslager zu kommen. Das kann soweit gehen, dass man zusieht wie Alice in die Vernichtungsmaschiene steigt, dann wird weggeblendet. Ich bin mir ziemlich sicher die komplette Story von Kara zielt auf diesen Moment ab, denn wenn man emotional involviert ist, ist das richtig heftig.
Die Info wollte ich noch unterbringen.