„Drohnen, Roboter, Avatare. Künstliche Wesen zwischen Ethik und Ästhetik“

Mit diesem Gastblogbeitrag von Studierenden der Universität Zürich (UZH) – Raffaela della Valle, Hadis Xheladini, Noémie Szenogrady – werden anhand eines Gastvortrages von Prof. Dr. Oliver Bendel im Rahmen der Vorlesung „Angewandte Linguistik“ von Prof. Dr. Christa Dürscheid am Deutschen Seminar an der UZH die Themenfelder der künstlichen Kreaturen und Roboterethik aufgegriffen. Diesen wendet sich die Fachstelle im Rahmen ihrer Zukunftsfelder und dem Ansatz der kritisch-reflexiven Medienbildung zu.

Drohnen, Roboter, Avatare – Was fasziniert uns Menschen an diesen künstlichen Wesen?

Welche Bereicherung bieten sie für die Gesellschaft und welche allfälligen Gefahren bergen sie? Wie lässt sich eine Verbindung von Literatur und Technik denken?

Die Verknüpfung dieser Fragen mit dem Fachbereich Germanistik wurde im Spannungsfeld von Ästhetik und Ethik evident. Mit seiner offenen und charismatischen Art führte der Experte für Maschinenethik und Autor von zahlreichen Handyromanen uns, Studierende und einige Gasthörer, in die Welt von künstlichen Kreaturen von der Antike bis heute ein.

Schon in den Legenden und Sagen der Antike finden sich Belege für künstliche Kreaturen. Da wäre beispielsweise Pandora von Hephaistos, die als künstliches, aus Lehm geschaffenes Wesen existierte. Mit der „Büchse der Pandora“ brachte sie sämtliche Leiden und Übel in die Welt. Die „Risiken und Nebenwirkungen“ der Technik waren demnach schon in der Antike gegenwärtig und nicht von künstlichen Wesen wegzudenken.

Auch im Dädalus und Ikarus Mythos des römischen Dichters Ovid zeigt sich die Ambivalenz der Technik zwischen Innovation und Bedrohung. Dädalus konstruiert Flügel aus Wachs und Federn und erfüllt sich damit den Traum vom Fliegen. Doch sein Sohn Ikarus, von der technischen Konstruktion derart begeistert und übermütig geworden, fliegt zu nahe an die Sonne und ertrinkt im Meer.

Ferner wird in der Schrift „Argonautica“ des Apollonius Rhodius über den riesenhaften Roboter Talos von Hephaistos berichtet. In diesem künstlichen Wesen vereint sich sowohl heilbringendes als auch gefahrvolles Potential. Talos dient nämlich als Wächter der Insel Kreta und schützt deren Bewohner vor unliebsamen Eindringlingen. Die Art und Weise wie er die Insel bewacht ist jedoch äusserst brutal: Der bronzene Roboter bewirft die feindlichen Ankömmlinge mit Steinen oder drückt sie an seine glühend heisse Brust.

Das ambivalente Potential von künstlichen Wesen setzt sich in der Fiktion des 19. Jahrhunderts fort. In E.T.A. Hoffmanns Werk „Der Sandmann“ verliebt sich Nathanael unsterblich in Olimpia. Das einzige Problem dabei: Die junge Frau Olimpia mit dem „wunderschön geformten Gesicht“ ist in Wahrheit eine leblose Puppe. Nathanaels sehnsüchtige Liebe zu ihr wandelt sich in ein Leiden, stürzt den Protagonisten in den Wahnsinn und schlussendlich in den Tod.

In der heutigen Zeit verarbeitet Oliver Bendel die Beziehung zwischen Mensch und Technik als Autor von Handyromanen. In seinem Werk «Handygirl» lebt ein gleichnamiger Avatar auf dem Handy der vierzehnjährigen Liza. Fiktion und Realität verschwimmen, denn stets wenn Liza in Realität in Gefahr gerät, wird Handygirl als Superheldin zum Leben erweckt. Formal treten Emoticons und ASCII-Art auf; das Handy wird als Begleiter und Medium thematisiert. Es handelt sich hierbei um mediale Literatur, wobei der Fokus klar auf das mobile Gerät gerichtet ist. Typisch für «Handygirl» sind eine prägnante Sprache und kurze Sätze; ein Teil der Dialoge besteht aus den SMS der Freundinnen.

Wie sich das Machtverhältnis zwischen Mensch und Maschine in der alltäglichen Gegenwart fortsetzt, illustrieren Bendels Spezialgebiete: Soziale Robotik, Maschinen- und Roboterethik. Dabei tritt das Roboterauto, das moralische Fragen selbstständig beantworten kann und über weite Strecken automatisch fährt, besonders in den Fokus der Aufmerksamkeit. Wie kann eine solche Maschine selbstständig Entscheidungen fällen und in weite Teile des menschlichen Alltags eingreifen?

Oliver Bendel veranschaulicht diese Frage mit einem drastischen Szenario:

Ein autonom gesteuertes Auto fährt auf ein anderes zu, wobei bei ersterem das Bremssystem versagt. Am linken Strassenrand steht der Bürgermeister, am rechten befinden sich drei Kinder. Damit es keinen Zusammenstoss zwischen den beiden Autos gibt, muss das Fahrzeug mit dem defekten Bremssystem ausweichen. Soll es nun den Bürgermeister oder die drei Kinder überfahren? Das Auto reagiert utilitaristisch und wählt den Bürgermeister.

Diese Szene illustriert die hochkomplexe Frage nach Moral im Umgang mit (teil-) autonomen Maschinen. Wie weit darf eine Maschine in das menschliche Leben eingreifen und selbst die „Führung“ übernehmen? In dem geschilderten Beispiel stehen Menschenleben auf dem Spiel, über die eine Maschine die volle Verantwortung übernimmt. An diesem Punkt gibt der Mensch die Kontrolle gänzlich an die Technik ab. Dass das selbstständige Handeln von Maschinen unbeeinflussbar werden kann und die Freiheit des Menschen einschränken kann, gilt es genau abzuschätzen.

Oliver Bendel resümiert, dass Maschinen zwar moralische Entscheidungen fällen dürfen, der Mensch jedoch als letzte Instanz die Entscheidungsgewalt innehaben soll.

Der Experte für Roboterethik plädiert für intelligente, moralisch affine Maschinen, die Gutes bewirken für den Menschen und seine Umwelt.

Hierfür entwickelt Bendel pionierhafte Projekte wie „Cleaningfish“: Ein Schwarm künstlicher Fische wird für den Zweck programmiert, Gewässer  zu säubern und Littering zu beseitigen. Oder er betrachtet die Roboterautos unter ihrem Aspekt der Tierfreundlichkeit und konzipiert selbstständig fahrende Autos, die Tiere auf der Fahrbahn erkennen und gezielte Bremsungen einleiten.

So kommt das sinnvolle, innovative Gestaltungs- und Entscheidungspotential der (teil-)autonomen Maschinen umfassend zum Tragen.

Oliver Bendels Spezialgebiet der Roboterethik ist in dem komplexen Kosmos von künstlichen Wesen, die unseren Alltag aktiv beeinflussen, zentral und überaus wichtig.

Denn ein verantwortungsvoller Umgang mit Technik, der auch die Folgen und Auswirkungen von künstlichen Wesen auf die Gesellschaft bedenkt, ist unabdingbar für ein Zusammenleben von Mensch und Maschine.

Aufs Ganze gesehen gilt es sich stets vor Augen zu führen, dass grossartige Leistungen und fatale Risiken in der Technik nahe beieinander liegen.

So beendete auch Oliver Bendel seinen Gastvortrag mit den Worten:

Vielleicht entweichen aus der Büchse der Pandora tausende Pandoras mit Büchsen, aus denen tausende Pandoras mit Büchsen …

Aber vielleicht wird auch alles gut – zumindest bleibt uns die trügerische Hoffnung.“

2 Comments

  • 16. September 2015 - 11:49 | Permalink

    Prof. Dr. Oliver Bendel wird am 20. September im Radio (hr2 Kultur) zu hören sein: http://maschinenethik.net/?p=1517
    Beitrag als Podcast

  • 15. Juni 2015 - 08:32 | Permalink

    Ein unterhaltsames Referat mit vielen Beispielen aus verschiedenen Spezialgebieten. Schade, dass die ethischen Perspektiven und die Fragestellungen etwas kurz kamen. Davon hatte ich mir mehr erhofft.

  • Schreibe einen Kommentar

    Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.