Sexroboter sollen ihre Nutzer warnen: «Ich bin eine Maschine und kann immer, überanstrenge dich nicht»

Oliver Bendel bringt Roboter Moral bei. Ein Gespräch mit dem Ethiker über  Sexroboter, verbale Übergriffe auf Siri – und einen Staubsaugroboter, der seine Arbeit für Marienkäfer unterbricht.

Interview: Raffael Schuppisser
Hören
Drucken
Teilen
"Irgendwann wird es trotz aller Vorbehalte auch echte Roboter in den Bordellen geben",  sagt Oliver Bendel.

"Irgendwann wird es trotz aller Vorbehalte auch echte Roboter in den Bordellen geben",  sagt Oliver Bendel. 

Bild: Keystone

Herr Bendel, Sie sind Maschinenethiker. Bringen Sie Robotern Moral bei?

Oliver Bendel: Gewissermassen schon. Wie alle Maschinenethiker bin ich der Auffassung, dass manche Roboter nicht nur mit künstlicher Intelligenz ausgestattet werden sollten, sondern auch mit maschineller Moral. Wir erforschen und bauen moralische Maschinen.

Ist Moral nicht etwas, das dem Menschen eigen ist?

Schauen wir zuerst einmal, was die Moral des Menschen ausmacht. Schnell merkt man, dass diese sehr komplex ist. Es geht um anerzogene Regeln, innere Überzeugungen, Intuition, Empathie, Emotionen. Ein Roboter hat weder Intuition noch Empathie, er hat keine Emotionen, keine inneren Überzeugungen und kein Bewusstsein für irgendetwas. Aber er kann Regeln befolgen. Wenn man ihm also moralische Regeln einprogrammiert, wird er zu einer moralischen Maschine.

Der Roboter Ethiker

Oliver Bendel
Oliver Bendel
ist Maschinen- und Roboterethiker und Professor am Institut für Wirtschaftsinformatik der Fachhochschule Nordwestschweiz. Eben ist von ihm das „Handbuch Maschinenethik“ im Springer-Verlag erschienen. Es ist das erste Buch dieser Art im deutschsprachigen Raum. Der 51-jährige Deutsche hat Philosophie und Informationswissenschaft studiert und an der HSG in Wirtschaftsinformatik doktoriert, lebt in Zürich und hat über 300 wissenschaftliche Artikel, Buchbeiträge und Bücher publiziert.

Das ist praktisch. Schliesslich können bei einem Menschen Emotionen dazu führen, dass er moralische Regeln ausser Acht lässt.

Das ist richtig. Allerdings sind mir Menschen suspekt, die ohne Emotionen nur Regeln befolgen. So handeln eigentlich nur Fundamentalisten. Wenn wir also moralische Roboter bauen, so sind das kleine Fundamentalisten (lacht).

Bei welchen Maschinen wird Moral implementiert?

Zum Beispiel bei Kampfrobotern. Forscher versuchen sie so zu bauen, dass sie sich an die Genfer Konventionen halten. Sie sollen zwar töten, aber keine Kriegsverbrechen begehen. Feinde, die sich ergeben, sollen beispielsweise verschont bleiben.

Ein moralischer Killer. Ist das nicht ein Widerspruch?

Für einen Pazifisten natürlich schon. Für einen Maschinenethiker nicht. Erst einmal spielt es aus Forscherperspektive keine Rolle, welche Moral man der Maschine beibringt. Es geht vor allem um die konzeptionelle und technische Frage. Nach welchen Moralvorstellungen die Roboter handeln sollen, ist dann eine Frage, welche die Gesellschaft diskutieren muss.

Ist es auch deshalb nötig, Roboter zu moralischen Wesen zu machen, damit sie uns Menschen nicht ausrotten wie der Terminator?

80 Prozent der künstlichen Kreaturen, die in Filmen und in der Literatur vorkommen, sind böse. Das geht zurück bis zu Ovid und Homer. Dass Roboter uns bald bewusst Böses antun wollen, halte ich für ausgeschlossen. Schliesslich fehlt der künstlichen Intelligenz ein Bewusstsein. Ein solches ist auch nicht in Sicht. Doch Roboter werden in unserem Alltag eine immer wichtigere Rolle spielen. Wir tun deshalb gut daran, sie so zu bauen, dass sie sich an unsere moralischen Standards halten.

Sie haben einen moralischen Staubsaugroboter entwickelt …

… der Ladybird erkennt Marienkäfer. Identifiziert er einen, stellt er sofort seine Arbeit ein und benachrichtigt seinen Nutzer. So wird verhindert, dass er eines der Tierchen versehentlich einsaugt.

Beim gegenwärtigen Veganismustrend könnten Sie da auf eine Marktlücke stossen.

Naja, wir haben Hersteller mit unserem Vorschlag konfrontiert. Offene Türen haben wir nicht gerade eingerannt (lacht). Der Ladybird war aber auch eher als Experiment gedacht. Nun entwickeln wir einen Mähroboter, der Igelbabys verschont. Hier hat ein Hersteller bereits Interesse gezeigt.

Ehtische Fragen stellen sich auch beim autonomen Fahren: Wie soll ein Auto beispielweise reagieren, wenn ein Kind auf die Strasse rennt, das Auto nur nach in den Strassengraben ausweichen kann, dadurch aber der Fahrer tödlich verletzt werden könne?

Keine der Möglichkeiten ist befriedigend. Die Konsequenz ist deshalb, dass wir autonome Autos nur auf Autobahnen fahren lassen dürfen, nicht aber in den Städten.

Und was ist, wenn die Autos in den Städten weniger Unfälle machen als die Menschen?

Ich glaube nicht, dass das bald der Fall sein wird. In den nächsten 10 bis 15 Jahren werden automatische und autonome Autos nicht mit dem Stadtverkehr zurechtkommen, auch wenn Hersteller da anderes behaupten. Doch auch wenn das so wäre, glaube ich nicht, dass wir sie als Gesellschaft akzeptieren würden. Stellen Sie sich folgende Situation vor: Die Polizei klingelt an der Tür und sagt: «Ein autonomes Auto hat leider ihr Kind totgefahren, es konnten dafür aber zwei andere Kinder gerettet werden.»

Das ist natürlich scheusslich für die Eltern. Vielleicht aber hätte ein menschlicher Fahrer alle drei Kinder getötet. Wenn dank autonomen Autos weniger Menschen umkommen, müssten wir das doch als Gesellschaft wollen.

Ich glaube nicht. Selbst wenn man auf diese Weise die jährlichen Verkehrstoten einer Stadt wie Zürich von 10 auf 2 reduzieren könnte, denke ich nicht, dass wir das tun würden. Wir könnten es nicht akzeptieren, dass autonome Autos Menschen totfahren.

In Japan sind Roboter bereits teil der Gesellschaft. Sie pflegen und unterhalten Menschen. Und Menschen verlieben sich in sie.

In Japan sind Roboter bereits teil der Gesellschaft. Sie pflegen und unterhalten Menschen. Und Menschen verlieben sich in sie.

Bild: Frank Robichon/EPA (Tokyo, 26. Juli 2016)

Wo werden wir Roboter akzeptieren?

Dort, wo wir ihnen keine Urteile über Leben und Tod zugestehen müssen. Im Pflegebereich etwa. Hier gibt es bereits Tests mit Robotern, die Wünsche von Bettlägerigen ausführen. Ihnen etwa eine Wasserflasche holen und öffnen. Wichtig ist, dass die Privatsphäre gewahrt bleibt. Ein Roboter in einem Pflegeheim muss deshalb selbstständig Türen öffnen und schliessen können.

Wollen wir wirklich von Robotern gepflegt werden?

Es gibt Studien, die zeigen, dass manche Menschen sich im Intimbereich lieber von einem Roboter waschen lassen würden als von einem Pflegenden, weil sie sich schämen. Sollte ich eines Tages pflegebedürftig sein, würde ich mich am liebsten von einem Roboter und einem Menschen betreuen lassen. Den Roboter kann ich hemmungslos herumscheuchen. Ich hätte so weniger das Gefühl, dass ich anderen Menschen zur Last falle. Eine emotionale Bindung möchte ich aber nicht zu ihm aufbauen, sondern nur zu einem Menschen.

Inwiefern kann man überhaupt eine emotionale Bindung zu einem Roboter aufbauen?

Das geht schon. In Japan, wo Roboter vermehrt zur Unterhaltung und Betreuung von Kindern oder einsamen Menschen eingesetzt werden, gibt es zahlreiche Männer, die sich in ein Hologrammmädchen verliebt haben, das sie zuhause stehen haben. Wenn sie weg sind, schreibt es Textnachrichten wie: «Ich vermisse dich so.» Ich erachte es als gefährlich, wenn Robotern den Nutzern emotionale Nähe und Mitgefühl vorgaukeln. Das ist Täuschung.

Mittlerweile kommunizieren viele Menschen mit einem Sprachassistenten wie Siri oder Alexa. Warum sind das eigentlich immer Frauenstimmen? Ist das sexistisch?

Es gibt Theorien, die besagen, dass Frauenstimmen vertrauensvoller sind und sie stärker von beiden Geschlechtern akzeptiert werden als Männerstimmen. Einige Kritiker behaupten, dass die Stimmen devot seien. Bei Siri und Alexa finde ich das nicht. Sie sollten aber stärker auf verbale Übergriffe reagieren. Wenn man zu Siri sagt: «Ich will dich vergewaltigen», kann es nicht sein, dass sie bloss erwidert: «Ich weiss nicht, was ich darauf antworten soll.»

Was ist mit Sexrobotern?

Zumindest Liebespuppen verbreiten sich derzeit in Bordellen – auch in der Schweiz. Die sehen lebensecht aus, verfügen aber über keine künstliche Intelligenz. Davor zieren sich die Bordellbesitzer wohl aus Angst, dass sich die Freier überwacht fühlen könnten. Ich habe mit einer Bordellbesitzerin in Deutschland Kontakt gehabt, die gesagt hat, dass die Puppen vor allem bei jüngeren, schüchternen Männern beliebt sind – insbesondere Mangamädchen und Elfen. Irgendwann wird es trotz aller Vorbehalte auch echte Roboter in den Bordellen geben.

Sehen Sie darin ein ethisches Problem?

Man müsste die Prostituierten fragen, was sie denken, wenn sie von Robotern konkurrenziert werden. Die Nutzung halte ich aber eigentlich für unproblematisch, wenn sie gelegentlich geschieht. Die Roboter sollten vielleicht nach einer gewissen Zeit eine Warnung aussprechen: «Überanstrenge dich nicht. Ich bin eine Maschine und kann immer, du nicht.»