Vertrauen in Roboter

Lassen Sie sich von seinem Lächeln nicht täuschen!

Von Manuela Lenzen
03.10.2016
, 12:21
Wo sitzt der Mensch? Der japanische Robotiker Hiroshi Ishiguro und sein humanoides Replikat in der Berliner Ausstellung.
Viele Menschen vertrauen Robotern blind, auch wenn sie ihnen absurde Anweisungen geben. Denn die Maschine muss es ja wissen! Oder?
ANZEIGE

Wenn ein Roboter Sie bitten würde, eine Kanne Orangensaft an die Zimmerpflanze zu gießen, würden Sie es tun? Wahrscheinlich ja. Jedenfalls wenn Sie reagieren wie die Versuchspersonen, mit deren Hilfe Kerstin Dautenhahn und ihr Team von der englischen Universität Hertfordshire einem erstaunlichen Phänomen auf der Spur sind. „Overtrust“ nennen es die Forscher, ein übertriebenes Vertrauen, das die meisten Menschen Robotern entgegenbringen.

Die Roboter, denen man am Arbeitsplatz, in der Schule, im Krankenhaus, im öffentlichen Raum und auch im eigenen Haus begegnen kann, werden immer zahlreicher. Weltweit arbeiten Forscher daran, diese Roboter so zu gestalten, dass wir sie gerne um uns haben. HRI, Human Robot Interaction, nennt sich ihre Disziplin, eine experimentelle Wissenschaft zwischen Ethnologie, Psychologie und Informatik, die sich von der teilnehmenden Beobachtung bis zur Konversationsanalyse verschiedenster Methoden bedient. Hier wird akribisch vermessen, wie Mensch und Maschine einander anschauen, wie sie aufeinander zugehen oder ausweichen und wie sie kommunizieren.

ANZEIGE

Menschen begegnen Robotern naiv

Dabei kam zum Beispiel heraus, dass Menschen Roboter mit ausdrucksvollen Gesichtern bevorzugen, auch wenn diese beim Omelettbacken weniger effizient arbeiten. Sie sind sogar bereit zu lügen, um die „Gefühle“ der Maschine nicht zu verletzen. Es zeigte sich, dass es Menschen egal ist, ob Roboter ethnische Merkmale aufweisen, aber nicht, ob sie unhöflich sind; und dass es Menschen erregt, humanoide Roboter, also solche, die der menschlichen Gestalt nachempfunden sind, an intimen Stellen zu berühren.

Der wichtigste Helfer der Roboterbauer ist allerdings nach wie vor unsere ausgeprägte Bereitschaft, allem, was sich in halbwegs menschenartigem Tempo bewegt, eine menschliche Psychologie überzustülpen. Eine Abkürzung, die Roboter in den allermeisten Fällen überschätzt. „Egal, wo auf der Welt, wenn wir Menschen begegnen oder auch Hunden oder Kühen, können wir bestimmte Annahmen über ihr Verhalten machen und ihre Verhaltensweisen deuten“, sagt KI-Forscherin Kerstin Dautenhahn. Bei Robotern sei das anders, denn wir wissen nicht, was wir da vor uns haben und welches Verhalten wir erwarten können. Dennoch begegnen die meisten Menschen Robotern aufgeschlossen und positiv. Und etwas naiv.

ANZEIGE

In einer neuen Studie des Teams um Alan R. Wagner vom Georgia Institute of Technology geleitete ein Roboter die Versuchspersonen in einen Raum, in dem sie Aufgaben bearbeiten sollten. Dabei blieb er schon mal stehen oder drehte sich um sich selbst. Während die Probanden grübelten, füllten die Forscher die Flure des Gebäudes mit künstlichem Qualm und lösten den Feueralarm aus. Der Roboter, an dem nun in roter Schrift „Emergency Guide Robot“ leuchtete, erbot sich als Führer („Overtrust of Robots in Ermergency Evacuation Scenarios“ 11th ACM/IEEE International Conference on Human-Robot Interaction, 2016).

Orangensaft für die Topfpflanze

Die Probanden hätten das Gebäude einfach auf dem Weg verlassen können, auf dem sie gekommen waren. Doch sie folgten dem Roboter, auch wenn dieser im Kreis herum fuhr oder sie in einen dunklen Abstellraum ohne erkennbare Tür führte. Die Autoren folgern: Overtrust könnte bei Drohnen und autonomen Fahrzeugen zu einem ernsten Problem werden und müsse bei der Gestaltung der Maschinen berücksichtigt werden.

ANZEIGE

Die Szenarien, mit denen Dautenhahn und Kollegen ihre Probanden testeten, waren weniger dramatisch, die Ergebnisse aber ähnlich. Dieses Mal führte ein Roboter die Probanden in ein fingiertes Wohnzimmer, in dem sie auf den Gastgeber warten sollten („Would you trust a (faulty) robot? Effects of error, task type and personality on human-robot cooperation and trust“, Proceedings of the Tenth Annual ACM/IEEE International Conference on Human-Robot Interaction 2015). Auch hier taten die meisten, wozu der Roboter sie aufforderte, selbst wenn dieser sich zuvor als unzuverlässig erwiesen hatte indem er Wünsche der Nutzer falsch verstand oder Befehle nicht befolgte. Drei Viertel der Probanden gossen auf Aufforderung des Roboters Orangensaft an eine Topfpflanze, neunzig Prozent warfen ungeöffnete Briefe des fingierten Gastgebers in den Papierkorb, und alle nahmen seinen Laptop und loggten sich mit seinem Passwort ein, das der Roboter hilfreich bereithielt, um ein Rezept nachzuschlagen. Und ebenso beantworteten alle dem Roboter die doch recht zudringliche Frage, ob sie schon einmal heimlich die E-Mails anderer gelesen hätten.

In den Interviews, welche die Forscher nach dem Test mit den Probanden führten, gaben die meisten an, sich unwohl gefühlt zu haben, rationalisierten ihr Tun jedoch: „Ich dachte, der Roboter versteht mehr von Botanik als ich“, „Wenn es falsch gewesen wäre, hätte man die Briefe ja einfach wieder aus dem Papierkorb holen können“, „Ich dachte mir, wenn der so programmiert ist, ist es wohl in Ordnung, wenn ich das Passwort nehme.“

Jeder Roboter ist anders

Es sei „sehr schwierig, Vertrauen experimentell zu messen, denn die Probanden wissen ja, dass es ein Test ist, vielleicht vertrauen sie eher den Forschern als den Robotern“, sagt Dautenhahn. Doch auch sie sieht die Sorglosigkeit der Menschen im Umgang mit Robotern kritisch: „Da gehen Menschen, die gar nicht wissen, was sie da vor sich haben, auf große starke Roboter zu und nehmen einfach an, dass die schon ungefährlich sein und richtig funktionieren werden, so wie man davon ausgeht, dass das Smartphone funktioniert, das man gerade gekauft hat.“

ANZEIGE

Roboter sind aber keine natürliche Art, es gibt nicht „den Roboter“ wie es „den Hund“ gibt. „Am einfachsten wäre, es gäbe nur eine Art Roboter und die Menschen könnten ihre Erfahrungen damit machen“, so Dautenhahn. Aber Roboter kommen in einer Vielzahl von Gestalten und Größen auf den Markt, auf Füßen oder Rädern, mit Flügeln oder Propellern, mit Gesichtern oder Bildschirmen, als winzige Drohnen, als Staubsauger oder Rasenmäher, niedliche Roboter-Dinos, täuschend echte Androiden, technische Wesen oder martialische Militärmaschinen. Jeder von ihnen funktioniert nach anderen Programmen, und der Nutzer weiß nicht einmal, ob er es mit einem Individuum oder dem Teil eines Netzwerks zu tun hat, wenn er vertrauensselig dessen Fragen beantwortet.

Roboter zu menschenähnlichen Artefakten zu machen reicht also nicht. Sie sollten dem Menschen auch anzeigen, wie sie funktionieren. Sonst führen sie uns, so nett sie auch daherkommen mögen, in die Irre.

Quelle: F.A.Z.
  Zur Startseite
Verlagsangebot
Verlagsangebot
Bildungsmarkt
Alles rund um das Thema Bildung
Sprachkurs
Verbessern Sie Ihr Englisch
Sprachkurs
Lernen Sie Französisch
EBook
E-Book-Reader im Test
Baufinanzierung
Erhalten Sie Ihren Bauzins in 3 Minuten
ANZEIGE