"Asimovs Gesetze reichen nicht"
Der britische Informatiker und Psychologe Noel Sharkey forscht auf dem Gebiet der Künstlichen Intelligenz und des Maschinenlernens und macht sich für Ethik in der Robotik stark. ORF.at hat mit Sharkey über die Faszination von Robotern, über tötende Maschinen und Roboter in der Altenpflege gesprochen.
Das Ars Electronica Futurelab und der Automobilhersteller Honda forschen derzeit gemeinsam zum Verhältnis zwischen Mensch und Roboter der nächsten Generation. Bei der diesjährigen Ausgabe des Festivals stellten sie in einer prominent besetzten Konferenz die Frage, wie sich Roboter in den Alltag integrieren lassen und wie Menschen mit Robotern zusammenleben können.
Am Podium saß auch Noel Sharkey, Professor für künstliche Intelligenz, Robotik und Public Engagement an der Universität Sheffield. Einer breiteren Öffentlichkeit wurde er in den 1990er Jahren durch seine auf BBC ausgestrahlten Fernsehshows "Robot Wars" und "Techno Games" bekannt. Heute setzt er sich für eine stärkere Debatte über Ethik in der Robotik ein.
ORF.at: Wieso üben Roboter auf Menschen eine so große Faszination aus?
Sharkey: Ich habe leider keine eindeutige Antwort darauf. Ich habe mich sehr viel mit der Geschichte der Robotik beschäftigt. Bereits in der Antike gab es erste Roboterfantasien, nur hießen sie damals Automaten. Dabei handelte es sich natürlich nicht um Roboter im heutigen Sinne, sondern um Statuen, die sich bewegten. Menschen waren zu allen Zeiten fasziniert von der Idee, Abbilder ihrer selbst oder lebendige Wesen zu schaffen.
ORF.at: Sie treten für eine neue Ethik in der Robotik ein, warum?
Sharkey: Roboter werden in Zukunft in unserer Gesellschaft viel häufiger vorkommen. Ich kann nur nicht sagen, wann. Denn in einer Sache ist die Künstliche-Intelligenz-Forschung wirklich gut, nämlich darin, falsche Prophezeiungen abzugeben. Sie hinkt ihren Voraussagen immer weit hinterher. Dennoch ist eines sicher: Wir dürfen Roboter nicht vorschnell einsetzen, sondern müssen intensiver darüber diskutieren. Wir brauchen ethische Richtlinien und Gesetze, um die Menschen zu schützen. ORF.at: Bei den Schlagwörtern Roboter und Gesetze denkt man unweigerlich an den Schriftsteller Isaac Asimov und seine drei Gesetze der Robotik. Demnach darf, ein wenig verkürzt, ein Roboter keinen Menschen verletzen, er muss den Befehlen eines Menschen gehorchen und seine eigene Existenz schützen. Sind diese Gesetze heute noch ausreichend? Asimovs Gesetze waren nie ausreichend und das wusste er auch. Es hat seine Gesetze eher als Denkwerkzeuge verstanden, um zu zeigen, dass sie nicht wirklich funktionieren. In den 1980er Jahren hat er noch ein viertes Gesetz hinzugefügt. Demnach darf der Roboter der Menschheit keinen Schaden zufügen. Dadurch bekommt ein Roboter die Erlaubnis, Menschen zu töten, wenn er damit der Menschheit nützt. Und das führt das Ganze ad absurdum. Das Militär würde sich natürlich nie ein Gesetz ausdenken, das einem Roboter verbietet, einen Menschen zu töten.
ORF.at: Welche Bereiche betrifft das denn?
Sharkey: Der wichtigste Bereich ist derzeit sicherlich das Militär. Ich hatte Einblick in die militärischen Pläne der USA in Sachen Roboterforschung und die haben mich ziemlich geschockt. Ich hatte das Gefühl, das Militär hat keine Ahnung, was es da eigentlich entwickelt. Die gehen mit Science-Fiction-Vorstellungen an die Sache heran.
ORF.at: Haben Sie dazu ein Beispiel?
Sharkey: In näherer Zukunft sollen autonome Maschinen entwickelt werden, die Personen aufspüren und töten sollen. Das Problem dabei ist, dass es gemäß meiner dreißigjährigen Erfahrung in der Forschung keine Systeme gibt, die Soldaten und Zivilisten auseinanderhalten können, sofern Soldaten nicht mit RFID-Chips markiert sind. Die Objekterkennungssysteme sind einfach noch zu schlecht. Doch auch wenn sie ausreichend wären: Ein Mensch kann zwischen Zivilisten, Soldaten oder Aufständischen unterscheiden, weil er darüber verfügt, was man in der Psychologie "Theory of Mind" nennt. Also die Fähigkeit, Gefühle, Absichten oder Erwartungen bei anderen Menschen zu vermuten. Es gibt noch kein System, das das Wahrgenommene interpretieren und daraus wie ein Mensch schlussfolgern kann. In Laborsituationen gibt es vielleicht Ansätze.
ORF.at: Das Militär finanziert zahlreiche Projekte in der Robotik. Was hat das für Auswirkungen auf die Forschung insgesamt?
Sharkey: Ehrlich gesagt, ist es sehr gut für die Forschung. Das Militär steckt wahnsinnig viel Geld rein und das hat natürlich den Effekt, dass die Entwicklungen in manchen Bereichen so schnell gehen. In den letzten Jahren ist auch ein ganzer Zweig an Zulieferfirmen entstanden, welche die Technologie für militärische Entwicklungslabors herstellen. Obama siedelt sehr viele davon in Chicago und Michigan an, um Arbeiter aus der Automobilbranche zu beschäftigen.
ORF.at: Neben dem Militär haben Sie sich aber auch noch mit anderen Anwendungsbereichen für Roboter beschäftigt.
Sharkey: Ja, und zwar mit der Kinderbetreuung. Es gibt heute bereits 14 Unternehmen in Südkorea und Japan, die Babysitterroboter herstellen. Roboter, die Kinder mit Spielen unterhalten sollen. Das Kind trägt einen RFID-Chip, dadurch weiß der Roboter, wo sich das Kind befindet. Gerät das Kind aus seiner Reichweite, kann der Roboter Alarm schlagen. Ich habe mich gefragt, ob Menschen das benutzen würden, und herausgefunden, dass Mütter und Väter sehr begeistert sind von der Vorstellung, Kinder mit den Robotern allein zu lassen. Die Frage ist natürlich, welche Folgeerscheinungen das haben kann, ob es zu sozialer Ausgrenzung und Vernachlässigung führt.
Mehr zur Ars Electronica
ORF.at: Auch in der Altenpflege verspricht man sich von Robotern Unterstützung.
Sharkey: Diese Anwendung sehe ich nicht so negativ. Wenn ich im Alter dank eines Roboters selbstständiger sein kann und nicht ins Pflegeheim muss, bin ich durchaus dafür. Ein Roboter, der Menschen füttert, wie es schon der Roboterarm "My spoon" kann, nimmt einem menschlichen Pfleger etwas ab, was eine ältere Person als erniedrigend empfinden kann. Ein Problem sehe ich dennoch, wenn Pflegeroboter zu sozialer Isolation führen. Vielfach sind menschliche Pfleger wichtige soziale Kontakte für ältere Menschen. Auf der anderen Seite könnte mich ein Roboter auch beim Spazierengehen begleiten.
(Anna Masoner)