Angst vor autonomen Systemen? Eine spannungsgeladene Diskussionsgrundlage

Es war eine kleine Gruppe von fünfzehn Menschen mit unterschiedlichsten Hintergründen, die sich am Donnerstagabend im Impact Hub Bern zur Diskussion traf. Das Thema: «Autonome Systeme». Welche ethischen Risiken verstecken sich hinter selbstfahrenden Fahrzeugen, intelligenten Heimutensilien und autonomen Waffen? Das wollten wir von den angereisten Teilnehmerinnen und Teilnehmern erfahren. Daraus entsprangen intensive Diskussionen und ein Entwurf für mögliche Prinzipien, die den Umgang mit autonomen Waffen leiten könnten.

Ein steiler Einstieg und abwechslungsreiche Debatten

Im Fokus des Abends stand der Versuch, die Einstellungen, Gedanken und Ängste von verschiedenen Menschen zusammenzutragen und offen zu diskutieren. Um diesem Austausch einen thematischen Rahmen zu bieten, lieferten Fabienne Forster von roboethics.ch und Maya Brehm von Article 36 zwei informative Inputs, bevor in drei kleinen Gruppen intensiv über verschiedene autonome Systeme diskutiert wurde.

Dabei stellte sich heraus, dass die Meinungen und Kernanliegen sehr unterschiedlich liegen – gemeinsam war jedoch eine gewisse Besorgnis gepaart mit einem Funken Hoffnung. Beste Voraussetzungen für inspirierende Debatten also. Sowohl zum Thema selbstfahrende Fahrzeuge, wo insbesondere die Fragen der Sicherheit aber auch der einschneidenden Überwachung zur Sprache kamen, als auch bei der brandaktuellen Frage zur Ethik autonomer Waffen gingen die Ansichten auseinander und fanden sich in der Diskussion am Ende doch wieder.

Prinzipien für autonome Waffen

Am Beispiel der autonomen Waffen wurden abschliessend im Plenum erste mögliche Prinzipien diskutiert. Auf der Basis der identifizierten Risikobereiche – die von Machtkonzentration über die Möglichkeit, Folter ins Unermessliche zu verlängern und zu «optimieren», bis zur verschwindenden Hemmschwelle und Feigheit reichten – wurden verschiedene wichtige Ansätze zusammengetragen, an die sich sowohl die technische Innovation als auch der gesellschaftliche Diskurs orientieren sollten.

Der ungetrübt positive Einfluss autonomer Systeme auf unsere Gesellschaft wurde vor der Veranstaltung deutlich höher eingeschätzt als nachher; die Besorgnis um solche Systeme stieg. Überraschenderweise stimmten gleichwohl mehr Teilnehmende nach der Veranstaltung der Aussage zu, dass autonome Waffen in Kriegssituationen zu weniger Leid führen können, als dies vor der Veranstaltung der Fall war.

Grosse Zustimmung fand dabei die Forderung nach absoluter Transparenz und Kontrolle. Autonome Waffen sind Maschinen mit grossem Gewaltpotenzial. Darum ist es umso wichtiger, dass lückenlos erläutert wird, wie diese Maschinen funktionieren und wo sie zum Einsatz kommen. Aber auch das Potenzial für Friedenssicherung und der Verringerung von zivilem Leid stand zur Diskussion.

Veränderte Einstellungen

Umrahmt wurde das ethixForum von zwei identischen Fragebögen, welche die Veränderung der Einstellungen, Gefühle und Werte vor und nach der Veranstaltung aufzeichnen sollten. Dabei zeigte sich, dass die angeregte Diskussion und prägnanten Inputreferate einen bleibenden Eindruck hinterlassen konnten. So wurde der ungetrübt positive Einfluss autonomer Systeme auf unsere Gesellschaft vor der Veranstaltung deutlich höher eingeschätzt als nachher. Kein Wunder stieg in diesem Zeitraum auch die Besorgnis um solche Systeme entsprechend. Es gab jedoch auch Überraschungen: So stimmten beispielsweise viel mehr Teilnehmende nach der Veranstaltung der Aussage zu, dass autonome Waffen in Kriegssituationen zu weniger Leid führen können, als dies vor der Veranstaltung der Fall war.

Insgesamt ist der innovationsethische Diskurs ein grosses Anliegen für die Bevölkerung. Darum lohnt es sich, verschiedene Menschen in einem Raum zusammenzubringen und den Austausch zu fördern.