Science Fiction kann schneller Realität werden als uns lieb ist. Noch bestimmen Menschen wenn autonome Waffen wie Drohen töten, aber die Entwicklung künstlicher Intelligenz schreitet rasant voran und könnte den Menschen bald ersetzen. Letzte Woche trafen sich Regierungsvertreter bei den Vereinten Nationen um zu diskutieren, ob Staaten diese Killerroboter einsetzen dürfen. Was sind die militärischen und ethischen Aspekte der „tödlichen autonomen Waffensysteme“?

Vollständig autonome Waffensysteme sind noch nicht in Gebrauch. Die Diskussion in Genf ging um Maschinen, die Feinde identifizieren, angreifen und töten können, ohne dass ein Mensch diese Entscheidungen trifft. Wie weit autonome Waffen schon entwickelt sind, sieht man an den defensiven Waffensystemen: So verfügt die Bundeswehr über ein Luftabwehrsystem, das Geschosse ohne menschliche Beteiligung als Ziel erkennt. Noch entscheidet aber ein Soldat über den Abschuss. Künstliche Intelligenz lässt sich für Boote, Flugzeuge und letztendlich auch für Roboter einsetzen. Der Rüstungswettlauf wird es wohl eher früher als später möglich machen, vor allem da die Ressourcen für autonome Waffensysteme verhältnismäßig billig sind.

Jetzt zu den ethischen Fragen! Eine Künstliche Intelligenz kennt keine Empathie oder Reue und kann daher auch keine Verantwortung für ihre Taten übernehmen. Aber dort wo eine autonome Waffe eingesetzt wird, braucht man keinen Soldaten hinschicken. Richtig programmiert neigen sie vielleicht sogar weniger zu Fehlentscheidungen als Menschen in einer Stresssituation. Kenner der Branche sind dennoch alarmiert: So haben mehr als hundert Robotiker, Wissenschaftler und Unternehmer in einem offenen Brief ein Verbot per UN-Waffenkonvention gefordert, unter ihnen sind Prominente wie Elon Musk, Stephen Hawking und Steve Wozniak vertreten – nicht gerade Feinde technischen Fortschritts!

Was sagt ihr zum Thema? Wir sprachen mit Thomas Küchenmeister von Facing Finance, einer deutschen Mitgliedsorganisation der internationalen Kampagne „Killer Roboter stoppen“.

Wir haben einen Kommentar von Phillip erhalten, der glaubt, dass auch in Zukunft ultimativ ein Mensch am Abzug sitzt, selbst wenn Drohnen einen Großteil der Ausführung übernehmen. Bleibt das wirklich so? Worum ging es beim UN-Treffen in Genf letzte Woche?

Das ist ein frommer Wunsch, dass immer ein Mensch die Entscheidung über Leben und Tod in Bezug auf Gewaltanwendung mit Waffensystemen trifft. Aber leider zeigt die Entwicklung von Waffensystemen, dass es auch in die autonome Richtung geht, dass diese Entscheidung an Waffensysteme delegiert wird. Wir sind jetzt in einem Stadium, wo Waffen mit autonomen Fähigkeiten schon vorhanden sind. Die gibt es schon. Sie werden als dumme oder unausgereifte Systeme beschrieben, das macht sie aber nicht weniger gefährlich, im Gegenteil! Aber auch wenn wir komplexere Intelligenz in Waffen einbauen, dann wird diese Technologie trotzdem niemals in der Lage sein, Kontext zu verstehen oder das Kriegsvölkerrecht zu berücksichtigen. Daher würde ich dieser Aussage nicht folgen können. Es sei denn, wir können jetzt ein Verbot durchsetzen. Das strebt unsere Kampagne an.

Unser Leser Aaron ist davon überzeugt, dass man jegliches Feingefühl für Menschenleben verliert, wenn man im Krieg Maschinen statt Menschen einsetzt, da man keine eigenen Verluste tragen muss. Stimmt Herr Küchenmeister ihm zu?

Ja, das sehe ich auch so. Wenn man diese Entscheidung über Leben und Tod an eine Maschine delegiert, dann sinkt automatisch die Hemmschwelle in Bezug auf Gewaltanwendung. So etwas wie Skrupel wird eine Maschine nie haben. Die Maschine wird sich keine Gedanken machen, ob die „Zielperson“ eine Waffe oder eine Schaufel in der Hand hält, sondern sie wird ihren Befehl einfach entsprechend ihrer Vorgaben ausführen.

Thomas fasst die Diskussion mit dem Schlagwort „Terminator“ zusammen. Müssen wir solche Killerroboter im Einsatz bald fürchten oder wie stehen die Chancen für ein Verbot?

Das ist immer das plakativste Beispiel, aber ich finde das nicht so gut. Es geht an der Realität und dem was zurzeit entwickelt wird vorbei. Es geht uns um Waffensysteme mit Sensoren und Algorithmen, die dann abfeuern ohne dass der Mensch eingreifen kann.

Ein Terminator ist eine künstliche hochentwickelte Intelligenz, die eine Mission hat aber selbst entscheidet. So weit sind wir noch nicht. Daher ist es wichtig zu unterscheiden, worum es gerade geht. Es gibt aber noch keine allgemein gültige Definition von vollautonomen Waffen. Die einen sagen, dass es bei der Debatte nur um so einen Terminator geht, aber ich gehöre zu denen, die sagen, dass alle autonome Waffensysteme auf den völkerrechtlichen Prüfstand müssen.

Ob es ein Verbot geben wird, weiß ich nicht. Einige Länder wie Deutschland und Frankreich versuchen ein völkerrechtliches verbindliches Verbot zu verschleppen. Das ist gefährlich, weil die technologische Entwicklung so rasant ist. Diese Zeit dürfen wir uns nicht mehr nehmen, wir müssen jetzt Grenzen setzen. Die technische Verfügbarkeit ist schon gegeben. Viele Wissenschaftler auf der Konferenz in Genf haben bestätigt, dass die Technik längst da ist. Waffenhändler sagen, sie können Waffen autonom einsetzen, sie können alles machen, sie warten nur noch auf das politische „Go“. Da gehen bei mir die Alarmleuchten an.

Sollten Roboter töten dürfen? Sie sind noch nicht im Einsatz, brauchen wir dennoch ein Verbot? Was denkt ihr?

Foto: cc/ Flickr – Peter Ladd