Projekt
Szenarien der Interaktion – Mensch-Maschine Interfaces in der Diskussion um Autonome Waffensysteme
Autonome Waffensysteme (AWS) werden seit Jahren kontrovers diskutiert. Meist sind mit diesem Begriff Waffen gemeint, die sich eigenständig ihr Ziel suchen, auswählen und angreifen können - ganz ohne ein Eingreifen durch den Menschen (“select and engage targets without human intervention”). Mit dem rasanten Fortschritt im Bereich der Künstlichen Intelligenz wächst auch die Eigenständigkeit autonomer Waffen erheblich an. Die möglichen Folgen und die enorme Tragweite dieser Entwicklungen sind noch nicht genau abzuschätzen. Die Frage nach einer effektiven und sinnvollen Möglichkeit, diese Waffen zu regulieren, wird in den derzeitigen öffentlichen, politischen und wissenschaftlichen Debatten bestimmt vom Schlagwort der “meaningful human control”. Hinter diesem Begriff steht die Idee einer bedeutungsvollen Kontrolle durch den Menschen, an denen sich die Entwicklung von AWS orientieren soll. Konzeptionell soll diese Idee eine zu große Eigenständigkeit der Technik verhindern und entfaltet in der öffentlichen Debatte zugleich eine beruhigende Wirkung. Umso beachtlicher ist, dass es im konkreten Fall oft im Vagen bleibt, was mit dieser Form der Kontrolle gemeint ist und welche Kriterien sie “bedeutungsvoll” machen.
Mensch-Maschine Interfaces in der Diskussion um Autonome Waffensysteme
Dieses Interview wurde am 8. Dezember 2022 im Rahmen eines MEHUCO-Workshops an der Universität Bonn aufgezeichnet.
Hier setzt das Forschungsprojekt “Szenarien der Interaktion - Mensch/Maschine-Interfaces in der Debatte um autonome Waffensysteme” an. Es untersucht an der Schnittstelle zwischen Mensch und Maschine, wie Kontrolle konzipiert wird und was sie “bedeutungsvoll” macht. An welchen Stellen soll der Mensch eingreifen können? Wer bestimmt über Interventionsmöglichkeiten und wie werden sie technisch an der Schnittstelle zwischen Mensch und Maschine umgesetzt? Um Antworten auf diese Fragen zu finden, werden einerseits technische Lösungen, Forschungs- und Entwicklungsszenarien und öffentliche Diskurse analysiert. Andererseits werden die komplexen Dynamiken zwischen den Debatten um AWS und ihren fiktionalen Repräsentationen (auch in einer historischen Perspektive) untersucht, die Aufschlüsse über imaginierte zukünftige Entwicklungen geben können.
Das Projekt ist Teil des BMBF-geförderten Forschungsnetzwerks “Meaningful Human Control. Autonome Waffensysteme zwischen Regulation und Reflexion”. Weitere Informationen finden Sie auf der Projektwebsite.
