Home Anzeige FAZ 1.11.2021 Impressum

Appell von ForscherInnen in den Gebieten Künstliche Intelligenz und Robotik mit der Forderung, in den Koalitionsvertrag der neuen Bundesregierung eine Passage aufzunehmen, die ein internationales Abkommen zu Autonomie in Waffensystemen anstrebt.

Pressemitteilung der Gesellschaft für Informatik (GI)

Stellungnahme des Fachbereichs Künstliche Intelligenz (FBKI) der GI

Offener Brief: Initiative für ein internationales Abkommen zu Autonomie in Waffensystemen

Hiermit bringen wir unsere tiefe Besorgnis über Waffensysteme zum Ausdruck, die Ziele ohne echte menschliche Kontrolle auswählen und angreifen. Wir fordern einen rechtsverbindlichen internationalen Regulierungsrahmen für die Nutzung dieser sogenannten „Autonomie in Waffensystemen“. Damit schließen wir uns ähnlichen Initiativen zahlreicher CEOs sowie tausender unserer KollegInnen aus den Feldern der Robotik und der Künstlichen Intelligenz (KI) u. a. in Australien, Belgien, Kanada, Norwegen, den Niederlanden und den USA an.

Wir sind der Auffassung, dass KI und Robotik das Potential haben, der Menschheit in vielerlei Hinsicht dienlich zu sein. Wie alle anderen technologischen Entwicklungen können auch sie im Positiven wie im Negativen Anwendung finden. Daher erfordern die mit dem technischen Fortschritt einhergehenden Implikationen unsere erhöhte Aufmerksamkeit.

Autonomie in Waffensystemen bringt gewichtige ethische, sicherheitspolitische und rechtliche Risiken mit sich. Seit Jahren werden diese öffentlichkeitswirksam und in zahlreichen internationalen Foren, unter anderem bei den Vereinten Nationen in Genf, diskutiert. Die Sorge gilt dabei dem Verlust der menschlichen Kontrolle über den Einsatz von Gewalt. Menschen sollten nicht von autonomen Systemen angegriffen werden, insbesondere sollte nicht die Entscheidung zum Einsatz von Massenvernichtungswaffen allein von Algorithmen ohne menschliche Eingriffsmöglichkeit getroffen werden: Entscheidungen über Leben und Tod dürfen nicht an Algorithmen delegiert werden. Der unregulierte Einsatz autonomer Waffensysteme stellt eine ernsthafte Gefährdung für das Völkerrecht sowie die Menschenrechte und vor allem die Menschenwürde dar. Die aktuelle Entwicklung droht zudem ein Wettrüsten, gefolgt von mehr regionaler und globaler Unsicherheit, auszulösen. Ohne Regulierung werden sich autonome Waffen außerdem schnell weiterverbreiten, wodurch das Risiko zunimmt, dass Konflikte in Maschinengeschwindigkeit ausgelöst oder zum Eskalieren gebracht werden, ohne dass Menschen noch bremsend eingreifen können. Schließlich wirft die aktuelle militärtechnologische Entwicklung Fragen der Zurechenbarkeit und Verantwortung auf, da unklar ist, wer bei einer autonomen Zielbekämpfung für etwaige Verstöße gegen das Völkerrecht zur Rechenschaft gezogen werden könnte.

So wie die meisten ChemikerInnen und BiologInnen kein Interesse am Bau chemischer oder biologischer Waffen haben, so haben auch wir ForscherInnen auf den Feldern der KI und der Robotik kein Interesse daran, High-Tech-Waffen zu entwickeln. Wir wollen nicht, dass unser Fachgebiet dadurch in Verruf gerät. Das könnte nicht zuletzt zu gesellschaftlicher Ablehnung unserer Forschung führen und so den Nutzen von KI und Robotik insgesamt schmälern. ChemikerInnen und BiologInnen haben sich für internationale Abkommen eingesetzt, mit denen chemische und biologische Waffen erfolgreich verboten wurden. Nun ist es an der Zeit, dass die neue Bundesregierung unsere Bedenken zum Anlass nimmt, um Autonomie in Waffensystemen einzuhegen. Ist diese Büchse der Pandora erst einmal geöffnet, wird es sehr schwer sein, sie wieder zu schließen.

Bereits in den letzten beiden Koalitionsverträgen kam klar zum Ausdruck, dass deutsche Bundesregierungen Waffensysteme ächten, die der menschlichen Entscheidungs- und Verfügungsgewalt entzogen sind. Für den neuen Koalitionsvertrag fordern wir daher die Formulierung eines konkreteren Ziels:

Deutschland muss eine führende Rolle bei der Entwicklung eines neuen, völkerrechtlich verbindlichen Vertrages zur Regulierung von Waffensystemen übernehmen, die in ihren kritischen Funktionen autonom sind, also Ziele ohne menschliches Zutun auswählen und bekämpfen. Der Vertrag sollte die Beibehaltung echter menschlicher Kontrolle beim Einsatz dieser Waffensysteme vorschreiben und solche autonomen Waffensysteme gänzlich verbieten, die sich gezielt gegen Menschen richten oder die aufgrund ihres Designs und während ihrer Nutzung nicht sicherstellen können, dass echte menschliche Kontrolle gewahrt bleibt.

Unterzeichnende:

Prof. Dr. Hannes Federrath, Präsident der Gesellschaft für Informatik (GI) / Universität Hamburg

Priv.-Doz. Dr. Matthias Klusch, Sprecher Fachbereich Künstliche Intelligenz der GI / DFKI / Universität des Saarlandes

Prof. Dr.-Ing. Ingo J. Timm, Sprecher Fachbereich Künstliche Intelligenz der GI / DFKI / Universität Trier

Prof. Dr.-Ing. habil. Christoph Benzmüller, Confederation of Laboratories for Artificial Intelligence Research in Europe (CLAIRE) / Freie Universität Berlin

Prof. Dr. Holger Hoos, CLAIRE / Universität Leiden

Prof. Dr. Philipp Slusallek, Direktor am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) / CLAIRE / Universität des Saarlandes

Prof. Dr. Klaus-Dieter Althoff, Universität Hildesheim

Dr. Julian Anslinger, IFZ - Interdisziplinäres Forschungszentrum für Technik, Arbeit und Kultur

Prof. Dr. Franz Baader, TU Dresden

Prof. Kerstin Bach, NTNU

Dipl. Inf. René Balzer, TU Dresden

Dr. Joachim Baumeister, Universität Würzburg

Prof. Dr. Christoph Beierle, FernUniversität in Hagen

Prof. Dr. Hans-Peter Beise, Hochschule Trier

M.Sc. M.A. Nicolas Berberich, Technische Universität München

Prof. Dr. Ralph Bergmann, Universität Trier / DFKI

Prof. Dr. Harald Binder, Albert-Ludwigs-Universität Freiburg

Prof. Dr. Carsten Binnig, TU Darmstadt

Prof. Dr. Karl Hans Bläsius, Hochschule Trier

Dr. Aljoscha Burchardt, Stellvertretender Standortsprecher am DFKI Berlin

M.Sc. Kevin Daun, TU Darmstadt

Prof. Dr. Prof. h.c. Andreas Dengel, Direktor am DFKI / TU Kaiserslautern

Fabio Ferreira, Doktorand, Universität Freiburg

Prof. Dr. Peter Fettke, Universität des Saarlandes / DFKI

Prof. Dr. Ulrich Furbach, Universität Koblenz-Landau

Prof. Dr. Malte Göttsche, RWTH Aachen University

Prof. Dr. Josif Grabocka, Universität Freiburg

Prof. Dr. Iryna Gurevych, Technische Universität Darmstadt

Prof. Dr. Verena Hafner, Humboldt-Universität Berlin

Prof. Dr. Michael Hanus, Christian-Albrechts-Universität Kiel

Prof. Dr. Martin Hennecke, Universität Würzburg

Prof. Dr. Joachim Hertzberg, Universität Osnabrück / DFKI

Prof. Dr. Prof. h.c. Otthein Herzog, Universität Bremen

Prof. Dr. Jörg Hoffmann, Universität des Saarlandes

Dipl. Bioinf. Ericson Hölzchen, Universität Trier

Prof. Dr. Andreas Hotho, Universität Würzburg

Prof. Dr. Ludger Humbert, Bergische Universität Wuppertal

Prof. Dr. Frank Hutter, Albert-Ludwigs-Universität Freiburg

Lecturer Ermelinda Kanushi, University College Freiburg

M.A. Reinhard Karger, DFKI

David Kaub, M.Sc., Universität Trier

Prof. Dr. Kristian Kersting, TU Darmstadt

Dr. Roman Klinger, Universität Stuttgart

Prof. Dr. Dorothea Kolossa, Ruhr-Universität Bochum

Prof. Dr. Antonio Krüger, Direktor und CEO des DFKI / Universität des Saarlandes

Prof. Dr. Gerhard Lakemeyer, RWTH Aachen University

Prof. Dr. Marc Erich Latoschik, Universität Würzburg

Prof. Dr. Marius Lindauer, Leibniz Universität Hannover

Prof. Dr. Jörg Lohscheller, Hochschule Trier

Prof. Dr. Carsten Lutz, Universität Bremen

Lukas Malburg, M.Sc., Universität Trier

Prof. Dr. Mira Mezini, TU Darmstadt

Prof. Dr. Mirjam Minor, Goethe-Universität Frankfurt

Prof. Dr. Katharina Morik, TU Dortmund

Prof. Dr. Hans Jürgen Ohlbach, LMU München

Sebastian Pineda Arango, M.Sc., Albert-Ludwigs-Universität Freiburg

Dipl.-Inf. Rainer Rehak, Technische Universität Berlin

Dipl. Inf. Eric Rietzke, Universität Trier

Prof. Dr. Georg Rock, Hochschule Trier

Prof. Dr. Raul Rojas, Freie Universität Berlin

Prof. Dr. Claus Rollinger, Universität Osnabrück

Prof. Dr. Stefan Roth, TU Darmstadt

Prof. Dr. Constantin Rothkopf, TU Darmstadt

Prof. Dr. Ute Schmid, Universität Bamberg

Prof. Dr. Christoph Schmitz, Hochschule Trier

Prof. Dr. Jörn Schneider, Hochschule Trier

Prof. Dr. Bernhard Schölkopf, Max-Planck-Institut für Intelligente Systeme

Dr. Claudia Schon, Universität Koblenz-Landau

Jakob Michael Schönborn, M.Sc., Universität Hildesheim

Prof. Dr. Wolfgang M. Schröder, Julius-Maximilians-Universität Würzburg

Kaltrina Shala, Doktorandin, Unversität Mannheim

Prof. Dr. Jörg Siekmann, Universität des Saarlandes / ehemalig Direktor am DFKI

Prof. Dr. H. Siegfried Stiehl, Universität Hamburg

Danny Stoll, Doktorand, Albert-Ludwigs-Universität Freiburg

Prof. Dr. Peter Struss, Technische Universität München

Dr. Daniel Tanneberg, Honda Research Institute, KI & Robotik

Prof. Dr. Radu Timofte, Julius-Maximilians-Universität Würzburg

Prof. Dr. Abhinav Valada, Universität Freiburg

Prof. Dr. Will van der Aalst, RWTH Aachen University

Prof. Dr. Sebastian von Mammen, Julius-Maximilians-Universität Würzburg

Dr. Steffen Zeiler, Ruhr-Universität Bochum

Arber Zela, Albert-Ludwigs-Universität Freiburg

Prof. Dr. Oliver Zielinski, Universität Oldenburg / DFKI

Dr. Theresa Zueger, Alexander von Humboldt Institute for Internet and Society