Home
Anzeige FAZ
1.11.2021
Impressum
Appell von ForscherInnen in den Gebieten Künstliche Intelligenz und
Robotik mit der Forderung, in den Koalitionsvertrag der neuen Bundesregierung
eine Passage aufzunehmen, die ein internationales Abkommen zu Autonomie in Waffensystemen
anstrebt.
Pressemitteilung der Gesellschaft für Informatik (GI)
Stellungnahme des Fachbereichs Künstliche Intelligenz (FBKI) der GI
Offener Brief: Initiative für ein internationales Abkommen zu Autonomie
in Waffensystemen
Hiermit bringen wir unsere tiefe Besorgnis über Waffensysteme zum
Ausdruck, die Ziele ohne echte menschliche Kontrolle auswählen und angreifen.
Wir fordern einen rechtsverbindlichen internationalen Regulierungsrahmen für
die Nutzung dieser sogenannten „Autonomie in Waffensystemen“. Damit schließen
wir uns ähnlichen Initiativen zahlreicher CEOs sowie tausender unserer
KollegInnen aus den Feldern der Robotik und der Künstlichen Intelligenz (KI) u.
a. in Australien, Belgien, Kanada, Norwegen, den Niederlanden und den USA an.
Wir sind der Auffassung, dass KI und Robotik das Potential haben, der
Menschheit in vielerlei Hinsicht dienlich zu sein. Wie alle anderen
technologischen Entwicklungen können auch sie im Positiven wie im Negativen
Anwendung finden. Daher erfordern die mit dem technischen Fortschritt
einhergehenden Implikationen unsere erhöhte Aufmerksamkeit.
Autonomie in Waffensystemen bringt gewichtige ethische, sicherheitspolitische
und rechtliche Risiken mit sich. Seit Jahren werden diese
öffentlichkeitswirksam und in zahlreichen internationalen Foren, unter anderem
bei den Vereinten Nationen in Genf, diskutiert. Die Sorge gilt dabei dem
Verlust der menschlichen Kontrolle über den Einsatz von Gewalt. Menschen
sollten nicht von autonomen Systemen angegriffen werden, insbesondere sollte
nicht die Entscheidung zum Einsatz von Massenvernichtungswaffen allein von
Algorithmen ohne menschliche Eingriffsmöglichkeit getroffen werden:
Entscheidungen über Leben und Tod dürfen nicht an Algorithmen delegiert werden.
Der unregulierte Einsatz autonomer Waffensysteme stellt eine ernsthafte
Gefährdung für das Völkerrecht sowie die Menschenrechte und vor allem die
Menschenwürde dar. Die aktuelle Entwicklung droht zudem ein Wettrüsten, gefolgt
von mehr regionaler und globaler Unsicherheit, auszulösen. Ohne Regulierung
werden sich autonome Waffen außerdem schnell weiterverbreiten, wodurch das
Risiko zunimmt, dass Konflikte in Maschinengeschwindigkeit ausgelöst oder zum
Eskalieren gebracht werden, ohne dass Menschen noch bremsend eingreifen können.
Schließlich wirft die aktuelle militärtechnologische Entwicklung Fragen der
Zurechenbarkeit und Verantwortung auf, da unklar ist, wer bei einer autonomen
Zielbekämpfung für etwaige Verstöße gegen das Völkerrecht zur Rechenschaft
gezogen werden könnte.
So wie die meisten ChemikerInnen und BiologInnen kein Interesse am Bau
chemischer oder biologischer Waffen haben, so haben auch wir ForscherInnen auf
den Feldern der KI und der Robotik kein Interesse daran, High-Tech-Waffen zu
entwickeln. Wir wollen nicht, dass unser Fachgebiet dadurch in Verruf gerät.
Das könnte nicht zuletzt zu gesellschaftlicher Ablehnung unserer Forschung
führen und so den Nutzen von KI und Robotik insgesamt schmälern. ChemikerInnen
und BiologInnen haben sich für internationale Abkommen eingesetzt, mit denen
chemische und biologische Waffen erfolgreich verboten wurden. Nun ist es an der
Zeit, dass die neue Bundesregierung unsere Bedenken zum Anlass nimmt, um
Autonomie in Waffensystemen einzuhegen. Ist diese Büchse der Pandora erst einmal
geöffnet, wird es sehr schwer sein, sie wieder zu schließen.
Bereits in den letzten beiden Koalitionsverträgen kam klar zum Ausdruck, dass
deutsche Bundesregierungen Waffensysteme ächten, die der menschlichen
Entscheidungs- und Verfügungsgewalt entzogen sind. Für den neuen
Koalitionsvertrag fordern wir daher die Formulierung eines konkreteren Ziels:
Deutschland muss eine führende Rolle bei der Entwicklung eines neuen,
völkerrechtlich verbindlichen Vertrages zur Regulierung von Waffensystemen
übernehmen, die in ihren kritischen Funktionen autonom sind, also Ziele ohne
menschliches Zutun auswählen und bekämpfen. Der Vertrag sollte die Beibehaltung
echter menschlicher Kontrolle beim Einsatz dieser Waffensysteme vorschreiben
und solche autonomen Waffensysteme gänzlich verbieten, die sich gezielt gegen
Menschen richten oder die aufgrund ihres Designs und während ihrer Nutzung
nicht sicherstellen können, dass echte menschliche Kontrolle gewahrt bleibt.
Unterzeichnende:
Prof. Dr. Hannes
Federrath, Präsident der Gesellschaft für Informatik
(GI) / Universität Hamburg
Priv.-Doz. Dr. Matthias Klusch,
Sprecher Fachbereich Künstliche Intelligenz der GI / DFKI / Universität des
Saarlandes
Prof. Dr.-Ing.
Ingo J. Timm, Sprecher Fachbereich Künstliche Intelligenz der GI / DFKI /
Universität Trier
Prof. Dr.-Ing. habil. Christoph Benzmüller,
Confederation of Laboratories for Artificial Intelligence Research in Europe
(CLAIRE) / Freie Universität Berlin
Prof. Dr. Holger
Hoos, CLAIRE / Universität Leiden
Prof. Dr.
Philipp Slusallek, Direktor am Deutschen
Forschungszentrum für Künstliche Intelligenz (DFKI) / CLAIRE / Universität des
Saarlandes
Prof. Dr.
Klaus-Dieter Althoff, Universität Hildesheim
Dr. Julian
Anslinger, IFZ - Interdisziplinäres Forschungszentrum für Technik, Arbeit und
Kultur
Prof. Dr. Franz
Baader, TU Dresden
Prof. Kerstin
Bach, NTNU
Dipl. Inf. René
Balzer, TU Dresden
Dr. Joachim
Baumeister, Universität Würzburg
Prof. Dr.
Christoph Beierle, FernUniversität in Hagen
Prof. Dr. Hans-Peter
Beise, Hochschule Trier
M.Sc. M.A. Nicolas
Berberich, Technische Universität München
Prof. Dr. Ralph
Bergmann, Universität Trier / DFKI
Prof. Dr. Harald
Binder, Albert-Ludwigs-Universität Freiburg
Prof. Dr.
Carsten Binnig, TU Darmstadt
Prof. Dr. Karl
Hans Bläsius, Hochschule Trier
Dr. Aljoscha
Burchardt, Stellvertretender Standortsprecher am DFKI Berlin
M.Sc. Kevin Daun, TU Darmstadt
Prof. Dr. Prof.
h.c. Andreas Dengel, Direktor am DFKI / TU Kaiserslautern
Fabio Ferreira,
Doktorand, Universität Freiburg
Prof. Dr. Peter Fettke, Universität des Saarlandes / DFKI
Prof. Dr. Ulrich
Furbach, Universität Koblenz-Landau
Prof. Dr. Malte
Göttsche, RWTH Aachen University
Prof. Dr. Josif Grabocka, Universität Freiburg
Prof. Dr. Iryna Gurevych, Technische Universität Darmstadt
Prof. Dr. Verena
Hafner, Humboldt-Universität Berlin
Prof. Dr. Michael
Hanus, Christian-Albrechts-Universität Kiel
Prof. Dr. Martin
Hennecke, Universität Würzburg
Prof. Dr. Joachim
Hertzberg, Universität Osnabrück / DFKI
Prof. Dr. Prof.
h.c. Otthein Herzog, Universität Bremen
Prof. Dr. Jörg
Hoffmann, Universität des Saarlandes
Dipl. Bioinf. Ericson Hölzchen, Universität Trier
Prof. Dr.
Andreas Hotho, Universität Würzburg
Prof. Dr. Ludger
Humbert, Bergische Universität Wuppertal
Prof. Dr. Frank
Hutter, Albert-Ludwigs-Universität Freiburg
Lecturer Ermelinda Kanushi, University
College Freiburg
M.A. Reinhard
Karger, DFKI
David Kaub, M.Sc., Universität Trier
Prof. Dr. Kristian
Kersting, TU Darmstadt
Dr. Roman
Klinger, Universität Stuttgart
Prof. Dr. Dorothea
Kolossa, Ruhr-Universität Bochum
Prof. Dr.
Antonio Krüger, Direktor und CEO des DFKI / Universität des Saarlandes
Prof. Dr.
Gerhard Lakemeyer, RWTH Aachen University
Prof. Dr. Marc
Erich Latoschik, Universität Würzburg
Prof. Dr. Marius
Lindauer, Leibniz Universität Hannover
Prof. Dr. Jörg Lohscheller, Hochschule Trier
Prof. Dr.
Carsten Lutz, Universität Bremen
Lukas Malburg, M.Sc., Universität Trier
Prof. Dr. Mira Mezini, TU Darmstadt
Prof. Dr. Mirjam
Minor, Goethe-Universität Frankfurt
Prof. Dr.
Katharina Morik, TU Dortmund
Prof. Dr. Hans
Jürgen Ohlbach, LMU München
Sebastian Pineda
Arango, M.Sc., Albert-Ludwigs-Universität Freiburg
Dipl.-Inf. Rainer
Rehak, Technische Universität Berlin
Dipl. Inf. Eric Rietzke, Universität Trier
Prof. Dr. Georg
Rock, Hochschule Trier
Prof. Dr. Raul
Rojas, Freie Universität Berlin
Prof. Dr. Claus
Rollinger, Universität Osnabrück
Prof. Dr. Stefan
Roth, TU Darmstadt
Prof. Dr.
Constantin Rothkopf, TU Darmstadt
Prof. Dr. Ute
Schmid, Universität Bamberg
Prof. Dr.
Christoph Schmitz, Hochschule Trier
Prof. Dr. Jörn
Schneider, Hochschule Trier
Prof. Dr.
Bernhard Schölkopf, Max-Planck-Institut für
Intelligente Systeme
Dr. Claudia
Schon, Universität Koblenz-Landau
Jakob Michael
Schönborn, M.Sc., Universität Hildesheim
Prof. Dr.
Wolfgang M. Schröder, Julius-Maximilians-Universität Würzburg
Kaltrina Shala, Doktorandin,
Unversität Mannheim
Prof. Dr. Jörg
Siekmann, Universität des Saarlandes / ehemalig Direktor am DFKI
Prof. Dr. H.
Siegfried Stiehl, Universität Hamburg
Danny Stoll,
Doktorand, Albert-Ludwigs-Universität Freiburg
Prof. Dr. Peter Struss, Technische Universität München
Dr. Daniel Tanneberg, Honda Research Institute, KI & Robotik
Prof. Dr. Radu
Timofte, Julius-Maximilians-Universität Würzburg
Prof. Dr. Abhinav Valada, Universität
Freiburg
Prof. Dr. Will
van der Aalst, RWTH Aachen University
Prof. Dr.
Sebastian von Mammen, Julius-Maximilians-Universität
Würzburg
Dr. Steffen
Zeiler, Ruhr-Universität Bochum
Arber Zela, Albert-Ludwigs-Universität Freiburg
Prof. Dr. Oliver
Zielinski, Universität Oldenburg / DFKI
Dr. Theresa Zueger, Alexander von Humboldt Institute for Internet and Society