[Musik]
[Applaus]
hallo und herzlich willkommen zum
podcast sieben gute gründe dem podcast
von und für rotkreuzler rinnen und
rotkreuzler und für alle die mehr über
diese spannende organisation erfahren
wollen am mikrofon begrüßt euch martin
krems dorf das bin ich und dieses mal
spreche ich mit anja diamond anja
dallmann des politikwissenschaftlerin
und arbeitet für das berliner büro des
instituts für friedensforschung und
sicherheitspolitik
kurz fsh
ehrenamtlich war sie lange im
jugendrotkreuz aktiv heute engagiert sie
sich im roten kreuz im kreisverband
berlin zentrum als sanitäterin
un-konvention beauftragte in dieser
folge sprechen wir über autonome
waffensysteme vereinfacht gesagt
erfassen und bekämpfen autonome
waffensysteme ziele ohne menschliches
eingreifen und anja beschäftigt sich mit
diesem thema beruflich denn sie verfolgt
und begleitet den internationalen
gesprächsprozess zu autonomen
waffensystemen im rahmen der waffen
konvention der vereinten nationen auf
der anderen seite ist das ein thema das
dann im bereich des humanitären
völkerrechts fällt also die bestimmungen
die im fall von krieg menschen gebäude
und die umwelt vor kampfhandlungen
schützen sollen wie ihr wisst oder in
der folge humanitäres völkerrecht nach
hören könnt ist das humanitäre
völkerrecht eng mit der geschichte der
internationalen rotkreuz und rothalbmond
bewegung verknüpft das internationale
komitee vom roten kreuz brk ist teil
dieser bewegung das ikk hat unter
anderem die aufgabe die einhaltung des
humanitären völkerrechts zu überwachen
das ikk hat aber auch die aufgabe das
humanitäre völkerrecht
weiterzuentwickeln
im mai 20 21 hat das ikk ein
positionspapier zur autonomen
waffensystemen veröffentlicht in dem es
die regelungen solcher systeme anmahnt
und überall das sprechen wir in dieser
folge
doch davor komme ich noch zu einigen
haus mitteilungen
der podcast sieben gute gründe hat beim
förderpreis helfende hand des
bundesinnenministeriums in der kategorie
unterstützung des ehrenamts den dritten
platz gewonnen darüber
mich sehr gefreut auch wenn die
preisverleihung pandemie bedingt leider
nicht in berlin sondern nur per video
konferenz stattgefunden hat details
findet ihr den shorts und auf sieben
gute gründe punkt de an dieser stelle
geht noch ein herzliches dankeschön an
gabriel bücher heraus aber natürlich
auch an alle gesten und euch liebe
hörerinnen ohne euch alle wäre der
podcast nicht das was er ist und nun zur
zweiten haus mitteilung zur erinnerung
der podcast bak iv war er jetzt einige
folgen langen teil von sieben gute
gründe das ändert sich aber ab diesem
jahr ab diesem jahr sind es zwei
getrennte podcast das heißt die folgen
von der kev in denen es um die
landesversammlung des bayerischen roten
kreuzes gehen findet ihr fortan nur noch
in einem extra feed ihr könnt den
podcast abonnieren unter brk lv punkt
ins ohr punkt de oder in der podcast app
eurer wahl außerdem möchte ich noch mal
daran erinnern dass ihr mir gerne
jederzeit themen oder auch dessen
vorschlagen könnte schreibt einfach eine
mail an sieben gute gründe events.de
natürlich nehme ich auch fragen und
kritik entgegen und nun zum rotkreuz
ereignis des monats am 12 januar 2010
ereignete sich ein erdbeben in haiti
316.000 menschen starben 310 wurden
verletzt und 1,85 millionen wurden
obdachlos das deutsche rote kreuz
entsandte unter anderem eine emergency
response unit kurz
nach haiti um vor ort ein mobiles
krankenhaus aufzubauen und zu betreiben
am 15 januar 2010 wurde es in berlin
verladen und am folgetag also nur vier
tage nach dem unglück morgens das
charterflugzeug nach haiti ab und bevor
es jetzt wirklich mit der folge losgeht
noch einen kurzen dank an franz bachmann
und dabei bücher die diesmal fragen zu
dieser folge beigesteuert haben viel
spaß
übers internet zugeschaltet ist mir anja
deilmann hallo anja hallo wer bist du
und was machst du im roten kreuz
ich bin ein mann ich bin
politikwissenschaftlerin und im roten
kreuz vor allem als sanitäterin aktiv im
kreisverband spenden zentrum aber auch
kreiskommission beauftragte dort was ist
jetzt
2013 ungefähr ok also du bist auch seit
2013 quasi mitglied im roten kreuz genau
ich war früher schon mal im
jugendrotkreuz dann war lange nichts und
als ich nach berlin zog dachte ich ich
frage mal wieder an dass wir 2013 genau
dann kurze zeit später auch als kombi
zooom ist beauftragte unterwegs nun dass
das jugendrotkreuz schon erwähnt das
heißt du bist wahrscheinlich irgendwie
zur schulzeit aufs rote kreuz aufmerksam
geworden
genau das ist tatsächlich schon so lange
her dass ich mich nicht tschuldigung
mich nicht mehr genau daran erinnern
kann aber ja wir haben eine lange
geschichte das rote kreuz und ich genau
sehr schön und jetzt wollen wir heute
über das thema autonome waffensysteme
sprechen im podcast passt es so insofern
rein als ich ja immer wieder themen
quasi aus ich sag mal mit dem überhit
begriff humanitäres völkerrecht
aufgreife du bist mitglied im roten
kreuz das rote kreuz hat was mit
humanitärem völkerrecht zu tun aber
jetzt geht es ja eigentlich darum du
beschäftigst dich ja beruflich mit dem
thema wie kam es denn dazu und wo bist
du denn da unterwegs
ich hatte gesagt ich bin ein
politikwissenschaftlerin und als nicht
nach dem studium einen job suchte bot
sich das an eine konferenz mit zu
organisieren
für ein paar monate und da dreht es sich
um drohnen und autonome waffensysteme
und so bin ich da sozusagen reingeraten
in das thema und seitdem dass es mich
nicht mehr los das heißt ich beschäftige
mich mit rüstungskontrolle und neuen
technologien und besonders eben mit
diesen autonom waffensystemen und ich
tue das im rahmen eines sogenannten
think tanks seien
forschungseinrichtungen
das war bis vor einiger zeit die
stiftung wissenschaft und politik und
ist jetzt seit einigen monaten das
institut für friedensforschung und
sicherheitspolitik an der universität
hamburg das ist auch ein
forschungsinstitut wir machen da
politikberatung und ich leite das
berliner büro dieses instituts und was
gehört dazu den aufgaben als
büroleitung mache ich ganz verschiedene
dinge aber vor allem in den
wissenschaftlichen bereich und sagen ja
beschäftige ich mich mit neuen
entwicklungen im bereich autonom
waffensysteme verfolger also zum
beispiel die verhandlungen die dazu im
moment in genf laufen ich schreibe auch
meine doktorarbeit dazu wo ich mir das
abstrakte den bildungsprozess darum
anschauen und dann geht es auch darum
diese forschungsergebnisse so runter zu
brechen und das ist auch so zu sagen die
politiker verstehen können sag ich mal
respektiere ich das heißt das ganze auch
praktisch verwertbare runter zu brechen
und dann auch handlungsempfehlungen
daraus abzuleiten das heißt das war
insgesamt das klang so ein bisschen
anders war auch ein bisschen zufall dass
zu diesen themenbereich gekommen ist
genau ich habe mich immer schon für
völkerrecht interessiert auch im studium
schon und für internationale politik
aber genau zu diesem thema war es wie so
oft im leben geht zu fall
wer spielt natürlich immer mit und was
sind denn autonome waffensysteme
autonomen systeme sind ganz grob gesagt
waffen die selbstständig über die
zielauswahl und bekämpfung entscheiden
können das heißt man schaltet die einmal
an und dann legen sie los und ja können
diese ziele eben selbst erkennen und
dann auch bekämpfen das heißt im
zweifelsfalle auch menschen auswählen
und töten diese art von waffensysteme
gibt es grob schon seit vielen jahren im
sinne von verteidigungssystemen also
ganz simpel gestrickt zu sagen eine
fliegende munition die dann abgeschossen
wird aber was wir im moment sehen ist
eine technische entwicklung dahin dass
sie sonst ihm viel komplexer lernen und
dann in viel dynamischere situationen
handeln können also zum beispiel drohnen
können dass sein die kennt man ja schon
ferngesteuert das können aber auch
gebote seien schiffe autos eigentlich
alles was man so auf dem schlachtfeld
bewaffnen kann kann auch autonom sein am
ende des tages und was heißt der
teilautonome in dem fall
autonomen ist ja letztlich eine
philosophisch aufgeladener begriff hier
meint es aber im vor allem dass das
waffensystem ohne den menschen agieren
kann und das wird ermöglicht durch
verschiedene technologien also
fortschritte im bereich der robotik der
sensorik aber insbesondere im bereich
der software und vor allem der
künstlichen intelligenz also kann ist
hier das große schlagwort dass diese
neuen funktionen ermöglicht kann zu
kalli ein bisschen erklären was da
dahinter steckt das ist ja auch ein
begriff mit dem wahrscheinlich also denn
nicht ganz so klar abgegrenzt sondern
genau also es gibt eine große debatte
darum wie man ki eigentlich definiert
und am ende ändert sich auch immer der
eindruck was die eigentlich ist im laufe
der zeit also als das zum ersten mal
aufkam war etwas das wir heute als ganz
normale algorithmen betrachten so zu
sein und letztlich ist es auch nichts
anderes sind algorithmen es sind
optimierungsverfahren was sind
mathematische verfahren ja oft zur
auswertung großer datenmengen zum
beispiel die daneben bestimmte
entscheidungen ermöglichen klagt die
politikwissenschaftlerin und
was haben die rdx mit humanitärem
völkerrecht zu tun also klar
waffensysteme klingt erstmal nach krieg
und bewaffneter konflikt und da sind wir
ja dann schon in dem bereich oder
themenkomplex humanitäres völkerrecht
aber es sind die ihr dann quasi heute
noch nicht ausreichend wir haben mit
regeln versehen die autonom
waffensysteme das ist tatsächlich eine
frage an der sich auch die staaten
sagen unterscheiden ob es ausreichend
regeln gibt dafür oder nicht
grundsätzlich geht natürlich immer das
humanitäre völkerrecht das heißt alle
methoden und mittel der kriegsführung
feierte die regeln des humanitären
völkerrechts also diese grundprinzipien
wie das unterscheidung zwischen
zivilisten und kombattanten die frage
nach der verhältnismäßigkeit der
militärischen notwendigkeit all diese
diese fragen kommen da auf und das gilt
auch für auch schon waffensysteme
natürlich die frage ist aber wie wendet
man das jetzt ganz konkret an denn das
neue bei diesem waffensystem ist klar
und wie die technologie aber vor allem
die rolle des menschen die sich
verändert dadurch also theoretisch haben
dieses waffensystemen sagen wir eine
drohne anschalten und dann fliegt die
nächsten drei wochen über ein bestimmtes
gebiet und sagen wertet daten aus diese
dort sammelt und agiert dann
entsprechend und greift dann eventuell
im menschen an und tötet diese und dass
es so weit entfernt von der letzten
entscheidung eines menschen und der
menschheit rausgenommen aus diesem
entscheidungsprozess dass das
grundlegende fragen aufwirft also wird
hier noch eine relevante rechtliche
unterscheidung getroffen oder
verhältnismäßigkeit abwägung und ist das
überhaupt ethisch vertretbar all solche
fragen kommen da auf und das ist genau
das was man jetzt eben versucht
herauszufinden und wo sich auch
versuchen die staaten darauf zu einigen
wie man das vielleicht noch besser
regulieren kann als mit diesem breiten
diesen beiden pinselstrich des
humanitären völkerrechts
es ist letztendlich viel dreht sich auch
quasi um die frage welche rolle spielt
der mensch noch wenn quasi nur noch
autonome waffensysteme unterwegs werden
oder die rolle des menschen das ganze
zentral und die frei nach der
sogenannten menschlichen kontrolle
wahrscheinlich wird es auf absehbare
zeit jedenfalls nicht so sein dass
ausschließlich autonome waffensystemen
auf dem schlachtfeld unterwegs sein
werden aber es wird auf jeden fall ein
verstärktes mensch-maschine team
hingeben es wird zum beispiel schwärme
von drohnen geben da ist viel forschung
gerade dazu
ja und also wenn dieses zusammenspiel
von verschiedenen technologien auf dem
schlachtfeld und nach und nach wird der
mensch dann vielleicht eher an eine
rolle wo er möglicherweise am rande
steht und ganz viele entscheidungen an
maschinen auslagert und bei manchen kann
das sinnvoll sein wir sind jetzt ja auch
beim auto da sind ja bremsassistenten
auch eine total gute idee aber
manche entscheiden muss der mensch eben
weiter selber treffen hast du ein
beispiel dafür wo letztendlich ein
mensch tätig werden muss ja das kann man
grob so sagen dass es wahrscheinlich
nicht ausreicht wenn der mensch nur so
eine kategorie von
von zielen an gibt also alles was ich
irgendwie bewegt über und über 180 groß
ist oder so sondern der mensch muss
immer in der ganz konkreten situation
vor ort
entscheiden ist der angriff ihr
verhältnismäßig ist die wahl der mittel
verhältnismäßig sind hier zivilisten die
eventuell geschützt werden müssen und
das ist natürlich immer die tierischen
entscheidungsprozess passiert das ganz
verteilt da sind ganz viele menschen
daran beteiligt das läuft oft auch über
einen längeren zeitraum ab aber die
frage ist tatsächlich wie weit kann man
das kann man das trendy wie lang kann
dieser zeitraum sein das zum letzten mal
ein mensch eine entscheidung trifft ganz
konkret wenn man jetzt szenario
aufmachen
wollte
wäre es zum beispiel die drohne die über
ein urbanes gebiet fliegt also über eine
stadt und
da möglicherweise
anhand von bestimmten bewegungsmustern
menschen erkennt dass wir sehen das
jetzt schon die usa haben so ein
programm da haben sie anhand von handy
signaturen bewegungsmuster erstellt im
pakistanischen grenzgebiet und dessen
zivilisten erstellt also menschen die
ein bestimmtes bewegungsmuster haben
sind nach deren definition mutmaßlich
terroristen die landen dann auf stunden
ziel listen da guckt dann zwar noch mal
ein mensch darüber aber das kann man
natürlich langfristig sicherlich auch
eingliedern und dann man halt diese
automatisierte erstellung der zivilisten
und im nächsten schritt macht die
plattform aber also die drohnen in dem
fall auch gleich noch die zielauswahl
und bekämpfung mit so dass gar kein
mensch mehr involviert wäre
jetzt haben wir im podcast schon öfter
auch über themen aus dem komplex
humanitäres völkerrecht gesprochen aber
vielleicht noch mal ganz kurz zur
wiederholung was sind denn grundsätzlich
legitime ziele in einem bewaffneten
konflikt und weil du hast vorhin auch
gesagt hast oder dem begriff verwendet
als kombattanten was sind den
kombattanten
kommandanten sind letztlich angehörige
der streitkräfte oder letztlich menschen
die an kampfhandlungen teilnehmen und
die sind militärische lied oder
militärisch legitime ziele militärisch
legitime ziele sind auch militärische
objekte also
alles formen panzer bis zum
munitionslager im prinzip
und eben nicht legitime ziele sind
zivilisten also menschen die ihm nicht
daran teilnehmen an diesen
kampfhandlungen und zivile infrastruktur
und letztlich auch nicht wobei es also
die dürfen dann kein ziel des angriffs
seien es ist aber durchaus möglich dass
wenn sich im zivilisten im umfeld von
soldaten befinden und man die soldaten
angreifen will dass die zivilisten
natürlich mit betroffen sind und an der
stelle trifft dann zum beispiel die
verhältnismäßigkeit auf bewegung ein wo
man sich fragen muss ist es jetzt
legitim dass möglicherweise hier auch
drei zivilisten
mit getötet werden eventuell wenn
dadurch aber das militärische ziel
erreicht wird
wird es vorhin schon von listen
gesprochen die eine hand von
bewegungsdaten
generiert werden eine andere denkbare
variante wäre ja zu sagen was ja heute
auch schon weit verbreitet ist im
gesichtserkennung dass man eben fotos zb
von zielpersonen
einmal ein speichert und dann so ein
system automatisch losfliegt losfährt
und diese menschen tötet ist
also da würde mich interessieren
das wäre ja letztendlich die
entscheidung dazu hätte ja ein mensch
dann wahrscheinlich getroffen und quasi
so eine person auf das auf so eine liste
gesetzt wäre es dann trotzdem ein
problem im kontext der der aktuellen
geltenden rechtslage aber
zunächst mal wenn es ein problem weil es
sich dann eventuell eher um gezielte
tötungen handelt also möglicherweise
ihre polizeieinsätze als um alles andere
und also dieser debatte um gezielte
tötungen ist ja noch mal eine ganz
eigene und
deutschland hat sich ja da auch so zu
verhalten dass es ihm gesagt das halten
wir für völkerrechtswidrig das ist nicht
okay also dass man schon mal so sagen
darf ich mal die erste punkt wo man
aussteigt aber nehmen wir mal an das
wäre dann in irgendeiner form zulässig
dann stellt sich zunächst die frage
funktioniert die technik eigentlich so
wie sie soll denn tatsächlich ist
gesichtserkennung und diese ganzen dinge
die dahinter stecken nicht so
zuverlässig wie man oft denkt und dass
wir ja schon also die entscheidung über
das töten eines menschen zu der schon
etwas wo man etwas sehr zuverlässiges
haben möchte
und gerade bei einer drohne ist es zum
beispiel schwierig die würde er zum
beispiel nur darüber fliegen und die
leute nur von oben sehen da ist es mit
der gesichtserkennung schon mal auch
schwieriger
also man muss wahrscheinlich dann noch
mit anderen systemen bodengestützten
system ergänzen dass er sich technische
frage und dann auch trotzdem immer noch
die frage angenommen dieser sagen wir
mal terrorist findet sich eben in diesem
haus oder läuft über die straße und das
auto ein waffensystem erkennt den jetzt
anhand dieser bilddatenbank kann es
trotzdem prüfen ob da gerade zufällig
noch ein bus mit kindergartenkindern
vorbeifährt die betroffen werden von
diesem angriff kann es wahrscheinlich
nicht und selbst wenn ist immer noch die
frage ob hier also wer hier die
verhältnismäßigkeit abwägung trifft wenn
das auch die maschine macht dann
spätestens dann ist es auch hier
rechtswidrig jetzt hast du schon gemeint
dass es eben auch technische probleme
geben kann oder technische
herausforderungen und das gilt ja ganz
allgemein für diesen ganzen
themenkomplex
künstliche oder tee fischl intelligenz
und maschinelles lernen was muss da an
geht aber eben auch was man ja immer
wieder liest eben dass die eben
trainingsdaten auch schon ein neues
sogenannten bayers enthalten können und
auch dadurch sicher fehler vielleicht
einschleichen in der bewertung von
situationen also ich habe jetzt als
beispiele aufgeschrieben also es gab zum
beispiel mal so einen versuch ich glaube
es war von microsoft mit so einem
jackpot der quasi das des sprechen gilt
oder das chatten gelernt hat und sich
dann innerhalb kürzester zeit
radikalisiert hat und solche geschichten
welche rolle spielen dann solche
überlegungen also ganz also die quasi
vor allem in der technik begründet sind
bei jetzt auch der bewertung von von
autonomen waffensystem
das spiel tatsächlich auch nur große
rolle also ich hatte zwar gesagt am ende
geht es immer um die rolle des menschen
aber natürlich muss man auch die
technologie anschauen und gucken was
kann da eigentlich was kann die
technologie und was kann sie ihm nicht
und gerade diese daten auswahl ist ein
großes problem zum einen weil man
natürlich annehmen kann dass bei den
meisten streitkräften gar nicht so
wahnsinnig viele daten davor liegen
trainingsdaten was so auf dem
schlachtfeld sozusagen gesammelt wird
das ist beispielsweise anders als beim
autonom fahren ja also daten wie straßen
beschaffen sind und aus irgendwelchen
überwachungskameras und was weiß ich
nicht alles liegen zuhauf vor aber eben
aus kampfsituationen ist es ein bisschen
anders
dann die frage welche art von daten
speist man da ein und wenn zum beispiel
das system dann immer nur trainiert wird
mit bildern von 180 großen weißen
männern dann wird es wahrscheinlich
schwierigkeiten haben schwarze frauen zu
erkennen
das sind dieser bei es gehe nur
angesprochen hatte das heißt auch da
kann es einfach technische
schwierigkeiten beim training geben und
darum wird auch diskutiert sagen wie
vorhersehbar dann auch die handlungen
eines solchen systems während
beispielsweise die krk sagt dann ja
waffensysteme geben so unvorhersagbar
haben die gehören ohnehin komplett
verboten
also was ja eigentlich quasi
ein grundprinzip von maschinen
maschinellen lernen und und künstlicher
intelligenz ist weil ja eben dieser
nicht determinismus also dass man nicht
weiß was als nächster schritt passiert
ja genau eine der auch
gewünschten eigentlich elemente er ist
genau denn man hat ja eigentlich
letztlich optimierungs problem für die
man immer noch keine lösung hat und das
kann ja auch in gewisser weise
militärischer vorteil sein wenn man wenn
auch der gegner nicht weiß wie das
system agiert aber natürlich will ich
als militärischer entscheider schon
wissen was der effekt sein wird was
dabei rauskommt und idealerweise auch um
nicht nur den effekt sondern auch wieder
system zu dieser entscheidung gelangt
ist denn dass es noch ein problem bei
künstlicher intelligenz dass das am ende
so eine blackbox ist ja wir können da
der beginn der datenreihen von dem wir
vielleicht schon nicht genau wissen wie
die strukturiert sind je nachdem
und dann macht dieses ist dieser diese
algorithmen machen etwas und dann
spucken ergebnis aus und oft auf sehr
überraschende weise also es gibt ja
jetzt ganz plakativ das beispiel von zum
beispiel der auswertung und der
bilderkennung von hunden also dass
waffen der algorithmus soll kunde von
wölfen unterscheiden und das tut es auch
nicht zuverlässig wie sich aber aus
stellt tut es das nicht weil das
grundwasser erkennt sondern weil wölfe
in der regel vor schnee fotografiert
wurden das heißt bilder mit hellem
hintergrund wurden als wolf schließlich
gezielt und solche sachen und da muss
man erstmal drauf kommen
und das ist natürlich etwas was man bei
schwerwiegenden entscheidungen die das
töten von menschen noch mal mehr
verstehen will und muss wie diese
entscheidung zustande kommt
gibt es denn auch irgendwie eine
diskussion darum ab welchem
grad zeigt ich mal ein system sicher
genug entscheidet also dass man da so
schwellwerte festlegt diese diskussion
kommt immer mal auf und dann auch so
dieses argument ja wie der mensch macht
ja auch fehler ja tut er
es ist man so ein bisschen die frage was
macht man mit mit dieser information und
natürlich kann es sinnvoll sein
assistenzsysteme zu haben aber wie
gesagt bestimmte rechtlich belastbare
entscheidungen muss halt der mensch
treffen und auch ethisch belastbare
entscheidungen am ende muss jemand da
sein der sein gewissen mit dieser
entscheidung belastet und ja auch
rechtlich dafür verantwortlich gemacht
werden kann man das alles komplett
ausgelagert
dann hat man eventuell eine
verantwortungslose und dafür sozusagen
der eigentliche knackpunkt also gar
nicht so sehr was kann also kann die
technologie das theoretisch in die
besser zumal man viele dinge in den
tests nicht so gut abschätzen kann im
vergleich zur realität also wenn man
dann diese drohne oder diesen autonom
panzer tatsächlich unter
geschäftsbedingungen einsetzt wird
wahrscheinlich trotzdem noch viel schief
gelaufen was man so nicht vorhersehen
konnte dass
das heißt also man könnte ja zum
beispiel auch von vorteil sehen oder als
vorteil an sehen dass soldaten künftig
nicht mehr töten müssten wenn die
algorithmen und die autonom 8 systemen
quasi sicher genug gewähren um das
automatisch zu machen aber du sagst
quasi eigentlich ist quasi der stand der
diskussion dass das es eigentlich genau
darum geht das eben der mensch
letztendlich am schluss verantwortlich
nur handeln kann und das nicht auf eine
maschine übertragen kann
ok wie schaut es aus wir haben ja im
weltweit auch immer wieder berichte von
nichtstaatlichen akteuren die in
bewaffneten konflikten
teilnehmen und es bestimmt auch das ein
oder andere mal nicht so genau mit dem
humanitären völkerrecht nehmen sind
wären jetzt so autonome waffensysteme in
händen von nichtstaatlichen akteuren
mich auch eine art game changer
also diese frage der proliferation also
genau dass die hände geraten von
nichtstaatlichen akteuren ist auf jeden
fall ein problem und das könnte also es
ist gar nicht so unrealistisch denn was
wir jetzt schon sehen ist was nicht
staatliche akteure mindestens schon bei
kleinen besteuerte kleine drohen zum
beispiel verwenden oder auch größere
drohen mittlerweile nutzen können also
dass profiliert sozusagen schon in
diesem bereich auch weil ganz viel der
technologie so genannte dual use
technologie ist das heißt sie wird
sowohl zivil als auch militärisch
genutzt also einen kleinen quadrokopter
also eine drohne zu vier kleinen motoren
dran die kann ich auch im spielzeugladen
kaufen und sie dann bewaffnen mehr oder
weniger
und das macht es natürlich einfach für
nicht staatliche akteure an diese
technologie zu gelangen und das wird
früher oder später auch mit autonomen
funktionen passieren dann kann man das
ganze wahrscheinlich ganz wunderbar über
sein smartphone nutzen und steuern
genau das wird auch diskutiert und
tatsächlich kann man auch da sagen es
gibt keine ideale lösung dafür aber ein
ansatzpunkt wäre natürlich schon mal das
starten diese waffensysteme schon mal
nicht bauen und diese technologie und
nicht so leicht verfügbar ist und damit
auch schwerer für nicht staatliche
akteure daran zu kommen
es klang vorhin schon immer ein bisschen
an aber jetzt mal konkret gefragt hast
du beispiele dafür für die rechtliche
ethische und die auch die sicherheits
dimensionen nochmal runtergebrochen auf
die drei bereiche die autonome
waffensysteme mit sich bringe
also rechtlich in diese frage kann dass
man tiere völkerrecht eingehalten werden
und muss der mensch am ende die
entscheidung treffen ethisch stellt sich
vor allem die frage nach dem menschen
würde da es diese große problematik dass
wenn ich diesen ganzen ziel
auswahlprozess komplett automatisiert
habe dann sind diese ziel am ende nur
noch datenpunkte und dem algorithmus
algorithmus ist es völlig egal ob das
ein auto ist oder ein mensch der erkennt
diesen unterschied nicht und es macht
qualitativ eben einen großen unterschied
ob ich auf ein auto oder beim menschen
ziele und auf ein leeres gebäude was
auch immer
und diesen qualitativen unterschied das
war ein mensch ist das eher ein
menschenleben genommen wird das muss
eben ein mensch ein anderer mensch
erkennen und seinen umsätzen in eine
entscheidung und wenn das nicht passiert
wenn der mensch als ziele noch so ein
objekt ist dann ist dieser menschen
seiner würde verletzt das ist sagen die
große die große ethische herausforderung
und auf der sicherheits ebene kann man
nochmal unterscheiden das ist das eine
konkret im kampfgeschehen steigt einfach
das escalation suite ico enorm gerade
wenn man zb zwei gegnerische
waffensysteme auseinandersetzen zum
beispiel in einer umstrittenen
grenzregion nutzen beide länder
vielleicht irgendein
patrouillenfahrzeuge oder auch immer
autonome fahrzeuge die der lang fahren
und die treffen aufeinander und niemand
weiß genau was passiert wenn man kann
nicht genau abschätzen was die diese
algorithmen miteinander interagieren
werden wir haben das zum beispiel schon
gesehen im zivilen bereich an der börse
wo sich im hochfrequenzhandel die
automatisiert ist diese algorithmen
total hochschaukeln zum teil und dann
völlig absurden ergebnissen führen da
hat man irgendwann tatsächlich rechtlich
festgelegt dass es eine art stopp taste
geben muss wenn sie auffällige
transaktionen dann passiert also so
genannte flash crashs wie man damit
vermeiden und analog dazu kann man ihn
befürchten dass es auch zu flashmobs
kommt also dass sich diese algorithmen
von gegnerischen system so hoch
schaukeln dass wir da gar nicht mehr
eingreifen können und dass es das jetzt
sagen aufeinander losgehen und plötzlich
einen konflikt vom zaun treten die wir
nicht haben wollten
was
sagen dass konkretere auf der
sicherheits ebene und dann auf der
politischen ebene sehen wir auch einfach
zunehmend rüstungs dynamiken also dass
beispielsweise die usa auf ein system
mit autonomen funktionen entwickeln die
sind dann besonders können sich
besonders schnell agieren die können
neue militärischen möglichkeiten
eröffnen weil man damit
zb die luftverteidigung besser
durchdringen kann als mit bisherigen
system da kommt sich russland das an und
fühlt sich dadurch bedroht und baut
selber eben entsprechende systeme und
die usa gucken wieder und mehr dann geht
das so hin und her und dann kommt ja
noch dazu und andere staaten und da sind
wir mittendrin in einer rüstungs oder
auf rüstungsspirale
wo einfach immer mehr staaten sehr viel
geld darauf verwenden diese
waffensysteme besser und schneller zu
machen und damit im bmw tierische
überlegenheit zu sichern und das ist
dann der punkt wo man auch rechtlich
noch mal ein haken kann aber darüber
reden wir bestimmt gleich nochmal genau
und zwar seit mindestens 2015
beschäftigt sich das sek also das
internationale komitee vom roten kreuz
ja immer wieder auch mit dem thema
autonome waffensysteme drohnen gibt es
sind sind uns ja schon länger bekannt
auch aus den nachrichten und da würde
ich sagen korrigiere mich bitte wenn ich
da falsch liege aber da ist ja der
unterschied dass die zwar selbstständig
zum vorgegebenen ziel hin fliegen und
sich steuer lassen und auch gegen den
falls bewaffnet sind aber eben die
entscheidung über die das abwerfen von
wasser sich bomben oder das schießen
oder so eben nicht den maschinen
überlassen ist sondern eben entfernt
sitzenden soldatinnen und soldaten
genau wo genau und jetzt bei den
autonomen systemen
für die für die drohnen gibt es wer bis
heute glaube ich auch keine explizite
regelung irgendwie im humanitären
völkerrecht oder
die tatsächlich nicht
das müssen die diskussion ob man da was
braucht oder ob sie nicht noch nah genug
an sagen herkömmlichen systemen dran
sind das sagen die grundsätzlichen
regeln gelten die sache mit den bezirken
tötung hatte ich schon angesprochen die
usa halten das für legitim andere
staaten nicht da scheiden sich die
geister dann schon wieder genauen
ansonsten treffen da ihm das
rüstungsexporte und so was angehen
einfach die die normalen export regeln
auch zumeist das heißt da wird
wahrscheinlich auch eben gerade die
ethische frage ist töten aus der
entfernung nicht vielleicht auch schon
ja so
anders dass man vielleicht leichter
abdrückt als wenn man jetzt tatsächlich
irgendwie vor ort wäre
genau die diskussionen gibt es
wenn man sich das in der empirie
anschaut also in konkreten fällen dann
gibt es sowieso ein bisschen gemischte
ergebnisse also zum einen gibt es die
befürchtung dass es so eine art joystick
mentalität gibt also dass der mensch der
soldat der am abzug sitzt viele tausend
kilometer entfernt eventuell dass er so
wahrnimmt wie in einem computerspiel im
prinzip und dadurch sein sein ziel gar
nicht mehr menschen wahrnimmt das ist
eine befürchtung
andererseits spricht dagegen dass im
drohen piloten sehr sehr genau sehen was
ihre handlungen ausrichten er denn
sagen wenn man da den den abschluss
knopf gedrückt hat dann sieht man
hinterher auch trotzdem noch die
zerstörung weil die drohne in der regel
in der nähe bleibt und das noch weiter
also ermöglicht weiter zuzuschauen
dh den muss schon sehr bewusst sein was
sie da tun und tatsächlich gerade bei
amerikanischen grund blut haben wir das
gesehen steigt die anzahl der
posttraumatischen belastungsstörungen
enorm an
das heißt sieht nicht so aus als würde
sich das unbedingt materialisieren aber
es ist auf jeden fall was man im gibt
behalten muss was man mindestens durch
gutes training und kritisches nachfragen
immer wieder anmerken und diskutieren
muss was sozusagen mit dem kämpfen und
mit den kämpfern macht und dazu kommt
tatsächlich eher der und anderer effekt
nicht so sehr bei den soldaten sondern
bei den menschen vor ort die es eben
trifft und da sehen wir dass zum
beispiel die zivilbevölkerung in
gebieten wo drohnen auf sich beruhen
eingesetzt werden eigentlich konstant
sich konstant terrorisiert fühlt denn es
kann jederzeit ein rückschlag kommen der
möglicherweise auch zivilisten mit in
den tod reißt
und dieses ständige suchen von drohnen
im himmel wie dann so berichtete das
schildern
das macht tatsächlich was mit den
menschen und das ist dann finde ich
einen unterschied dazu ab da ihm vor ort
sichtbare soldaten sind oder nur dieses
die diese diffuse bedrohung aus der luft
also dass sie charakter beschäftigt sich
also jetzt schon länger auch mit dem
thema autonome waffensysteme und jetzt
im mai diesen jahres also 20 21
da haben wir ja sogar ein
positionspapier veröffentlicht zu dem
thema jetzt als erstes vielleicht du
beobachtest dass er vielleicht schon
eine zeit lang länger ist wie häufig
kommt es vor dass des ikk sich so
deutlich positioniert
dass die krk weil es gerade in der
debatte um die waffensysteme schon immer
sehr aktiv und hatte auch ganz viele
vorschläge schon ein gesteuert zum thema
menschliche kontrolle und was die
rechtlichen vorgaben sind und so weiter
diese ganz konkrete positionierung die
sagen die forderung nach einem verbot
einschließt das war dann schon noch mal
eine andere
ein anderer größerer schritt auf jeden
fall
bei anderen rüstungskontrolle
verhandlungen bin ich nicht ganz sicher
an welchem punkt dass kaka sich da
positioniert hat aber es hat auf jeden
fall zu viel aufregung und bei einigen
staaten auch zu unmut geführt dass es
diese ganz klare haltung jetzt bei
autonom waffensystem gab also man könnte
schon sagen dass das insgesamt ein
bemerkenswerter schritt quasi war jetzt
der dieses jahr passiert ist ja durchaus
und ich glaube das hat die verhandlungen
schon auch noch mal ein stück voran
gebracht weil sich die staaten eben dazu
noch mal ganz anders verhalten müssen
letztlich als wenn irgendein
nichtregierungsorganisationen
mal irgend ein arbeitspapier auf den
markt wirft er zwei mal einen blick
reinwerfen du hast dich ja bestimmt
intensiv damit beschäftigt was steht
denn da drin und worum geht's
also dieses papier unterscheidet
zwischen drei kategorien
und zwei davon sollen verboten werden
und eine soll reguliert werden das eine
ist ein verbot von waffensystemen mit
unvorhersehbaren folgen das hatte ich
schon kurz kurz angedeutet da geht es
darum dass letztlich keine menschliche
kontrolle möglich ist also rechtlich und
ethisch ausreichende kontrolle weil eben
nicht klar ist was die das waffensystem
am ende wirklich gut
und das geht um einen sachen tatsächlich
für ziemlich viele systeme die mit
künstlicher intelligenz dann zum
beispiel bestückt sind weil wir da eben
nicht genau angucken können
das zweite wäre ein verbot von
atomwaffen systemen die auf menschen
zielen also ganz konkret wirklich zu
sagen einzelne menschen die ihren touren
laufen nicht so sehr wenn die in
gebäuden sind aber als ich vorhin gesagt
hatte dieses ethische problem mit der
menschenwürde dass ich eben ergibt wenn
der menschen noch soldaten punkt ist das
soll damit aufgegriffen werden also dass
ihm dieses konkreten zielen auf menschen
verboten wäre sind also zwei kaputte und
die regulierung bezieht sich dann auf
alle anderen waffensystem mit autonomen
funktion und hier sagt dass ikk ist es
eben wichtig wenn alles andere mit
gegeben ist dass trotzdem die menschen
die kontrolle beibehalten wird zum
beispiel in mit denen der mensch die
möglichkeit hat dieses system und die
umgebung zu überwachen indem der mensch
die möglichkeit hat einzugreifen was
schief läuft und in dem es einen
einigermaßen engen zeitlichen und
räumlichen zusammenhang gibt zwischen
der letzten entscheidung eines menschen
und dem effekt des waffensystems also im
zum beispiel die entscheidung eines
soldaten
dieser mensch dort soll ihm getötet
werden und dann passiert das das klingt
ein bisschen zynisch aber dann wäre das
aus sicht des ikk jedenfalls noch rechts
rechtmäßig
das sind ja quasi jetzt so die
empfehlungen des ikk macht was sind denn
die ziele die das wkk verfolgt
das ziel ist am ende vor allem der
schutz von zivilistinnen
da steht immer ganz groß darüber
und das soll erreicht werden indem man
halt diese art von waffensystemen
möglichst engen reguliert oder halt zum
teil verbietet also es geht immer um die
einhaltung des humanitären völkerrechts
plus eben diesen ethischen gründen die
ich vorhin genannt hatte die spielt
tatsächlich hier auch nochmal noch mal
stärker als vielleicht mehr an
waffensystem
jetzt beschäftigt sich ja nicht nur des
ikk mit diesem thema sondern zum
beispiel auch jetzt das institut für das
duo tätig bist und viele andere staaten
und nicht staatliche akteure welche
rolle spielt denn dass das kleid bei
deiner antwort zu dem positionspapier
auch schon ein bisschen an aber welche
rolle spielten das positionspapier des
ikk insgesamt in dem norman
entwicklungsprozess um autonome
waffensysteme
ist eine interessante frage die ich noch
im rahmen einer doktorarbeit noch einen
hammer anschaue aber so ein bisschen ein
wissenschaftlicher würde ich schon sagen
dass noch hinfallen effekt hat weil es
so ein bisschen kristallisationspunkt
ist in diesem prozess also sich berger
hat ja auch viel gesprochen mit im
expertinnen und experten bei der
erstellung dieses dieses papier sie
haben das ja nicht nur mit mit den
relativ wenigen leuten die mit dem thema
beschäftigt sind sich ausgedacht sondern
letztlich ist dass die die essenz des
verhandlungsführer des
wissenschaftlichen diskurses den es dazu
gibt also gerade diese kriterien was was
macht eigentlich menschen kontrolle aus
als überwachungs- und
eingriffsmöglichkeiten und so weiter das
ist etwas was auch jahre vorher schon im
wissenschaftlichen bereich diskutiert
wurde und die haben es jetzt
aufgegriffen und verschriftlicht und
ganz konkret auf eine regulierung
bezogen
das hat auf jeden fall schon mal auch
wissenschaftlich eine gewisse
legitimität und
macht es aus meiner sicht staaten damit
auch leichter sich auf eine oder würde
es leichter machen sich auf eine
regulierung zu einigen weil sie ihm
sagen könnten das ist hat hier hand und
fuß das ist total fundiert darauf können
wir vielleicht aufbauen auch wenn wir
nicht 100 prozentig so übernehmen
und ich glaube für viele staaten ist das
auch so für viele war das wirklich noch
mal ein hilfreiches
hilfreiches papier und hilfreicher punkt
in dieser debatte an dem man sich
festhalten kann
andere waren ihm sehr erbost zum
beispiel weil sie keine
keine regulierung wollen und weil sie
meinen dass damit ein bisschen die
neutralität oder
neutrale haltung des ikk verletzt wurde
das teile ich nicht denn es ist ja immer
abgeleitet aus dem 110 völkerrecht und
das ist ganz klar im auftrag des ikk du
hast gerade deine doktorarbeit erwähnt
jetzt bin ich natürlich neugierig wo
zuvor studenten und gibt es da schon den
konkreten titel oder zumindest im die
themenbereiche sind die schon abgesteckt
ja also ich forsche zum norm
bildungsprozess um autonome
waffensysteme also immer genau zu meinem
arbeitszimmer und versuchen möglichst
große synergien zu schaffen da ich das
sehr lange er so nebenbei als
anstrengendes hobby gemacht habe bin ich
noch nicht besonders weit
aber ich sitze gerade an einem artikel
in dem ich mir im genau anschaue wie ist
denn der der normative status von
menschlicher kontrolle also diesem
konzept innerhalb der verhandlungen
überhaupt schon brav und systeme und
dann mache ich gerade eine schöne
inhaltsanalyse und bin ganz gespannt was
dabei rauskommt und im folgenden werde
ich mir dann noch an wahrscheinlich den
diskurs in deutschland anschauen und
dann den artikel sie noch mal gucken was
dabei rauskommt es gibt aber auch noch
ein bisschen zukunft weiß ich wie gesagt
etwas hin sind die aber ist ein guter
anknüpfungspunkt für eine weitere folge
wende wenn du damit fertig bist du bist
jetzt auch ganz nah am
verhandlungsprozess dran und jetzt
anfangen dezember war ja auch in genf
beziehungsweise dann wahrscheinlich in
der aktuellen situation
auch vor allem remote ging es da eben
weiter in den verhandlungen was ist denn
da dann deine rolle für das institut
oder als person
ich habe tatsächlich diesen prozess in
genf erfolgt seit
2015 weil ich das erste mal dabei da
waren das noch so informelle gespräche
unser 2017 ist das so eine so genannte
gruppe von regierungsexperten
also ein bisschen formeller und auch da
saß gleich in jedem treffen drin bis
letzten august dann kam mir corona
dazwischen genau und bis dahin war ich
immer als beobachten da im rahmen eines
oder vor allem im rahmen eines projektes
das auswärtige amt finanziert wurde ein
unabhängiges forschungsprojekt im rahmen
des links an dem ich gearbeitet habe
mit dem schönen titel international
panel und die regulation of photonics
map ins mikro und da haben wir
wissenschaftlerinnen wissenschaftler aus
aller welt zusammengebracht waren so
knapp 20 am anfang die aus ganz
unterschiedlichen fachgebieten kommen
also ingenieure itk
politikwissenschaftler juristen
die sich diesem thema auto im
waffensystem muss unterschieden
perspektiven angenähert haben und daraus
haben wir die looks berichte gemacht und
uns ganz konkret an die diplomaten in
genf in diesen verhandlungen gewarnt das
heißt es dann immer mit im raum in den
verhandlungen habe das beobachtet wir
haben auch einige statements im plenum
dann formuliert wir haben so kleine
veranstaltung an gemacht um auch einfach
nochmal ja faktenwissen zu schaffen für
die
diplomatischen politischen entscheider
vor ort
und das haben jetzt die letzten jahren
recht erfolgreich gemacht möchte ich
sagen dass einem der andere findet man
dann auch ein paar working paper
arbeitspapieren von den staaten wieder
genau und das ist das interessante auch
an diesen verhandlungsprozess zu ordnen
waffensystem dass da im
zivilgesellschaft und wissenschaft
wirklich ziemlich guten zugang haben
auch rederecht haben und sich dadurch an
diesem prozess aktiv beteiligen können
was wird denn aktuell vor allem
verhandelt also du sagst ja seit 2005 10
bis beschäftigst du dich schon damit und
2017 das ist formeller geworden
weil die hat sich dann im laufe der zeit
auch der prozess verändert und auch die
themen die diskutiert worden
was ganz wichtig war in diesem prozess
war eine gemeinsame problem wahrnehmung
der staaten zu schaffen am anfang war
das eher so ein diffuses irgendwie gibt
es jetzt hier autonom waffensysteme
sollen darüber reden
und aber wirklich festzustellen aber was
ist das eigentlich was steckt da
technisch dahinter
und was ist die rechtliche relevante
frage da war nämlich die nach der
menschlichen kontrolle das mussten sich
auch erst entwickeln im laufe der zeit
und das
dauert also hat auch im
wissenschaftlichen bereich ein bisschen
gedauert bis das irgendwie klar worum es
eigentlich geht und wie man das gleich
lösen kann aber es dauert auch starten
ebene auf diplomatischer ebene noch mal
viel viel länger natürlich hat das immer
noch mal ganz andere entscheidungs kreis
wolf im hintergrund in jedem einzelnen
staat plus die staaten treffen sich im
rahmen dieser einfachen konvention
behandelt wird auch immer nur ein
zweimal im jahr also am anfang war es
immer nur fünf tage im jahr später dann
mal ziehen jetzt dieses jahr waren es 15
weiß ich dass durch krone alles
verschoben hatte aber es ist natürlich
immer zusammen rechnet dann gar nicht so
viel auch wenn es schon so viele jahre
läuft der prozess
genau und mittlerweile gibt es so
genannte leitprinzipien das sind 11
leitprinzipien so was wie das humanitäre
völkerrecht gilt die verantwortlichkeit
muss immer gegeben seien solche
geschichten und eben die
mensch-maschine-interaktion müssen wir
uns weiter anschauen diese liegt
letztlich im kern
ein kern der verhandlungen oder der
gespräche und das ist diese mensch
maschine interaktion dass es so das
worauf sich die staaten jetzt zum
schluss besonders konzentriert haben und
da gibt es dann auch irgendwie nochmal
so kurze inputs von einigen staaten die
noch mal darstellen ist denn jetzt bei
waffensystemen gelöst wie funktioniert
sonst zudem die tierische
entscheidungsprozess und
welche maßstäbe leben wieder an und dann
diskutieren sie das irgendwie gemeinsam
aus dass es so der inhaltliche fokus auf
dem spiel liegt
wobei man sagen muss dass es jetzt
gerade ein bisschen fast gescheitert ist
weil es nämlich gar nicht so sehr um die
inhalte gehen sondern um die frage
wollen wir dann an da eigentlich ein
rechtlich verbindliches verbot haben
also zum beispiel ein protokoll ein
neues protokoll zur un konvention und da
haben dann einige staaten ganz klar eine
rote linie gesetzt und gesagt nein
wollen wir nicht könnt ihr gerne weiter
reden aber es wird hier keinen rechtlich
verbindliches instrument geben
und daran dass jetzt fast gescheitert
und wie ein neues mandat zu formulieren
für das nächste jahr sozusagen jetzt
gerade noch so geschafft aber es ist
relativ klar dass im rahmen dieser
verhandlungen jedenfalls kein neuer
verbots vertrag zur auto im waffensystem
herauskommen wird dazu gibt es zu großen
widerstand das heißt ich höre aber auch
raus ihr quasi von jahr zu jahr immer
wieder eine quasi einen neuen auftrag
formuliert
genauso diese gruppe von
regierungsexperten kriegt jedes jahr
oder wer hat sich jedes jahr wieder ein
neues mandat erarbeitet in dem es immer
festgelegt hat genau was besprochen
werden soll und daran hat sich dann auch
in unserem projekt natürlich ein
bisschen die arbeit ausgerichtet sein wo
man da die schwerpunkte setzt das heißt
der aktuelle status ist es ist
kompliziert und gibt es jetzt von diesem
jahr irgendwie ergebnisse
ach ja
ich muss tatsächlich traurig sind ich
habe jetzt vor allem im livestream mit
angeschaut und also die gruppe der
regierungsexperten hat tatsächlich
keinen abschlussbericht
liefern können auf konnten sich nicht
einigen grad auf also die sache dann
eben dieser frage was für ein neues
mandat wollen wir haben und soll es
wirklich ist ein konkretes
verhandlungsmandat 75 arbeitsvertrag
daran ist es gescheitert das heißt aber
auch dass mögliche inhaltliche
fortschritte nicht wirklich festgehalten
wurden
worauf man jetzt sonst eigentlich
aufbauen würde dann für den nächsten
verhandlungstag und das ist tatsächlich
ziemlich großes problem
man hat es geschafft in der
überprüfungskonferenz der ccw also ein
bisschen anderes vor um dann doch noch
sich darauf zu einigen dass es nächstes
jahr wieder eine gruppe von
regierungsexperten gibt aber ich habe
wirklich keine großen hoffnungen mehr
dass da irgendwas bei rauskommt weil
sehr klar geworden ist dass die usa kein
vertrag vor in russland
australien und indien auf israel haben
sich da ganz deutlich positioniert
und insofern ist es ein bisschen egal wo
sie starten inhaltlich besprechen am
ende kommt wahrscheinlich nicht viel
dabei herum ich habe nichts desto trotz
soll ein bisschen hoffnungsvoller zu
sein schon den eindruck dass dieser
ganze verhandlungsprozess wozu er auch
sein mag einen normativen effekt
entfaltet dann zum beispiel in
deutschland wird gerade ein waffensystem
des juso kongresses zum entwickeln in
dem es auch um den zweimal kampfflugzeug
geht das aber auch drohnen haben soll
die werden beratungsfähig sein und die
werden wahrscheinlich autonom funktionen
haben und sozusagen in folge dieses
verhandlungsprozess in genf hat dann
auch airbus und das fraunhofer-institut
ja drin hängen festgestellten vielleicht
ist das ein problem liegt sollten wir
darüber sprechen über diese autonome
funktion und eine art ethik komitee
gegründet die sich im grab mit diesen
fragen auch beschäftigen ich sitze in
diesem komitee mit drin muss dann gucken
was am ende dabei herauskommt und ob das
nicht eher so ein wie in washington aber
ich finde zeit ganz gut dass ihm dieser
wandlungsprozess oder gesprächsprozess
in genf irgendwie doch einen effekt hat
auch wenn kein vertrag dabei rauskommt
du hast mir eine frage schon ein stück
weit vorweggenommen also letztendlich es
verhandeln so höre ich das zumindest
raus wahrscheinlich alle oder fast alle
staaten irgendwie mit aber es gibt schon
welche die halt signalisiert haben dass
sie halt zumindest wenn es darum geht
bestimmte systeme zu verbieten nicht
mitspielen würden oder nicht mit
zeichnen können
genau das wurde über die jahre ist schon
immer mal deutlich aber jetzt als
wirklich ein konkreter vorschlag auf dem
tisch lag für so ein verhandlungsmandat
da müssen sich die staaten verhalten und
da haben dann viele gesagt stoff bis
hierhin und nicht weiter und man kann
wenn man sich das auch zum spektrum
aufmacht und erste group dafür ein bär
group gegen ein verbot dann wird ganz
deutlich dass für ein verbot vor allem
staaten sind die auf absehbare zeit
keine auto nimmt auf dem system haben
werden also
entwicklungsländer oder sich
entwickelnden staaten
ansagen der globale süden am ende des
tages hat da eine ganz klare front und
sagt wir sind gegen ein wir sind für ein
verbot automaten systeme
dann sortieren sich ein bisschen die
europäischen staaten in der mitte ein
die sagen ja es ist irgendwie schon
wichtig da sollte man mal was machen
nach gucken ob ein verbot wird oder
nicht
und dann ganz klar technologisch
führende staaten
beispielsweise die usa die gegen ein
verbot sind
vielleicht mit blick auf wenn man sich
anschaut im neunzehnten und zwanzigsten
jahrhundert die die genfer abkommen usw
das waren ja auch ganz viele staaten
beteiligt und es hat geklappt ein großes
regelwerk zu etablieren glaubst du dass
damals es einfacher waren konsens zu
finden als heute
das lässt sich aus der entfernung ja
immer aus der zeitlichen entfernung
schwer sagen also wahrscheinlich war es
auch damals viel arbeit mühe das
hinzukriegen aber auch jeden fall gab es
auch offenbar gab es für diese themen
eine größere bereitschaft sich darauf
einzulassen das ist auch politik
wissenschaftlich total interessant wenn
man sich da enorm entwicklungsprozess
mal anschaut und mir die punkte wusste
ich doch erst gescheitert wäre aber was
wir heute sehen ist insgesamt eine
tendenz bei staaten sich nicht mehr so
sehr auf multilaterale fuhren
einzulassen also wenn wir im rahmen
dieser einfachen konventionen aber auch
in der abrüstungskonferenz die es auch
gibt in genf geben wir seit jahren total
blockiert ist das sehen wir aber auch
wenn wir im bereich des nuklearen gucken
ja der
nichtverbreitungsvertrag kränkelt so vor
sich hin gut nochmal kurz vertrags noch
ein anderes thema aber auch in der
konventionellen rüstungskontrolle
brücke die die bereitschaft weg zum
beispiel im quadrat bei den offenen
himmel sich multilateral zu binden und
vielleicht auch seine militärischen
fähigkeiten
einzuschränken in der erwartung das
liegt
nicht der gegner aber es ist eine andere
staaten das auch tun also die
großwetterlage insgesamt ist gerade
nicht so gut für multilaterale des
rüstungskontrolle abkommen hast du eine
idee woran liegt es
ich hab da also gibt es verschiedene
gründe auch weil mehr akteure
mittlerweile auf dem plan sind also es
sind im nicht mehr nur russland und die
usa die sich gegenüberstehen sondern
china ist ein großer player geworden
aber auch in denen zum beispiel und
andere staaten so dass man viel mehr
leute an einen tisch bringen muss um
sich irgendwie auf etwas einigen zu
können dass man auch wirklich einen
effekt hat
insgesamt hat dann auch das vertrauen
offenbar nachgelassen also
vertrauensbildend ganz große ganz große
sache zur zeit des kalten krieges die
dann auch zur lösung beigetragen haben
und das scheint irgendwie weg gebrochen
zu sein haben wir beim positionspapier
jetzt die wichtigsten punkte oder gibt
es noch etwas wurde sagst darüber müssen
wir noch sprechen das von ikk
ich glaube das sind so die wichtigsten
punkte was mich noch einmal hervorheben
würde ist diese idee
ein verbot von atomwaffen systeme die
auf menschen ziehen das war tatsächlich
ein kriterium das mich ein bisschen
überrascht hat weil es eben vor allem
eine ethische anbindung hat und nicht so
sehr eine rechtliche also sonst braucht
das ikrk er vor allem auf die einhaltung
des völkerrechts und das ist aber
wirklich er eine ethische genetisches
kriterium der menschenwürde usw
das habe ich ein bisschen überrascht und
ich finde das schlecht das papier auch
ein bisschen auch wenn ich das argument
überzeugen finde gibt es in vielen
staaten die entweder dass menschenwürde
aber mit insgesamt nicht überzeugend
finden oder sagen ja die es vielleicht
verletzt aber das kann man halt abwägen
gegen andere dinge was in deutschland
schwerer möglich ist wenn man sich das
grundgesetz anguckt und ich glaube das
war vielleicht kein ganz geschickt
gestern mit reinzuschreiben
aber ja ansonsten halte ich das papier
für total wichtig und von wichtigen
meilenstein in der debatte und bin sehr
froh dass ihr krk sich da so klar
positioniert hat was haben wir noch
insgesamt zum verhandlungsprozess
vielleicht nicht besprochen
wir hatten gesprochen über die
verschiedenen staaten positionen ich
glaube das ist tatsächlich ganz
interessant im zu schauen
welche staaten sich einschränken wollen
und welche nicht
wir hatten über die inhalte gesprochen
also die menschliche rolle steht
tatsächlich im kern aber ganz
grundsätzlich ist es da auch noch mal
ganz spannend man sich anguckt wie was
gehört eigentlich in seinen
völkerrechtlichen vertrag als man kann
ja
in einer idealen welt in der das ganze
funktioniert könnte man dem völkerrecht
beim entstehen zu gucken im prinzip und
schauen genau das ist was schreiben
starten ein vertrag welche flughöhe muss
das haben ja so wie detailliert
muss man der regelungen reinschreiben
was man vielleicht dinge bewusst
unbestimmt und welche arten oder welche
rüstungskontrolle instrumente können wir
hier nutzen zum beispiel die frage nach
der verifikation sollte es jemals einen
völkerrechtlichen vertrags atomwaffen
system geben werde verifizieren mit den
eigentlich also wie stellen wir oder wir
weisen wir nach dass staaten sich daran
gehalten haben beziehungsweise sich
nicht daran gehalten haben das ist auch
bei anderen rüstungskontrolle
abrüstungsverträgen oft gar nicht so
einfach aber am ende muss man ganz oft
eben vor allem panzer zählen oder
reichweiten messen oder sowas und das
ist bei auto im waffensystem anders weil
es nicht so sehr um die technologie geht
also es ist nicht so entscheidend partie
drohne kann
sondern welche rolle hat der mensch
damit der zielauswahl gespielt und da
muss man ganz tief in militärische
prozesse reingucken und das wird
wahnsinnig schwer das zu verifizieren
also das ist noch mal wenn er es nicht
schon schwer genug wäre wäre das noch
was muss auch noch mal haken scheitern
könnte tatsächlich
ich glaube am ende
wenn man irgendwie eine art von
regulierung will dann braucht man auch
mehr als nur die verhandlungen im rahmen
der un konvention dass wir sicherlich
total hilfreich da irgendeine art von
protokoll rechtlich verbindliches
instrument zu haben aber es müsste
ohnehin angefüttert werden mit
sogenannten best practices oder
szenarien wie man diese ganzen kriterien
für menschen kontrolle ich umsetzen kann
oder probleme liegen was bräuchte
wahrscheinlich diverse rechtliche
kommentare dazu es bräuchte auch noch
mal andere element also zum beispiel
gibt es und ganz viel
dazu bewegen im bereich ethische
richtlinien für künstliche intelligenz
und für die entwicklung von ki
es gibt verschiedene
standardisierungsprozess in diesem
bereich das heißt wir hätten die un als
ein player wir haben aber auch die nato
die eu und die nationalstaaten die alle
so ein bisschen ihren beitrag leisten
müssen um eben dieses gemeinsame
verständnis von was machen auto im
waffensystem mit der kriegsführung und
welche rolle muss lemon spielen und g um
diese gemeinsame wahrnehmung zu schaffen
also ist natürlich eine komplexe
angelegenheit
das ist glaube ich in den letzten 15
minuten recht klar geworden ich habe
noch eine frage die geht in eine
ähnliche richtung
allerdings nicht in richtung autonome
waffensysteme sondern ganz allgemein
autonome systeme und zwar habe ich im
vorfeld bei ein paar leuten nachgefragt
ob die noch fragen an dich hätten als
expertin und der franz bachmann der
fragt es ist ja denkbar dass in der
nahen zukunft auch autonome systeme gibt
die im kriegsfall zur unterstützung der
hilfe von verwundeten oder kranken
menschen eingesetzt werden und das
können zum beispiel erkundungs drohnen
seien der militärischen sanitätsdienste
oder von den nationalen
rotkreuzgesellschaften oder eben das ikk
aber denkbar wären ja auch pflegeroboter
oder autonom gesteuerte land
landfahrzeuge zur bergung von verletzten
auf dem schlachtfeld wird darüber
nachgedacht diese systeme unter einen
formalen schutz zu stellen um sie zum
beispiel vor zerstörung oder
elektronischen steuermaßnahmen durch
tricks führende parteien zu bewahren und
es ist eine spannende frage tatsächlich
wird diese diskussion nicht so sehr
gefallen also ich bin sicher dass hier
irgendwo im ikk auch schon mal auch
gefloppt ist aber jetzt im rahmen der
vom system wird das tatsächlich nicht
nicht weiter diskutiert ich würde aber
durchaus sagen dass diese systeme
letztlich dann ja auch ein rotes kreuz
aufs dach gepinselt bekommen und damit
wie auch
andere fahrzeuge der das
sanitätspersonal der sanitätsdienst es
auch unter dem schutz des management
völkerrechts stehen würden also ich hab
da bräuchte man gar keine große
rechtliche ergänzung oder ausnahme
ja das ist auch schön weil dann das wird
es nicht ganz so komplex
ja sehr schön vielen dank für den
einblick wenn die jetzt nichts mehr
einfällt was wir noch quasi heute
besprechen können zu dem thema
erstmal nicht ich komme gern in fünf bis
zehn jahren wieder meine doktor
schön sehr schön du bist immer jederzeit
herzlich willkommen es war mir ein fest
es hat mich gefreut dass du rede und
antwort gestanden bis zu einem sehr
interessanten
aber auch dem thema das mich schon auch
ein stückweit nachdenklich stimmt gerade
als informatiker wenn ich so sehe
wieso im alltag software uns das leben
schon an der einen oder anderen stelle
komplizierter und schwierig macht und
auch der umgang mit fehlern usw
genau das war es stimmt mich schon
nachdenklich auf der anderen seite finde
ich natürlich echt spannend auch mal ja
von einer expertin zu hören wie so ein
verhandlungsprozess abläuft was das
schwierigkeiten sind ach so die
interessen der unterschiedlichen
stakeholder sind also vielen dank dafür
lieber an ja ja vielen dank für die
einladung in die spannenden fragen so
und das war schon wieder informationen
und weiterführende links zu dieser folge
aber auch zum gesamten podcast um den
bisherigen guest innen findet ihr auf
der webseite unter sieben gute gründe
punkt.de das könnt ihr mit der zahl am
anfang schreiben oder mit dem wort
sieben gute gründe punkt de ansonsten
freue ich mich immer über eure ideen
beiträge kommentare und kritik zu diesem
podcast die sind immer herzlich
willkommen also ran an die tasten mails
gehen an sieben gute gründe add ins ohr
punkt de oder ich bin bei twitter
instagram und tik tok und martino blick
zu erreichen bis zum nächsten mal