Autonome Waffensysteme (AWS) (Podcast: 7 Gute Gründe)

Dieses Transkript gehört zum YouTube-Video mit der ID J7MpftckNGA, wurde automatisch erstellt und kann Fehler enthalten. Wenn du Fehler korrigieren möchtest, kannst du das direkt gerne bei YouTube machen.

[Musik]

[Applaus]

hallo und herzlich willkommen zum

podcast sieben gute gründe dem podcast

von und für rotkreuzler rinnen und

rotkreuzler und für alle die mehr über

diese spannende organisation erfahren

wollen am mikrofon begrüßt euch martin

krems dorf das bin ich und dieses mal

spreche ich mit anja diamond anja

dallmann des politikwissenschaftlerin

und arbeitet für das berliner büro des

instituts für friedensforschung und

sicherheitspolitik

kurz fsh

ehrenamtlich war sie lange im

jugendrotkreuz aktiv heute engagiert sie

sich im roten kreuz im kreisverband

berlin zentrum als sanitäterin

un-konvention beauftragte in dieser

folge sprechen wir über autonome

waffensysteme vereinfacht gesagt

erfassen und bekämpfen autonome

waffensysteme ziele ohne menschliches

eingreifen und anja beschäftigt sich mit

diesem thema beruflich denn sie verfolgt

und begleitet den internationalen

gesprächsprozess zu autonomen

waffensystemen im rahmen der waffen

konvention der vereinten nationen auf

der anderen seite ist das ein thema das

dann im bereich des humanitären

völkerrechts fällt also die bestimmungen

die im fall von krieg menschen gebäude

und die umwelt vor kampfhandlungen

schützen sollen wie ihr wisst oder in

der folge humanitäres völkerrecht nach

hören könnt ist das humanitäre

völkerrecht eng mit der geschichte der

internationalen rotkreuz und rothalbmond

bewegung verknüpft das internationale

komitee vom roten kreuz brk ist teil

dieser bewegung das ikk hat unter

anderem die aufgabe die einhaltung des

humanitären völkerrechts zu überwachen

das ikk hat aber auch die aufgabe das

humanitäre völkerrecht

weiterzuentwickeln

im mai 20 21 hat das ikk ein

positionspapier zur autonomen

waffensystemen veröffentlicht in dem es

die regelungen solcher systeme anmahnt

und überall das sprechen wir in dieser

folge

doch davor komme ich noch zu einigen

haus mitteilungen

der podcast sieben gute gründe hat beim

förderpreis helfende hand des

bundesinnenministeriums in der kategorie

unterstützung des ehrenamts den dritten

platz gewonnen darüber

mich sehr gefreut auch wenn die

preisverleihung pandemie bedingt leider

nicht in berlin sondern nur per video

konferenz stattgefunden hat details

findet ihr den shorts und auf sieben

gute gründe punkt de an dieser stelle

geht noch ein herzliches dankeschön an

gabriel bücher heraus aber natürlich

auch an alle gesten und euch liebe

hörerinnen ohne euch alle wäre der

podcast nicht das was er ist und nun zur

zweiten haus mitteilung zur erinnerung

der podcast bak iv war er jetzt einige

folgen langen teil von sieben gute

gründe das ändert sich aber ab diesem

jahr ab diesem jahr sind es zwei

getrennte podcast das heißt die folgen

von der kev in denen es um die

landesversammlung des bayerischen roten

kreuzes gehen findet ihr fortan nur noch

in einem extra feed ihr könnt den

podcast abonnieren unter brk lv punkt

ins ohr punkt de oder in der podcast app

eurer wahl außerdem möchte ich noch mal

daran erinnern dass ihr mir gerne

jederzeit themen oder auch dessen

vorschlagen könnte schreibt einfach eine

mail an sieben gute gründe events.de

natürlich nehme ich auch fragen und

kritik entgegen und nun zum rotkreuz

ereignis des monats am 12 januar 2010

ereignete sich ein erdbeben in haiti

316.000 menschen starben 310 wurden

verletzt und 1,85 millionen wurden

obdachlos das deutsche rote kreuz

entsandte unter anderem eine emergency

response unit kurz

nach haiti um vor ort ein mobiles

krankenhaus aufzubauen und zu betreiben

am 15 januar 2010 wurde es in berlin

verladen und am folgetag also nur vier

tage nach dem unglück morgens das

charterflugzeug nach haiti ab und bevor

es jetzt wirklich mit der folge losgeht

noch einen kurzen dank an franz bachmann

und dabei bücher die diesmal fragen zu

dieser folge beigesteuert haben viel

spaß

übers internet zugeschaltet ist mir anja

deilmann hallo anja hallo wer bist du

und was machst du im roten kreuz

ich bin ein mann ich bin

politikwissenschaftlerin und im roten

kreuz vor allem als sanitäterin aktiv im

kreisverband spenden zentrum aber auch

kreiskommission beauftragte dort was ist

jetzt

2013 ungefähr ok also du bist auch seit

2013 quasi mitglied im roten kreuz genau

ich war früher schon mal im

jugendrotkreuz dann war lange nichts und

als ich nach berlin zog dachte ich ich

frage mal wieder an dass wir 2013 genau

dann kurze zeit später auch als kombi

zooom ist beauftragte unterwegs nun dass

das jugendrotkreuz schon erwähnt das

heißt du bist wahrscheinlich irgendwie

zur schulzeit aufs rote kreuz aufmerksam

geworden

genau das ist tatsächlich schon so lange

her dass ich mich nicht tschuldigung

mich nicht mehr genau daran erinnern

kann aber ja wir haben eine lange

geschichte das rote kreuz und ich genau

sehr schön und jetzt wollen wir heute

über das thema autonome waffensysteme

sprechen im podcast passt es so insofern

rein als ich ja immer wieder themen

quasi aus ich sag mal mit dem überhit

begriff humanitäres völkerrecht

aufgreife du bist mitglied im roten

kreuz das rote kreuz hat was mit

humanitärem völkerrecht zu tun aber

jetzt geht es ja eigentlich darum du

beschäftigst dich ja beruflich mit dem

thema wie kam es denn dazu und wo bist

du denn da unterwegs

ich hatte gesagt ich bin ein

politikwissenschaftlerin und als nicht

nach dem studium einen job suchte bot

sich das an eine konferenz mit zu

organisieren

für ein paar monate und da dreht es sich

um drohnen und autonome waffensysteme

und so bin ich da sozusagen reingeraten

in das thema und seitdem dass es mich

nicht mehr los das heißt ich beschäftige

mich mit rüstungskontrolle und neuen

technologien und besonders eben mit

diesen autonom waffensystemen und ich

tue das im rahmen eines sogenannten

think tanks seien

forschungseinrichtungen

das war bis vor einiger zeit die

stiftung wissenschaft und politik und

ist jetzt seit einigen monaten das

institut für friedensforschung und

sicherheitspolitik an der universität

hamburg das ist auch ein

forschungsinstitut wir machen da

politikberatung und ich leite das

berliner büro dieses instituts und was

gehört dazu den aufgaben als

büroleitung mache ich ganz verschiedene

dinge aber vor allem in den

wissenschaftlichen bereich und sagen ja

beschäftige ich mich mit neuen

entwicklungen im bereich autonom

waffensysteme verfolger also zum

beispiel die verhandlungen die dazu im

moment in genf laufen ich schreibe auch

meine doktorarbeit dazu wo ich mir das

abstrakte den bildungsprozess darum

anschauen und dann geht es auch darum

diese forschungsergebnisse so runter zu

brechen und das ist auch so zu sagen die

politiker verstehen können sag ich mal

respektiere ich das heißt das ganze auch

praktisch verwertbare runter zu brechen

und dann auch handlungsempfehlungen

daraus abzuleiten das heißt das war

insgesamt das klang so ein bisschen

anders war auch ein bisschen zufall dass

zu diesen themenbereich gekommen ist

genau ich habe mich immer schon für

völkerrecht interessiert auch im studium

schon und für internationale politik

aber genau zu diesem thema war es wie so

oft im leben geht zu fall

wer spielt natürlich immer mit und was

sind denn autonome waffensysteme

autonomen systeme sind ganz grob gesagt

waffen die selbstständig über die

zielauswahl und bekämpfung entscheiden

können das heißt man schaltet die einmal

an und dann legen sie los und ja können

diese ziele eben selbst erkennen und

dann auch bekämpfen das heißt im

zweifelsfalle auch menschen auswählen

und töten diese art von waffensysteme

gibt es grob schon seit vielen jahren im

sinne von verteidigungssystemen also

ganz simpel gestrickt zu sagen eine

fliegende munition die dann abgeschossen

wird aber was wir im moment sehen ist

eine technische entwicklung dahin dass

sie sonst ihm viel komplexer lernen und

dann in viel dynamischere situationen

handeln können also zum beispiel drohnen

können dass sein die kennt man ja schon

ferngesteuert das können aber auch

gebote seien schiffe autos eigentlich

alles was man so auf dem schlachtfeld

bewaffnen kann kann auch autonom sein am

ende des tages und was heißt der

teilautonome in dem fall

autonomen ist ja letztlich eine

philosophisch aufgeladener begriff hier

meint es aber im vor allem dass das

waffensystem ohne den menschen agieren

kann und das wird ermöglicht durch

verschiedene technologien also

fortschritte im bereich der robotik der

sensorik aber insbesondere im bereich

der software und vor allem der

künstlichen intelligenz also kann ist

hier das große schlagwort dass diese

neuen funktionen ermöglicht kann zu

kalli ein bisschen erklären was da

dahinter steckt das ist ja auch ein

begriff mit dem wahrscheinlich also denn

nicht ganz so klar abgegrenzt sondern

genau also es gibt eine große debatte

darum wie man ki eigentlich definiert

und am ende ändert sich auch immer der

eindruck was die eigentlich ist im laufe

der zeit also als das zum ersten mal

aufkam war etwas das wir heute als ganz

normale algorithmen betrachten so zu

sein und letztlich ist es auch nichts

anderes sind algorithmen es sind

optimierungsverfahren was sind

mathematische verfahren ja oft zur

auswertung großer datenmengen zum

beispiel die daneben bestimmte

entscheidungen ermöglichen klagt die

politikwissenschaftlerin und

was haben die rdx mit humanitärem

völkerrecht zu tun also klar

waffensysteme klingt erstmal nach krieg

und bewaffneter konflikt und da sind wir

ja dann schon in dem bereich oder

themenkomplex humanitäres völkerrecht

aber es sind die ihr dann quasi heute

noch nicht ausreichend wir haben mit

regeln versehen die autonom

waffensysteme das ist tatsächlich eine

frage an der sich auch die staaten

sagen unterscheiden ob es ausreichend

regeln gibt dafür oder nicht

grundsätzlich geht natürlich immer das

humanitäre völkerrecht das heißt alle

methoden und mittel der kriegsführung

feierte die regeln des humanitären

völkerrechts also diese grundprinzipien

wie das unterscheidung zwischen

zivilisten und kombattanten die frage

nach der verhältnismäßigkeit der

militärischen notwendigkeit all diese

diese fragen kommen da auf und das gilt

auch für auch schon waffensysteme

natürlich die frage ist aber wie wendet

man das jetzt ganz konkret an denn das

neue bei diesem waffensystem ist klar

und wie die technologie aber vor allem

die rolle des menschen die sich

verändert dadurch also theoretisch haben

dieses waffensystemen sagen wir eine

drohne anschalten und dann fliegt die

nächsten drei wochen über ein bestimmtes

gebiet und sagen wertet daten aus diese

dort sammelt und agiert dann

entsprechend und greift dann eventuell

im menschen an und tötet diese und dass

es so weit entfernt von der letzten

entscheidung eines menschen und der

menschheit rausgenommen aus diesem

entscheidungsprozess dass das

grundlegende fragen aufwirft also wird

hier noch eine relevante rechtliche

unterscheidung getroffen oder

verhältnismäßigkeit abwägung und ist das

überhaupt ethisch vertretbar all solche

fragen kommen da auf und das ist genau

das was man jetzt eben versucht

herauszufinden und wo sich auch

versuchen die staaten darauf zu einigen

wie man das vielleicht noch besser

regulieren kann als mit diesem breiten

diesen beiden pinselstrich des

humanitären völkerrechts

es ist letztendlich viel dreht sich auch

quasi um die frage welche rolle spielt

der mensch noch wenn quasi nur noch

autonome waffensysteme unterwegs werden

oder die rolle des menschen das ganze

zentral und die frei nach der

sogenannten menschlichen kontrolle

wahrscheinlich wird es auf absehbare

zeit jedenfalls nicht so sein dass

ausschließlich autonome waffensystemen

auf dem schlachtfeld unterwegs sein

werden aber es wird auf jeden fall ein

verstärktes mensch-maschine team

hingeben es wird zum beispiel schwärme

von drohnen geben da ist viel forschung

gerade dazu

ja und also wenn dieses zusammenspiel

von verschiedenen technologien auf dem

schlachtfeld und nach und nach wird der

mensch dann vielleicht eher an eine

rolle wo er möglicherweise am rande

steht und ganz viele entscheidungen an

maschinen auslagert und bei manchen kann

das sinnvoll sein wir sind jetzt ja auch

beim auto da sind ja bremsassistenten

auch eine total gute idee aber

manche entscheiden muss der mensch eben

weiter selber treffen hast du ein

beispiel dafür wo letztendlich ein

mensch tätig werden muss ja das kann man

grob so sagen dass es wahrscheinlich

nicht ausreicht wenn der mensch nur so

eine kategorie von

von zielen an gibt also alles was ich

irgendwie bewegt über und über 180 groß

ist oder so sondern der mensch muss

immer in der ganz konkreten situation

vor ort

entscheiden ist der angriff ihr

verhältnismäßig ist die wahl der mittel

verhältnismäßig sind hier zivilisten die

eventuell geschützt werden müssen und

das ist natürlich immer die tierischen

entscheidungsprozess passiert das ganz

verteilt da sind ganz viele menschen

daran beteiligt das läuft oft auch über

einen längeren zeitraum ab aber die

frage ist tatsächlich wie weit kann man

das kann man das trendy wie lang kann

dieser zeitraum sein das zum letzten mal

ein mensch eine entscheidung trifft ganz

konkret wenn man jetzt szenario

aufmachen

wollte

wäre es zum beispiel die drohne die über

ein urbanes gebiet fliegt also über eine

stadt und

da möglicherweise

anhand von bestimmten bewegungsmustern

menschen erkennt dass wir sehen das

jetzt schon die usa haben so ein

programm da haben sie anhand von handy

signaturen bewegungsmuster erstellt im

pakistanischen grenzgebiet und dessen

zivilisten erstellt also menschen die

ein bestimmtes bewegungsmuster haben

sind nach deren definition mutmaßlich

terroristen die landen dann auf stunden

ziel listen da guckt dann zwar noch mal

ein mensch darüber aber das kann man

natürlich langfristig sicherlich auch

eingliedern und dann man halt diese

automatisierte erstellung der zivilisten

und im nächsten schritt macht die

plattform aber also die drohnen in dem

fall auch gleich noch die zielauswahl

und bekämpfung mit so dass gar kein

mensch mehr involviert wäre

jetzt haben wir im podcast schon öfter

auch über themen aus dem komplex

humanitäres völkerrecht gesprochen aber

vielleicht noch mal ganz kurz zur

wiederholung was sind denn grundsätzlich

legitime ziele in einem bewaffneten

konflikt und weil du hast vorhin auch

gesagt hast oder dem begriff verwendet

als kombattanten was sind den

kombattanten

kommandanten sind letztlich angehörige

der streitkräfte oder letztlich menschen

die an kampfhandlungen teilnehmen und

die sind militärische lied oder

militärisch legitime ziele militärisch

legitime ziele sind auch militärische

objekte also

alles formen panzer bis zum

munitionslager im prinzip

und eben nicht legitime ziele sind

zivilisten also menschen die ihm nicht

daran teilnehmen an diesen

kampfhandlungen und zivile infrastruktur

und letztlich auch nicht wobei es also

die dürfen dann kein ziel des angriffs

seien es ist aber durchaus möglich dass

wenn sich im zivilisten im umfeld von

soldaten befinden und man die soldaten

angreifen will dass die zivilisten

natürlich mit betroffen sind und an der

stelle trifft dann zum beispiel die

verhältnismäßigkeit auf bewegung ein wo

man sich fragen muss ist es jetzt

legitim dass möglicherweise hier auch

drei zivilisten

mit getötet werden eventuell wenn

dadurch aber das militärische ziel

erreicht wird

wird es vorhin schon von listen

gesprochen die eine hand von

bewegungsdaten

generiert werden eine andere denkbare

variante wäre ja zu sagen was ja heute

auch schon weit verbreitet ist im

gesichtserkennung dass man eben fotos zb

von zielpersonen

einmal ein speichert und dann so ein

system automatisch losfliegt losfährt

und diese menschen tötet ist

also da würde mich interessieren

das wäre ja letztendlich die

entscheidung dazu hätte ja ein mensch

dann wahrscheinlich getroffen und quasi

so eine person auf das auf so eine liste

gesetzt wäre es dann trotzdem ein

problem im kontext der der aktuellen

geltenden rechtslage aber

zunächst mal wenn es ein problem weil es

sich dann eventuell eher um gezielte

tötungen handelt also möglicherweise

ihre polizeieinsätze als um alles andere

und also dieser debatte um gezielte

tötungen ist ja noch mal eine ganz

eigene und

deutschland hat sich ja da auch so zu

verhalten dass es ihm gesagt das halten

wir für völkerrechtswidrig das ist nicht

okay also dass man schon mal so sagen

darf ich mal die erste punkt wo man

aussteigt aber nehmen wir mal an das

wäre dann in irgendeiner form zulässig

dann stellt sich zunächst die frage

funktioniert die technik eigentlich so

wie sie soll denn tatsächlich ist

gesichtserkennung und diese ganzen dinge

die dahinter stecken nicht so

zuverlässig wie man oft denkt und dass

wir ja schon also die entscheidung über

das töten eines menschen zu der schon

etwas wo man etwas sehr zuverlässiges

haben möchte

und gerade bei einer drohne ist es zum

beispiel schwierig die würde er zum

beispiel nur darüber fliegen und die

leute nur von oben sehen da ist es mit

der gesichtserkennung schon mal auch

schwieriger

also man muss wahrscheinlich dann noch

mit anderen systemen bodengestützten

system ergänzen dass er sich technische

frage und dann auch trotzdem immer noch

die frage angenommen dieser sagen wir

mal terrorist findet sich eben in diesem

haus oder läuft über die straße und das

auto ein waffensystem erkennt den jetzt

anhand dieser bilddatenbank kann es

trotzdem prüfen ob da gerade zufällig

noch ein bus mit kindergartenkindern

vorbeifährt die betroffen werden von

diesem angriff kann es wahrscheinlich

nicht und selbst wenn ist immer noch die

frage ob hier also wer hier die

verhältnismäßigkeit abwägung trifft wenn

das auch die maschine macht dann

spätestens dann ist es auch hier

rechtswidrig jetzt hast du schon gemeint

dass es eben auch technische probleme

geben kann oder technische

herausforderungen und das gilt ja ganz

allgemein für diesen ganzen

themenkomplex

künstliche oder tee fischl intelligenz

und maschinelles lernen was muss da an

geht aber eben auch was man ja immer

wieder liest eben dass die eben

trainingsdaten auch schon ein neues

sogenannten bayers enthalten können und

auch dadurch sicher fehler vielleicht

einschleichen in der bewertung von

situationen also ich habe jetzt als

beispiele aufgeschrieben also es gab zum

beispiel mal so einen versuch ich glaube

es war von microsoft mit so einem

jackpot der quasi das des sprechen gilt

oder das chatten gelernt hat und sich

dann innerhalb kürzester zeit

radikalisiert hat und solche geschichten

welche rolle spielen dann solche

überlegungen also ganz also die quasi

vor allem in der technik begründet sind

bei jetzt auch der bewertung von von

autonomen waffensystem

das spiel tatsächlich auch nur große

rolle also ich hatte zwar gesagt am ende

geht es immer um die rolle des menschen

aber natürlich muss man auch die

technologie anschauen und gucken was

kann da eigentlich was kann die

technologie und was kann sie ihm nicht

und gerade diese daten auswahl ist ein

großes problem zum einen weil man

natürlich annehmen kann dass bei den

meisten streitkräften gar nicht so

wahnsinnig viele daten davor liegen

trainingsdaten was so auf dem

schlachtfeld sozusagen gesammelt wird

das ist beispielsweise anders als beim

autonom fahren ja also daten wie straßen

beschaffen sind und aus irgendwelchen

überwachungskameras und was weiß ich

nicht alles liegen zuhauf vor aber eben

aus kampfsituationen ist es ein bisschen

anders

dann die frage welche art von daten

speist man da ein und wenn zum beispiel

das system dann immer nur trainiert wird

mit bildern von 180 großen weißen

männern dann wird es wahrscheinlich

schwierigkeiten haben schwarze frauen zu

erkennen

das sind dieser bei es gehe nur

angesprochen hatte das heißt auch da

kann es einfach technische

schwierigkeiten beim training geben und

darum wird auch diskutiert sagen wie

vorhersehbar dann auch die handlungen

eines solchen systems während

beispielsweise die krk sagt dann ja

waffensysteme geben so unvorhersagbar

haben die gehören ohnehin komplett

verboten

also was ja eigentlich quasi

ein grundprinzip von maschinen

maschinellen lernen und und künstlicher

intelligenz ist weil ja eben dieser

nicht determinismus also dass man nicht

weiß was als nächster schritt passiert

ja genau eine der auch

gewünschten eigentlich elemente er ist

genau denn man hat ja eigentlich

letztlich optimierungs problem für die

man immer noch keine lösung hat und das

kann ja auch in gewisser weise

militärischer vorteil sein wenn man wenn

auch der gegner nicht weiß wie das

system agiert aber natürlich will ich

als militärischer entscheider schon

wissen was der effekt sein wird was

dabei rauskommt und idealerweise auch um

nicht nur den effekt sondern auch wieder

system zu dieser entscheidung gelangt

ist denn dass es noch ein problem bei

künstlicher intelligenz dass das am ende

so eine blackbox ist ja wir können da

der beginn der datenreihen von dem wir

vielleicht schon nicht genau wissen wie

die strukturiert sind je nachdem

und dann macht dieses ist dieser diese

algorithmen machen etwas und dann

spucken ergebnis aus und oft auf sehr

überraschende weise also es gibt ja

jetzt ganz plakativ das beispiel von zum

beispiel der auswertung und der

bilderkennung von hunden also dass

waffen der algorithmus soll kunde von

wölfen unterscheiden und das tut es auch

nicht zuverlässig wie sich aber aus

stellt tut es das nicht weil das

grundwasser erkennt sondern weil wölfe

in der regel vor schnee fotografiert

wurden das heißt bilder mit hellem

hintergrund wurden als wolf schließlich

gezielt und solche sachen und da muss

man erstmal drauf kommen

und das ist natürlich etwas was man bei

schwerwiegenden entscheidungen die das

töten von menschen noch mal mehr

verstehen will und muss wie diese

entscheidung zustande kommt

gibt es denn auch irgendwie eine

diskussion darum ab welchem

grad zeigt ich mal ein system sicher

genug entscheidet also dass man da so

schwellwerte festlegt diese diskussion

kommt immer mal auf und dann auch so

dieses argument ja wie der mensch macht

ja auch fehler ja tut er

es ist man so ein bisschen die frage was

macht man mit mit dieser information und

natürlich kann es sinnvoll sein

assistenzsysteme zu haben aber wie

gesagt bestimmte rechtlich belastbare

entscheidungen muss halt der mensch

treffen und auch ethisch belastbare

entscheidungen am ende muss jemand da

sein der sein gewissen mit dieser

entscheidung belastet und ja auch

rechtlich dafür verantwortlich gemacht

werden kann man das alles komplett

ausgelagert

dann hat man eventuell eine

verantwortungslose und dafür sozusagen

der eigentliche knackpunkt also gar

nicht so sehr was kann also kann die

technologie das theoretisch in die

besser zumal man viele dinge in den

tests nicht so gut abschätzen kann im

vergleich zur realität also wenn man

dann diese drohne oder diesen autonom

panzer tatsächlich unter

geschäftsbedingungen einsetzt wird

wahrscheinlich trotzdem noch viel schief

gelaufen was man so nicht vorhersehen

konnte dass

das heißt also man könnte ja zum

beispiel auch von vorteil sehen oder als

vorteil an sehen dass soldaten künftig

nicht mehr töten müssten wenn die

algorithmen und die autonom 8 systemen

quasi sicher genug gewähren um das

automatisch zu machen aber du sagst

quasi eigentlich ist quasi der stand der

diskussion dass das es eigentlich genau

darum geht das eben der mensch

letztendlich am schluss verantwortlich

nur handeln kann und das nicht auf eine

maschine übertragen kann

ok wie schaut es aus wir haben ja im

weltweit auch immer wieder berichte von

nichtstaatlichen akteuren die in

bewaffneten konflikten

teilnehmen und es bestimmt auch das ein

oder andere mal nicht so genau mit dem

humanitären völkerrecht nehmen sind

wären jetzt so autonome waffensysteme in

händen von nichtstaatlichen akteuren

mich auch eine art game changer

also diese frage der proliferation also

genau dass die hände geraten von

nichtstaatlichen akteuren ist auf jeden

fall ein problem und das könnte also es

ist gar nicht so unrealistisch denn was

wir jetzt schon sehen ist was nicht

staatliche akteure mindestens schon bei

kleinen besteuerte kleine drohen zum

beispiel verwenden oder auch größere

drohen mittlerweile nutzen können also

dass profiliert sozusagen schon in

diesem bereich auch weil ganz viel der

technologie so genannte dual use

technologie ist das heißt sie wird

sowohl zivil als auch militärisch

genutzt also einen kleinen quadrokopter

also eine drohne zu vier kleinen motoren

dran die kann ich auch im spielzeugladen

kaufen und sie dann bewaffnen mehr oder

weniger

und das macht es natürlich einfach für

nicht staatliche akteure an diese

technologie zu gelangen und das wird

früher oder später auch mit autonomen

funktionen passieren dann kann man das

ganze wahrscheinlich ganz wunderbar über

sein smartphone nutzen und steuern

genau das wird auch diskutiert und

tatsächlich kann man auch da sagen es

gibt keine ideale lösung dafür aber ein

ansatzpunkt wäre natürlich schon mal das

starten diese waffensysteme schon mal

nicht bauen und diese technologie und

nicht so leicht verfügbar ist und damit

auch schwerer für nicht staatliche

akteure daran zu kommen

es klang vorhin schon immer ein bisschen

an aber jetzt mal konkret gefragt hast

du beispiele dafür für die rechtliche

ethische und die auch die sicherheits

dimensionen nochmal runtergebrochen auf

die drei bereiche die autonome

waffensysteme mit sich bringe

also rechtlich in diese frage kann dass

man tiere völkerrecht eingehalten werden

und muss der mensch am ende die

entscheidung treffen ethisch stellt sich

vor allem die frage nach dem menschen

würde da es diese große problematik dass

wenn ich diesen ganzen ziel

auswahlprozess komplett automatisiert

habe dann sind diese ziel am ende nur

noch datenpunkte und dem algorithmus

algorithmus ist es völlig egal ob das

ein auto ist oder ein mensch der erkennt

diesen unterschied nicht und es macht

qualitativ eben einen großen unterschied

ob ich auf ein auto oder beim menschen

ziele und auf ein leeres gebäude was

auch immer

und diesen qualitativen unterschied das

war ein mensch ist das eher ein

menschenleben genommen wird das muss

eben ein mensch ein anderer mensch

erkennen und seinen umsätzen in eine

entscheidung und wenn das nicht passiert

wenn der mensch als ziele noch so ein

objekt ist dann ist dieser menschen

seiner würde verletzt das ist sagen die

große die große ethische herausforderung

und auf der sicherheits ebene kann man

nochmal unterscheiden das ist das eine

konkret im kampfgeschehen steigt einfach

das escalation suite ico enorm gerade

wenn man zb zwei gegnerische

waffensysteme auseinandersetzen zum

beispiel in einer umstrittenen

grenzregion nutzen beide länder

vielleicht irgendein

patrouillenfahrzeuge oder auch immer

autonome fahrzeuge die der lang fahren

und die treffen aufeinander und niemand

weiß genau was passiert wenn man kann

nicht genau abschätzen was die diese

algorithmen miteinander interagieren

werden wir haben das zum beispiel schon

gesehen im zivilen bereich an der börse

wo sich im hochfrequenzhandel die

automatisiert ist diese algorithmen

total hochschaukeln zum teil und dann

völlig absurden ergebnissen führen da

hat man irgendwann tatsächlich rechtlich

festgelegt dass es eine art stopp taste

geben muss wenn sie auffällige

transaktionen dann passiert also so

genannte flash crashs wie man damit

vermeiden und analog dazu kann man ihn

befürchten dass es auch zu flashmobs

kommt also dass sich diese algorithmen

von gegnerischen system so hoch

schaukeln dass wir da gar nicht mehr

eingreifen können und dass es das jetzt

sagen aufeinander losgehen und plötzlich

einen konflikt vom zaun treten die wir

nicht haben wollten

was

sagen dass konkretere auf der

sicherheits ebene und dann auf der

politischen ebene sehen wir auch einfach

zunehmend rüstungs dynamiken also dass

beispielsweise die usa auf ein system

mit autonomen funktionen entwickeln die

sind dann besonders können sich

besonders schnell agieren die können

neue militärischen möglichkeiten

eröffnen weil man damit

zb die luftverteidigung besser

durchdringen kann als mit bisherigen

system da kommt sich russland das an und

fühlt sich dadurch bedroht und baut

selber eben entsprechende systeme und

die usa gucken wieder und mehr dann geht

das so hin und her und dann kommt ja

noch dazu und andere staaten und da sind

wir mittendrin in einer rüstungs oder

auf rüstungsspirale

wo einfach immer mehr staaten sehr viel

geld darauf verwenden diese

waffensysteme besser und schneller zu

machen und damit im bmw tierische

überlegenheit zu sichern und das ist

dann der punkt wo man auch rechtlich

noch mal ein haken kann aber darüber

reden wir bestimmt gleich nochmal genau

und zwar seit mindestens 2015

beschäftigt sich das sek also das

internationale komitee vom roten kreuz

ja immer wieder auch mit dem thema

autonome waffensysteme drohnen gibt es

sind sind uns ja schon länger bekannt

auch aus den nachrichten und da würde

ich sagen korrigiere mich bitte wenn ich

da falsch liege aber da ist ja der

unterschied dass die zwar selbstständig

zum vorgegebenen ziel hin fliegen und

sich steuer lassen und auch gegen den

falls bewaffnet sind aber eben die

entscheidung über die das abwerfen von

wasser sich bomben oder das schießen

oder so eben nicht den maschinen

überlassen ist sondern eben entfernt

sitzenden soldatinnen und soldaten

genau wo genau und jetzt bei den

autonomen systemen

für die für die drohnen gibt es wer bis

heute glaube ich auch keine explizite

regelung irgendwie im humanitären

völkerrecht oder

die tatsächlich nicht

das müssen die diskussion ob man da was

braucht oder ob sie nicht noch nah genug

an sagen herkömmlichen systemen dran

sind das sagen die grundsätzlichen

regeln gelten die sache mit den bezirken

tötung hatte ich schon angesprochen die

usa halten das für legitim andere

staaten nicht da scheiden sich die

geister dann schon wieder genauen

ansonsten treffen da ihm das

rüstungsexporte und so was angehen

einfach die die normalen export regeln

auch zumeist das heißt da wird

wahrscheinlich auch eben gerade die

ethische frage ist töten aus der

entfernung nicht vielleicht auch schon

ja so

anders dass man vielleicht leichter

abdrückt als wenn man jetzt tatsächlich

irgendwie vor ort wäre

genau die diskussionen gibt es

wenn man sich das in der empirie

anschaut also in konkreten fällen dann

gibt es sowieso ein bisschen gemischte

ergebnisse also zum einen gibt es die

befürchtung dass es so eine art joystick

mentalität gibt also dass der mensch der

soldat der am abzug sitzt viele tausend

kilometer entfernt eventuell dass er so

wahrnimmt wie in einem computerspiel im

prinzip und dadurch sein sein ziel gar

nicht mehr menschen wahrnimmt das ist

eine befürchtung

andererseits spricht dagegen dass im

drohen piloten sehr sehr genau sehen was

ihre handlungen ausrichten er denn

sagen wenn man da den den abschluss

knopf gedrückt hat dann sieht man

hinterher auch trotzdem noch die

zerstörung weil die drohne in der regel

in der nähe bleibt und das noch weiter

also ermöglicht weiter zuzuschauen

dh den muss schon sehr bewusst sein was

sie da tun und tatsächlich gerade bei

amerikanischen grund blut haben wir das

gesehen steigt die anzahl der

posttraumatischen belastungsstörungen

enorm an

das heißt sieht nicht so aus als würde

sich das unbedingt materialisieren aber

es ist auf jeden fall was man im gibt

behalten muss was man mindestens durch

gutes training und kritisches nachfragen

immer wieder anmerken und diskutieren

muss was sozusagen mit dem kämpfen und

mit den kämpfern macht und dazu kommt

tatsächlich eher der und anderer effekt

nicht so sehr bei den soldaten sondern

bei den menschen vor ort die es eben

trifft und da sehen wir dass zum

beispiel die zivilbevölkerung in

gebieten wo drohnen auf sich beruhen

eingesetzt werden eigentlich konstant

sich konstant terrorisiert fühlt denn es

kann jederzeit ein rückschlag kommen der

möglicherweise auch zivilisten mit in

den tod reißt

und dieses ständige suchen von drohnen

im himmel wie dann so berichtete das

schildern

das macht tatsächlich was mit den

menschen und das ist dann finde ich

einen unterschied dazu ab da ihm vor ort

sichtbare soldaten sind oder nur dieses

die diese diffuse bedrohung aus der luft

also dass sie charakter beschäftigt sich

also jetzt schon länger auch mit dem

thema autonome waffensysteme und jetzt

im mai diesen jahres also 20 21

da haben wir ja sogar ein

positionspapier veröffentlicht zu dem

thema jetzt als erstes vielleicht du

beobachtest dass er vielleicht schon

eine zeit lang länger ist wie häufig

kommt es vor dass des ikk sich so

deutlich positioniert

dass die krk weil es gerade in der

debatte um die waffensysteme schon immer

sehr aktiv und hatte auch ganz viele

vorschläge schon ein gesteuert zum thema

menschliche kontrolle und was die

rechtlichen vorgaben sind und so weiter

diese ganz konkrete positionierung die

sagen die forderung nach einem verbot

einschließt das war dann schon noch mal

eine andere

ein anderer größerer schritt auf jeden

fall

bei anderen rüstungskontrolle

verhandlungen bin ich nicht ganz sicher

an welchem punkt dass kaka sich da

positioniert hat aber es hat auf jeden

fall zu viel aufregung und bei einigen

staaten auch zu unmut geführt dass es

diese ganz klare haltung jetzt bei

autonom waffensystem gab also man könnte

schon sagen dass das insgesamt ein

bemerkenswerter schritt quasi war jetzt

der dieses jahr passiert ist ja durchaus

und ich glaube das hat die verhandlungen

schon auch noch mal ein stück voran

gebracht weil sich die staaten eben dazu

noch mal ganz anders verhalten müssen

letztlich als wenn irgendein

nichtregierungsorganisationen

mal irgend ein arbeitspapier auf den

markt wirft er zwei mal einen blick

reinwerfen du hast dich ja bestimmt

intensiv damit beschäftigt was steht

denn da drin und worum geht's

also dieses papier unterscheidet

zwischen drei kategorien

und zwei davon sollen verboten werden

und eine soll reguliert werden das eine

ist ein verbot von waffensystemen mit

unvorhersehbaren folgen das hatte ich

schon kurz kurz angedeutet da geht es

darum dass letztlich keine menschliche

kontrolle möglich ist also rechtlich und

ethisch ausreichende kontrolle weil eben

nicht klar ist was die das waffensystem

am ende wirklich gut

und das geht um einen sachen tatsächlich

für ziemlich viele systeme die mit

künstlicher intelligenz dann zum

beispiel bestückt sind weil wir da eben

nicht genau angucken können

das zweite wäre ein verbot von

atomwaffen systemen die auf menschen

zielen also ganz konkret wirklich zu

sagen einzelne menschen die ihren touren

laufen nicht so sehr wenn die in

gebäuden sind aber als ich vorhin gesagt

hatte dieses ethische problem mit der

menschenwürde dass ich eben ergibt wenn

der menschen noch soldaten punkt ist das

soll damit aufgegriffen werden also dass

ihm dieses konkreten zielen auf menschen

verboten wäre sind also zwei kaputte und

die regulierung bezieht sich dann auf

alle anderen waffensystem mit autonomen

funktion und hier sagt dass ikk ist es

eben wichtig wenn alles andere mit

gegeben ist dass trotzdem die menschen

die kontrolle beibehalten wird zum

beispiel in mit denen der mensch die

möglichkeit hat dieses system und die

umgebung zu überwachen indem der mensch

die möglichkeit hat einzugreifen was

schief läuft und in dem es einen

einigermaßen engen zeitlichen und

räumlichen zusammenhang gibt zwischen

der letzten entscheidung eines menschen

und dem effekt des waffensystems also im

zum beispiel die entscheidung eines

soldaten

dieser mensch dort soll ihm getötet

werden und dann passiert das das klingt

ein bisschen zynisch aber dann wäre das

aus sicht des ikk jedenfalls noch rechts

rechtmäßig

das sind ja quasi jetzt so die

empfehlungen des ikk macht was sind denn

die ziele die das wkk verfolgt

das ziel ist am ende vor allem der

schutz von zivilistinnen

da steht immer ganz groß darüber

und das soll erreicht werden indem man

halt diese art von waffensystemen

möglichst engen reguliert oder halt zum

teil verbietet also es geht immer um die

einhaltung des humanitären völkerrechts

plus eben diesen ethischen gründen die

ich vorhin genannt hatte die spielt

tatsächlich hier auch nochmal noch mal

stärker als vielleicht mehr an

waffensystem

jetzt beschäftigt sich ja nicht nur des

ikk mit diesem thema sondern zum

beispiel auch jetzt das institut für das

duo tätig bist und viele andere staaten

und nicht staatliche akteure welche

rolle spielt denn dass das kleid bei

deiner antwort zu dem positionspapier

auch schon ein bisschen an aber welche

rolle spielten das positionspapier des

ikk insgesamt in dem norman

entwicklungsprozess um autonome

waffensysteme

ist eine interessante frage die ich noch

im rahmen einer doktorarbeit noch einen

hammer anschaue aber so ein bisschen ein

wissenschaftlicher würde ich schon sagen

dass noch hinfallen effekt hat weil es

so ein bisschen kristallisationspunkt

ist in diesem prozess also sich berger

hat ja auch viel gesprochen mit im

expertinnen und experten bei der

erstellung dieses dieses papier sie

haben das ja nicht nur mit mit den

relativ wenigen leuten die mit dem thema

beschäftigt sind sich ausgedacht sondern

letztlich ist dass die die essenz des

verhandlungsführer des

wissenschaftlichen diskurses den es dazu

gibt also gerade diese kriterien was was

macht eigentlich menschen kontrolle aus

als überwachungs- und

eingriffsmöglichkeiten und so weiter das

ist etwas was auch jahre vorher schon im

wissenschaftlichen bereich diskutiert

wurde und die haben es jetzt

aufgegriffen und verschriftlicht und

ganz konkret auf eine regulierung

bezogen

das hat auf jeden fall schon mal auch

wissenschaftlich eine gewisse

legitimität und

macht es aus meiner sicht staaten damit

auch leichter sich auf eine oder würde

es leichter machen sich auf eine

regulierung zu einigen weil sie ihm

sagen könnten das ist hat hier hand und

fuß das ist total fundiert darauf können

wir vielleicht aufbauen auch wenn wir

nicht 100 prozentig so übernehmen

und ich glaube für viele staaten ist das

auch so für viele war das wirklich noch

mal ein hilfreiches

hilfreiches papier und hilfreicher punkt

in dieser debatte an dem man sich

festhalten kann

andere waren ihm sehr erbost zum

beispiel weil sie keine

keine regulierung wollen und weil sie

meinen dass damit ein bisschen die

neutralität oder

neutrale haltung des ikk verletzt wurde

das teile ich nicht denn es ist ja immer

abgeleitet aus dem 110 völkerrecht und

das ist ganz klar im auftrag des ikk du

hast gerade deine doktorarbeit erwähnt

jetzt bin ich natürlich neugierig wo

zuvor studenten und gibt es da schon den

konkreten titel oder zumindest im die

themenbereiche sind die schon abgesteckt

ja also ich forsche zum norm

bildungsprozess um autonome

waffensysteme also immer genau zu meinem

arbeitszimmer und versuchen möglichst

große synergien zu schaffen da ich das

sehr lange er so nebenbei als

anstrengendes hobby gemacht habe bin ich

noch nicht besonders weit

aber ich sitze gerade an einem artikel

in dem ich mir im genau anschaue wie ist

denn der der normative status von

menschlicher kontrolle also diesem

konzept innerhalb der verhandlungen

überhaupt schon brav und systeme und

dann mache ich gerade eine schöne

inhaltsanalyse und bin ganz gespannt was

dabei rauskommt und im folgenden werde

ich mir dann noch an wahrscheinlich den

diskurs in deutschland anschauen und

dann den artikel sie noch mal gucken was

dabei rauskommt es gibt aber auch noch

ein bisschen zukunft weiß ich wie gesagt

etwas hin sind die aber ist ein guter

anknüpfungspunkt für eine weitere folge

wende wenn du damit fertig bist du bist

jetzt auch ganz nah am

verhandlungsprozess dran und jetzt

anfangen dezember war ja auch in genf

beziehungsweise dann wahrscheinlich in

der aktuellen situation

auch vor allem remote ging es da eben

weiter in den verhandlungen was ist denn

da dann deine rolle für das institut

oder als person

ich habe tatsächlich diesen prozess in

genf erfolgt seit

2015 weil ich das erste mal dabei da

waren das noch so informelle gespräche

unser 2017 ist das so eine so genannte

gruppe von regierungsexperten

also ein bisschen formeller und auch da

saß gleich in jedem treffen drin bis

letzten august dann kam mir corona

dazwischen genau und bis dahin war ich

immer als beobachten da im rahmen eines

oder vor allem im rahmen eines projektes

das auswärtige amt finanziert wurde ein

unabhängiges forschungsprojekt im rahmen

des links an dem ich gearbeitet habe

mit dem schönen titel international

panel und die regulation of photonics

map ins mikro und da haben wir

wissenschaftlerinnen wissenschaftler aus

aller welt zusammengebracht waren so

knapp 20 am anfang die aus ganz

unterschiedlichen fachgebieten kommen

also ingenieure itk

politikwissenschaftler juristen

die sich diesem thema auto im

waffensystem muss unterschieden

perspektiven angenähert haben und daraus

haben wir die looks berichte gemacht und

uns ganz konkret an die diplomaten in

genf in diesen verhandlungen gewarnt das

heißt es dann immer mit im raum in den

verhandlungen habe das beobachtet wir

haben auch einige statements im plenum

dann formuliert wir haben so kleine

veranstaltung an gemacht um auch einfach

nochmal ja faktenwissen zu schaffen für

die

diplomatischen politischen entscheider

vor ort

und das haben jetzt die letzten jahren

recht erfolgreich gemacht möchte ich

sagen dass einem der andere findet man

dann auch ein paar working paper

arbeitspapieren von den staaten wieder

genau und das ist das interessante auch

an diesen verhandlungsprozess zu ordnen

waffensystem dass da im

zivilgesellschaft und wissenschaft

wirklich ziemlich guten zugang haben

auch rederecht haben und sich dadurch an

diesem prozess aktiv beteiligen können

was wird denn aktuell vor allem

verhandelt also du sagst ja seit 2005 10

bis beschäftigst du dich schon damit und

2017 das ist formeller geworden

weil die hat sich dann im laufe der zeit

auch der prozess verändert und auch die

themen die diskutiert worden

was ganz wichtig war in diesem prozess

war eine gemeinsame problem wahrnehmung

der staaten zu schaffen am anfang war

das eher so ein diffuses irgendwie gibt

es jetzt hier autonom waffensysteme

sollen darüber reden

und aber wirklich festzustellen aber was

ist das eigentlich was steckt da

technisch dahinter

und was ist die rechtliche relevante

frage da war nämlich die nach der

menschlichen kontrolle das mussten sich

auch erst entwickeln im laufe der zeit

und das

dauert also hat auch im

wissenschaftlichen bereich ein bisschen

gedauert bis das irgendwie klar worum es

eigentlich geht und wie man das gleich

lösen kann aber es dauert auch starten

ebene auf diplomatischer ebene noch mal

viel viel länger natürlich hat das immer

noch mal ganz andere entscheidungs kreis

wolf im hintergrund in jedem einzelnen

staat plus die staaten treffen sich im

rahmen dieser einfachen konvention

behandelt wird auch immer nur ein

zweimal im jahr also am anfang war es

immer nur fünf tage im jahr später dann

mal ziehen jetzt dieses jahr waren es 15

weiß ich dass durch krone alles

verschoben hatte aber es ist natürlich

immer zusammen rechnet dann gar nicht so

viel auch wenn es schon so viele jahre

läuft der prozess

genau und mittlerweile gibt es so

genannte leitprinzipien das sind 11

leitprinzipien so was wie das humanitäre

völkerrecht gilt die verantwortlichkeit

muss immer gegeben seien solche

geschichten und eben die

mensch-maschine-interaktion müssen wir

uns weiter anschauen diese liegt

letztlich im kern

ein kern der verhandlungen oder der

gespräche und das ist diese mensch

maschine interaktion dass es so das

worauf sich die staaten jetzt zum

schluss besonders konzentriert haben und

da gibt es dann auch irgendwie nochmal

so kurze inputs von einigen staaten die

noch mal darstellen ist denn jetzt bei

waffensystemen gelöst wie funktioniert

sonst zudem die tierische

entscheidungsprozess und

welche maßstäbe leben wieder an und dann

diskutieren sie das irgendwie gemeinsam

aus dass es so der inhaltliche fokus auf

dem spiel liegt

wobei man sagen muss dass es jetzt

gerade ein bisschen fast gescheitert ist

weil es nämlich gar nicht so sehr um die

inhalte gehen sondern um die frage

wollen wir dann an da eigentlich ein

rechtlich verbindliches verbot haben

also zum beispiel ein protokoll ein

neues protokoll zur un konvention und da

haben dann einige staaten ganz klar eine

rote linie gesetzt und gesagt nein

wollen wir nicht könnt ihr gerne weiter

reden aber es wird hier keinen rechtlich

verbindliches instrument geben

und daran dass jetzt fast gescheitert

und wie ein neues mandat zu formulieren

für das nächste jahr sozusagen jetzt

gerade noch so geschafft aber es ist

relativ klar dass im rahmen dieser

verhandlungen jedenfalls kein neuer

verbots vertrag zur auto im waffensystem

herauskommen wird dazu gibt es zu großen

widerstand das heißt ich höre aber auch

raus ihr quasi von jahr zu jahr immer

wieder eine quasi einen neuen auftrag

formuliert

genauso diese gruppe von

regierungsexperten kriegt jedes jahr

oder wer hat sich jedes jahr wieder ein

neues mandat erarbeitet in dem es immer

festgelegt hat genau was besprochen

werden soll und daran hat sich dann auch

in unserem projekt natürlich ein

bisschen die arbeit ausgerichtet sein wo

man da die schwerpunkte setzt das heißt

der aktuelle status ist es ist

kompliziert und gibt es jetzt von diesem

jahr irgendwie ergebnisse

ach ja

ich muss tatsächlich traurig sind ich

habe jetzt vor allem im livestream mit

angeschaut und also die gruppe der

regierungsexperten hat tatsächlich

keinen abschlussbericht

liefern können auf konnten sich nicht

einigen grad auf also die sache dann

eben dieser frage was für ein neues

mandat wollen wir haben und soll es

wirklich ist ein konkretes

verhandlungsmandat 75 arbeitsvertrag

daran ist es gescheitert das heißt aber

auch dass mögliche inhaltliche

fortschritte nicht wirklich festgehalten

wurden

worauf man jetzt sonst eigentlich

aufbauen würde dann für den nächsten

verhandlungstag und das ist tatsächlich

ziemlich großes problem

man hat es geschafft in der

überprüfungskonferenz der ccw also ein

bisschen anderes vor um dann doch noch

sich darauf zu einigen dass es nächstes

jahr wieder eine gruppe von

regierungsexperten gibt aber ich habe

wirklich keine großen hoffnungen mehr

dass da irgendwas bei rauskommt weil

sehr klar geworden ist dass die usa kein

vertrag vor in russland

australien und indien auf israel haben

sich da ganz deutlich positioniert

und insofern ist es ein bisschen egal wo

sie starten inhaltlich besprechen am

ende kommt wahrscheinlich nicht viel

dabei herum ich habe nichts desto trotz

soll ein bisschen hoffnungsvoller zu

sein schon den eindruck dass dieser

ganze verhandlungsprozess wozu er auch

sein mag einen normativen effekt

entfaltet dann zum beispiel in

deutschland wird gerade ein waffensystem

des juso kongresses zum entwickeln in

dem es auch um den zweimal kampfflugzeug

geht das aber auch drohnen haben soll

die werden beratungsfähig sein und die

werden wahrscheinlich autonom funktionen

haben und sozusagen in folge dieses

verhandlungsprozess in genf hat dann

auch airbus und das fraunhofer-institut

ja drin hängen festgestellten vielleicht

ist das ein problem liegt sollten wir

darüber sprechen über diese autonome

funktion und eine art ethik komitee

gegründet die sich im grab mit diesen

fragen auch beschäftigen ich sitze in

diesem komitee mit drin muss dann gucken

was am ende dabei herauskommt und ob das

nicht eher so ein wie in washington aber

ich finde zeit ganz gut dass ihm dieser

wandlungsprozess oder gesprächsprozess

in genf irgendwie doch einen effekt hat

auch wenn kein vertrag dabei rauskommt

du hast mir eine frage schon ein stück

weit vorweggenommen also letztendlich es

verhandeln so höre ich das zumindest

raus wahrscheinlich alle oder fast alle

staaten irgendwie mit aber es gibt schon

welche die halt signalisiert haben dass

sie halt zumindest wenn es darum geht

bestimmte systeme zu verbieten nicht

mitspielen würden oder nicht mit

zeichnen können

genau das wurde über die jahre ist schon

immer mal deutlich aber jetzt als

wirklich ein konkreter vorschlag auf dem

tisch lag für so ein verhandlungsmandat

da müssen sich die staaten verhalten und

da haben dann viele gesagt stoff bis

hierhin und nicht weiter und man kann

wenn man sich das auch zum spektrum

aufmacht und erste group dafür ein bär

group gegen ein verbot dann wird ganz

deutlich dass für ein verbot vor allem

staaten sind die auf absehbare zeit

keine auto nimmt auf dem system haben

werden also

entwicklungsländer oder sich

entwickelnden staaten

ansagen der globale süden am ende des

tages hat da eine ganz klare front und

sagt wir sind gegen ein wir sind für ein

verbot automaten systeme

dann sortieren sich ein bisschen die

europäischen staaten in der mitte ein

die sagen ja es ist irgendwie schon

wichtig da sollte man mal was machen

nach gucken ob ein verbot wird oder

nicht

und dann ganz klar technologisch

führende staaten

beispielsweise die usa die gegen ein

verbot sind

vielleicht mit blick auf wenn man sich

anschaut im neunzehnten und zwanzigsten

jahrhundert die die genfer abkommen usw

das waren ja auch ganz viele staaten

beteiligt und es hat geklappt ein großes

regelwerk zu etablieren glaubst du dass

damals es einfacher waren konsens zu

finden als heute

das lässt sich aus der entfernung ja

immer aus der zeitlichen entfernung

schwer sagen also wahrscheinlich war es

auch damals viel arbeit mühe das

hinzukriegen aber auch jeden fall gab es

auch offenbar gab es für diese themen

eine größere bereitschaft sich darauf

einzulassen das ist auch politik

wissenschaftlich total interessant wenn

man sich da enorm entwicklungsprozess

mal anschaut und mir die punkte wusste

ich doch erst gescheitert wäre aber was

wir heute sehen ist insgesamt eine

tendenz bei staaten sich nicht mehr so

sehr auf multilaterale fuhren

einzulassen also wenn wir im rahmen

dieser einfachen konventionen aber auch

in der abrüstungskonferenz die es auch

gibt in genf geben wir seit jahren total

blockiert ist das sehen wir aber auch

wenn wir im bereich des nuklearen gucken

ja der

nichtverbreitungsvertrag kränkelt so vor

sich hin gut nochmal kurz vertrags noch

ein anderes thema aber auch in der

konventionellen rüstungskontrolle

brücke die die bereitschaft weg zum

beispiel im quadrat bei den offenen

himmel sich multilateral zu binden und

vielleicht auch seine militärischen

fähigkeiten

einzuschränken in der erwartung das

liegt

nicht der gegner aber es ist eine andere

staaten das auch tun also die

großwetterlage insgesamt ist gerade

nicht so gut für multilaterale des

rüstungskontrolle abkommen hast du eine

idee woran liegt es

ich hab da also gibt es verschiedene

gründe auch weil mehr akteure

mittlerweile auf dem plan sind also es

sind im nicht mehr nur russland und die

usa die sich gegenüberstehen sondern

china ist ein großer player geworden

aber auch in denen zum beispiel und

andere staaten so dass man viel mehr

leute an einen tisch bringen muss um

sich irgendwie auf etwas einigen zu

können dass man auch wirklich einen

effekt hat

insgesamt hat dann auch das vertrauen

offenbar nachgelassen also

vertrauensbildend ganz große ganz große

sache zur zeit des kalten krieges die

dann auch zur lösung beigetragen haben

und das scheint irgendwie weg gebrochen

zu sein haben wir beim positionspapier

jetzt die wichtigsten punkte oder gibt

es noch etwas wurde sagst darüber müssen

wir noch sprechen das von ikk

ich glaube das sind so die wichtigsten

punkte was mich noch einmal hervorheben

würde ist diese idee

ein verbot von atomwaffen systeme die

auf menschen ziehen das war tatsächlich

ein kriterium das mich ein bisschen

überrascht hat weil es eben vor allem

eine ethische anbindung hat und nicht so

sehr eine rechtliche also sonst braucht

das ikrk er vor allem auf die einhaltung

des völkerrechts und das ist aber

wirklich er eine ethische genetisches

kriterium der menschenwürde usw

das habe ich ein bisschen überrascht und

ich finde das schlecht das papier auch

ein bisschen auch wenn ich das argument

überzeugen finde gibt es in vielen

staaten die entweder dass menschenwürde

aber mit insgesamt nicht überzeugend

finden oder sagen ja die es vielleicht

verletzt aber das kann man halt abwägen

gegen andere dinge was in deutschland

schwerer möglich ist wenn man sich das

grundgesetz anguckt und ich glaube das

war vielleicht kein ganz geschickt

gestern mit reinzuschreiben

aber ja ansonsten halte ich das papier

für total wichtig und von wichtigen

meilenstein in der debatte und bin sehr

froh dass ihr krk sich da so klar

positioniert hat was haben wir noch

insgesamt zum verhandlungsprozess

vielleicht nicht besprochen

wir hatten gesprochen über die

verschiedenen staaten positionen ich

glaube das ist tatsächlich ganz

interessant im zu schauen

welche staaten sich einschränken wollen

und welche nicht

wir hatten über die inhalte gesprochen

also die menschliche rolle steht

tatsächlich im kern aber ganz

grundsätzlich ist es da auch noch mal

ganz spannend man sich anguckt wie was

gehört eigentlich in seinen

völkerrechtlichen vertrag als man kann

ja

in einer idealen welt in der das ganze

funktioniert könnte man dem völkerrecht

beim entstehen zu gucken im prinzip und

schauen genau das ist was schreiben

starten ein vertrag welche flughöhe muss

das haben ja so wie detailliert

muss man der regelungen reinschreiben

was man vielleicht dinge bewusst

unbestimmt und welche arten oder welche

rüstungskontrolle instrumente können wir

hier nutzen zum beispiel die frage nach

der verifikation sollte es jemals einen

völkerrechtlichen vertrags atomwaffen

system geben werde verifizieren mit den

eigentlich also wie stellen wir oder wir

weisen wir nach dass staaten sich daran

gehalten haben beziehungsweise sich

nicht daran gehalten haben das ist auch

bei anderen rüstungskontrolle

abrüstungsverträgen oft gar nicht so

einfach aber am ende muss man ganz oft

eben vor allem panzer zählen oder

reichweiten messen oder sowas und das

ist bei auto im waffensystem anders weil

es nicht so sehr um die technologie geht

also es ist nicht so entscheidend partie

drohne kann

sondern welche rolle hat der mensch

damit der zielauswahl gespielt und da

muss man ganz tief in militärische

prozesse reingucken und das wird

wahnsinnig schwer das zu verifizieren

also das ist noch mal wenn er es nicht

schon schwer genug wäre wäre das noch

was muss auch noch mal haken scheitern

könnte tatsächlich

ich glaube am ende

wenn man irgendwie eine art von

regulierung will dann braucht man auch

mehr als nur die verhandlungen im rahmen

der un konvention dass wir sicherlich

total hilfreich da irgendeine art von

protokoll rechtlich verbindliches

instrument zu haben aber es müsste

ohnehin angefüttert werden mit

sogenannten best practices oder

szenarien wie man diese ganzen kriterien

für menschen kontrolle ich umsetzen kann

oder probleme liegen was bräuchte

wahrscheinlich diverse rechtliche

kommentare dazu es bräuchte auch noch

mal andere element also zum beispiel

gibt es und ganz viel

dazu bewegen im bereich ethische

richtlinien für künstliche intelligenz

und für die entwicklung von ki

es gibt verschiedene

standardisierungsprozess in diesem

bereich das heißt wir hätten die un als

ein player wir haben aber auch die nato

die eu und die nationalstaaten die alle

so ein bisschen ihren beitrag leisten

müssen um eben dieses gemeinsame

verständnis von was machen auto im

waffensystem mit der kriegsführung und

welche rolle muss lemon spielen und g um

diese gemeinsame wahrnehmung zu schaffen

also ist natürlich eine komplexe

angelegenheit

das ist glaube ich in den letzten 15

minuten recht klar geworden ich habe

noch eine frage die geht in eine

ähnliche richtung

allerdings nicht in richtung autonome

waffensysteme sondern ganz allgemein

autonome systeme und zwar habe ich im

vorfeld bei ein paar leuten nachgefragt

ob die noch fragen an dich hätten als

expertin und der franz bachmann der

fragt es ist ja denkbar dass in der

nahen zukunft auch autonome systeme gibt

die im kriegsfall zur unterstützung der

hilfe von verwundeten oder kranken

menschen eingesetzt werden und das

können zum beispiel erkundungs drohnen

seien der militärischen sanitätsdienste

oder von den nationalen

rotkreuzgesellschaften oder eben das ikk

aber denkbar wären ja auch pflegeroboter

oder autonom gesteuerte land

landfahrzeuge zur bergung von verletzten

auf dem schlachtfeld wird darüber

nachgedacht diese systeme unter einen

formalen schutz zu stellen um sie zum

beispiel vor zerstörung oder

elektronischen steuermaßnahmen durch

tricks führende parteien zu bewahren und

es ist eine spannende frage tatsächlich

wird diese diskussion nicht so sehr

gefallen also ich bin sicher dass hier

irgendwo im ikk auch schon mal auch

gefloppt ist aber jetzt im rahmen der

vom system wird das tatsächlich nicht

nicht weiter diskutiert ich würde aber

durchaus sagen dass diese systeme

letztlich dann ja auch ein rotes kreuz

aufs dach gepinselt bekommen und damit

wie auch

andere fahrzeuge der das

sanitätspersonal der sanitätsdienst es

auch unter dem schutz des management

völkerrechts stehen würden also ich hab

da bräuchte man gar keine große

rechtliche ergänzung oder ausnahme

ja das ist auch schön weil dann das wird

es nicht ganz so komplex

ja sehr schön vielen dank für den

einblick wenn die jetzt nichts mehr

einfällt was wir noch quasi heute

besprechen können zu dem thema

erstmal nicht ich komme gern in fünf bis

zehn jahren wieder meine doktor

schön sehr schön du bist immer jederzeit

herzlich willkommen es war mir ein fest

es hat mich gefreut dass du rede und

antwort gestanden bis zu einem sehr

interessanten

aber auch dem thema das mich schon auch

ein stückweit nachdenklich stimmt gerade

als informatiker wenn ich so sehe

wieso im alltag software uns das leben

schon an der einen oder anderen stelle

komplizierter und schwierig macht und

auch der umgang mit fehlern usw

genau das war es stimmt mich schon

nachdenklich auf der anderen seite finde

ich natürlich echt spannend auch mal ja

von einer expertin zu hören wie so ein

verhandlungsprozess abläuft was das

schwierigkeiten sind ach so die

interessen der unterschiedlichen

stakeholder sind also vielen dank dafür

lieber an ja ja vielen dank für die

einladung in die spannenden fragen so

und das war schon wieder informationen

und weiterführende links zu dieser folge

aber auch zum gesamten podcast um den

bisherigen guest innen findet ihr auf

der webseite unter sieben gute gründe

punkt.de das könnt ihr mit der zahl am

anfang schreiben oder mit dem wort

sieben gute gründe punkt de ansonsten

freue ich mich immer über eure ideen

beiträge kommentare und kritik zu diesem

podcast die sind immer herzlich

willkommen also ran an die tasten mails

gehen an sieben gute gründe add ins ohr

punkt de oder ich bin bei twitter

instagram und tik tok und martino blick

zu erreichen bis zum nächsten mal