© Adobe Stock/Altana Studio Militær ubemandet luftfartøj.
Kunstig intelligens anvendes allerede i vid udstrækning på slagmarken, og den menneskelige vurderings rolle i militære operationer er i hastig tilbagegang, advarede lederen af FN’s uafhængige forskningsinstitut for nedrustning tirsdag.
Under en briefing i FN’s hovedkvarter i New York stillede UNIDIR-direktør Robin Geiss et skarpt spørgsmål til journalisterne:»Vil vi lade maskiner udpege og dræbe mennesker?« spurgte han og advarede om, at kunstig intelligens i stigende grad er »på vej til at fortrænge menneskelig beslutningstagning« i sektoren.
FN’s generalsekretær har gentagne gange opfordret de berørte parter til at sikre, at vi ikke overskrider denne »moralske røde linje«.
Kaptajn og kommandør
Kunstig intelligens får tildelt et stigende antal ansvarsområder inden for militæret, lige fra efterretningsanalyse og målidentifikation til droneoperationer og koordinering af cyberangreb.
Det afgørende er, at dette sker på bekostning af menneskelig dømmekraft, også på det nukleare område, understregede Geiss.
Denne udvikling øger tempoet i operationerne på slagmarken markant, forkorter tiden mellem identifikation og angreb på mål og gør det muligt for styrkerne at angribe et hidtil uset antal mål hver dag.
Samtidig er mange af disse AI-systemer, der er under udvikling, uigennemsigtige, og UNIDIR-chefen advarede om, at de øger risikoen for fejl, fejlberegninger og dermed for utilsigtet eskalering.
Efterhånden som AI-værktøjerne bliver nemmere at bruge, vil det også blive lettere for ikke-statslige aktører at gennemføre stadig mere sofistikerede militære operationer, sagde han.
Geopolitisk konvergens
Geiss erkendte, at geopolitisk konkurrence og spændinger udgør »alvorlige hindringer« for reguleringen af AI’s anvendelse i den militære sektor.
Han understregede dog også, at bekymringerne om risiciene i stigende grad deles – uanset politisk overbevisning – herunder blandt de store globale magter.
I september foreslog USA for eksempel en »anmeldelsesmekanisme« for AI sammen med Kina, så verdens to største militærudgiftslande kan advare hinanden om AI-hændelser, der kan true den nationale sikkerhed.
FN’s generalsekretærs gentagne opfordringer til en skærpet regulering af militær kunstig intelligens og en juridisk bindende traktat om dødbringende autonome våbensystemer »finder også i stigende grad genklang i det internationale samfund«, sagde UNIDIR-direktøren.
En multilateral indsats
UNIDIR arbejder aktivt på at skabe nogle af de byggesten, der er nødvendige for et multilateralt samarbejde om dette emne.
På torsdag vil UNIDIR’s ekspertcenter for kunstig intelligens, fred og sikkerhed lancere et nyt forum med deltagelse af flere interessenter om kunstig intelligens inden for international fred og sikkerhed samt på det militære område – det første og hidtil eneste forum af sin art inden for FN-systemet, sagde hr. Geiss.
Forummet vil fokusere på tre områder:
1. Udvikling af en ramme for ansvarlig adfærd i industrien med praktiske, frivillige retningslinjer, som virksomhederne skal følge i design- og udviklingsfasen af militære AI-værktøjer.
2. Udarbejdelse af et »AI-sikkerhedsleksikon« for at afklare nøglebegreber som autonomi, sikkerhed og beskyttelse, der i øjeblikket anvendes meget forskelligt af de forskellige interessenter – hvilket skaber uklarhed, der hæmmer tillid og samarbejde.
3. At imødegå risikoen for misbrug af AI af ikke-statslige væbnede grupper til at understøtte operationel planlægning, gennemførelse og logistik.
Se den oprindelige artikel her.
Denne oversættelse er genereret ved brug af Word Press Multilingual Plugin. Hvis noget er uklart, henvises til den engelske version af artiklen.