© Unsplash/Igor Omilaev | FN’s Sikkerhedsråd mødes for at diskutere effekten af kunstig intelligens på international fred og sikkerhed.
Sæt mennesket i centrum: FN’s AI-panel begynder at arbejde på en undersøgelse af den globale effekt
FN’s uafhængige internationale videnskabelige panel om kunstig intelligens – det første globale organ af sin art – er ved at gøre klar til sit første personlige topmøde.
Denne gruppe af verdens førende eksperter har fået til opgave at navigere i det ustabile krydsfelt mellem innovation og etik og lancerer en skelsættende undersøgelse af de kræfter, der transformerer det moderne liv.
“Vi fokuserer ikke kun på AI som et matematisk eller algoritmisk felt: Vi ser også på, hvordan vi kan sikre, at mennesker er centrale i beslutningstagningen,” siger Menna El-Assady, der er adjunkt ved Swiss Federal Institute of Technology (ETH) i Zürich.
El-Assady er et af de stiftende medlemmer af FN’s uafhængige panel om kunstig intelligens, anbefalet af FN’s generalsekretær.Independent International Scientific Panel on AI, det første globale videnskabelige organ om kunstig intelligens (AI), som samler førende eksperter for at vurdere, hvordan AI forandrer vores liv.
Hun er egyptisk statsborger og er et af 40 medlemmer, som formelt blev udnævnt af generalforsamlingen i februar. De kommer fra forskellige baggrunde – herunder den akademiske verden, den private sektor, civilsamfundet, statslige/internationale organisationer og det tekniske samfund – og har baggrund i teknisk kerneekspertise inden for AI, erfaring med anvendt AI, sikkerhed og infrastruktur samt AI-politik, -etik og -påvirkning.
Udvidet intelligens
“Et menneske i maskinen” er en sætning, der ofte bruges i forbindelse med brugen af AI. Det henviser til ideen om, at et menneske altid skal være involveret i beslutninger, der træffes af AI-værktøjer.
“Vi prøver at finde ud af, hvornår vi er nødt til at stole på mennesker og deres ekspertise, og hvornår ting kan automatiseres,” siger hun. “Vi er nødt til at forstå forbindelsen mellem AI og menneskelige modeller, det, der er kendt som co-adaptation loop, og den udvikling, der sker, når mennesker modtager ny information, eller når AI gør det.
På ETH Zürich har El-Assady udviklet begrebet “augmented intelligence”, hvor man bruger AI til at forbedre menneskelige evner i stedet for helt at erstatte mennesker, og hvor man opbygger samarbejde mellem AI og mennesker inden for forskellige områder.
Denne ekspertise er især nyttig for arbejdet i AI-panelet, som undersøger, hvordan brugen af AI påvirker forskellige områder i samfundet, f.eks. arbejdsmarkedet og sundhedssystemet.
El-Assady er fortaler for en “offentlig digital infrastruktur”, så alle, der ønsker at udvikle AI, har de ressourcer, de har brug for.
“Vi er også nødt til at se på, hvordan vi kan indarbejde forskellige kulturer og sprog i AI-modeller, så de ikke er begrænset til et lille antal lande“, tilføjer hun.
Tillid, etik og vandmærker
Lanceringen af panelet var en afspejling af den voksende bekymring for risikoen ved ureguleret AI, ikke mindst i FN.
FN’ s generalsekretær António Guterres advarede i september 2025 Sikkerhedsrådet om, at “menneskehedens skæbne ikke kan overlades til en algoritme”, mens Volker Türk, FN’s højkommissær for menneskerettigheder, i februar sagde, at AI-udviklere, der bygger modeller uden forståelse for grundlæggende sociale og etiske principper, risikerer at skabe “Frankensteins monster”.
El-Assady er enig i, at etik og tillid er afgørende for sektoren, ligesom en bevidsthed om AI-modellernes begrænsninger.
En mulig løsning, som El-Assady foreslår, er “AI-vandmærkning“, som vil gøre det klart, om indholdet er menneskeskabt eller AI-genereret, og hvordan man kan skelne mellem dem.
Det er eksempler på den slags emner, der kunne indgå i det videnskabelige panels første rapport, som skal offentliggøres på Global Dialogue on AI Governance, som finder sted den 6.-7. juli i Genève.
Det uafhængige internationale videnskabelige panel om AI
Det uafhængige internationale videnskabelige panel for kunstig intelligens fungerer som det første globale videnskabelige organ for kunstig intelligens (AI) og samler førende eksperter for at vurdere, hvordan AI forandrer vores liv.
Panelet har fået mandat til at udarbejde en årlig rapport med evidensbaserede videnskabelige vurderinger af mulighederne, risiciene og konsekvenserne af kunstig intelligens, som vil blive præsenteret på FN’s globale dialog om styring af kunstig intelligens.
Panelet er ikke et regulerende organ og vil ikke fastsætte regler, håndhæve standarder eller foreskrive politik. Det vil levere den grundige, evidensbaserede, politikrelevante, men ikke-foreskrivende analyse, som informeret beslutningstagning kræver.
Læs mere om panelets arbejde her.
Find venligst den originale artikel her.
Denne oversættelse er genereret ved brug af Word Press Multilingual Plugin. Hvis noget er uklart, henvises til den engelske version af artiklen.