© Adobe Stock/Ipopba Kunstig intelligens udvikler sig i rekordfart.

Frivillig selvregulering blandt virksomheder, der udvikler banebrydende kunstig intelligens (AI), er »langt fra tilstrækkelig« til at imødegå eksisterende skader og forhindre avancerede autonome AI-modeller i at omgå menneskelige sikkerhedsforanstaltninger, skrev FN’s menneskerettighedschef Volker Türk mandag.

»Det nuværende kapløb mod stadig mere kraftfuld kunstig intelligens udgør et afgørende skift i retning af større eksistentielle risici for alle aspekter af vores liv,« skrev han i et åbent brev.

Højkommissærens udtalelse kommer seks dage efter, at en tidligere forsker hos Anthropic – firmaet bag chatbotten Claude – sagde sin stilling op og samtidig advarede om, at»de mennesker, der udvikler kunstig intelligens, er fuldt og fast overbevist om, at den kan dræbe os alle inden udgangen af dette årti.«

Flere nylige hændelser, herunder Jacob Coxons fratrædelse og meddelelser fra OpenAI og Anthropic om, at deres modeller var brudt ud af testmiljøerne, har skærpet den globale debat om, i hvilket omfang regeringerne bør regulere teknologien.

Intet land kan klare sig alene

Türk opfordrede de lande, der er hjemsted for banebrydende AI-virksomheder, til at skærpe reguleringen, bl.a. ved at pålægge virksomhederne at indberette alvorlige hændelser, verificere AI-kapaciteterne og indføre krav om due diligence på menneskerettighedsområdet.

Han opfordrede desuden medlemsstaterne til at samarbejde gennem multilaterale institutioner for at skabe global enighed om regulering af kunstig intelligens og beskytte menneskerettighederne i lyset af risiciene ved kunstig intelligens.

»Intet land kan alene regulere denne teknologi,« skrev Türk.»Ingen virksomhed bør kunne bestemme på egen hånd, hvilke risici verden skal acceptere. Ingen bør være forpligtet tilat give afkald på sine menneskerettigheder til gengæld for påstande om teknologisk fremskridt.«

»Gå langs grænsen«

Dario Amodei, administrerende direktør for Anthropic, offentliggjorde lørdag et essay med titlen »We Must Pace the Frontier«, hvor han argumenterer for, at virksomhederne skal fortsætte med at gøre fremskridt inden for udviklingen af kunstig intelligens, samtidig med at de tager den nødvendige tid til at sikre tilstrækkelige sikkerhedsforanstaltninger, der kan forhindre, at »agente-systemer« løber løbsk.

Ledere hos OpenAI, Google og xAI gav alle udtryk for, at de var enige i Amodeis forslag, som blandt andet indeholder opfordringer til tredjepartsvurdering af AI-modeller, øget koordinering mellem AI-virksomheder og samarbejde mellem regeringer.

Türk udtrykte sin tilfredshed med Amodeis forslag specifikt og med selvregulering i branchen generelt – men tilføjede, at regeringerne også hurtigst muligt må træffe foranstaltninger til at regulere AI-teknologien.

Intet »kapløb mod bunden«

»De få stater, der er hjemsted for førende banebrydende AI-virksomheder, har en særlig forpligtelse til at kræve, at disse virksomheder handler ansvarligt, og til at stille dem til ansvar, hvis de ikke gør det,« skrev højkommissæren.

Türk fremhævede virksomheder i Kina og USA som værende »i front« inden for banebrydende AI og påpegede behovet for internationale standarder og samordning for at mindske incitamenterne til et AI-våbenkapløb mellem de to lande.

»De er nødt til at samordne deres tilgange, så konkurrencen mellem jurisdiktionerne ikke fører til et kapløb mod bunden,« skrev Türk.

Ifølge Türk bør risiciene ved og styringen af kunstig intelligens først og fremmest vurderes ud fra dens indvirkning på menneskerettighederne.

Ud over at sikre, at kunstig intelligens ikke ødelægger menneskeheden, sagde menneskerettighedschefen, at sikkerhed i forbindelse med kunstig intelligens indebærer, at man aktivt beskytter mennesker, samfund, institutioner og kommende generationer.

Mennesker frem for profit

Türk afviste industriens argument om, at sikkerhedsforanstaltninger inden for kunstig intelligens bremser innovationen, og fremførte, at ingen bør tvinges til at give afkald på sine menneskerettigheder for at muliggøre fremskridt.

Som situationen er nu, sagde han, at retten til liv, mad, privatliv, sundhed og sikkerhed alle er truet af en ukontrolleret udvikling af kunstig intelligens.

Om kunstig intelligens fortsat vil bidrage til desinformation og ulige automatisering eller derimod vil bidrage til at løse klimakrisen og helbrede sygdomme, afhænger ifølge Türk af, hvordan virksomheder og regeringer vælger at reagere på det nuværende »vendepunkt«.

»Den generation, der nu træder ind i voksenlivet, vil arve konsekvenserne af de beslutninger, der træffes i denne sag, uden at have haft indflydelse på dem,« skrev Türk. »Vi skylder dem at sikre, at disse beslutninger træffes åbent, med deres rettigheder for øje og med den ydmyghed, som omfanget af denne opgave kræver.«

Find venligst den originale artikel her.

Denne oversættelse er genereret ved brug af Word Press Multilingual Plugin. Hvis noget er uklart, henvises til den engelske version af artiklen.