Onsdag den 23. september briefer nogle af verdens mest indflydelsesrige AI-ledere FN’s Sikkerhedsråd om, hvordan kunstig intelligens påvirker international sikkerhed. Blandt talerne er OpenAI’s topchef Sam Altman, Anthropic-chef Dario Amodei og Clément Delangue, medstifter af Hugging Face, ifølge Reuters.

Også Yoshua Bengio, som er medformand for FN’s videnskabelige rådgivningspanel om AI, er sat på programmet. Mødet holdes i forbindelse med FN’s årlige Generalforsamling og ledes af Frankrigs udenrigsminister Jean-Noël Barrot. Sikkerhedsrådet har 15 medlemmer.

Uenighed mellem USA og resten af verden

Briefingen kommer efter uger, hvor flere AI-ledere, herunder Altman selv, har opfordret til en koordineret opbremsning i udviklingen af stadig mere kraftfulde AI-systemer. Bekymringen er, at teknologien snart kan blive i stand til at forbedre sig selv og glide uden for menneskelig kontrol.

USA’s præsident Donald Trump har dog signaleret det modsatte. I sin tale til FN’s Generalforsamling afviste han ethvert forsøg på at opbygge, hvad han kaldte et globalt kontrolskema for AI.

“We’re leading now over China by a lot, and everyone else, and we’re going to keep it that way,” sagde Donald Trump, USA’s præsident, ifølge Reuters.

Trump tilføjede, at han ikke vil kvæle en teknologi, han mener bliver større end den industrielle revolution, og at USA vil “opmuntre den, ikke tøjle den”.

FN’s generalsekretær António Guterres har en anden vinkel og har flere gange advaret om risikoen ved AI uden ansvarlighed, herunder udviklingen af autonome våbensystemer.

“The danger is not technology, the danger is technology without accountability,” sagde António Guterres, FN’s generalsekretær, ifølge The Spokesman-Review.

Guterres har også talt direkte om såkaldte “killer robots” og understreget, at livs- og dødsafgørelser aldrig må overlades til maskiner. FN’s Generalforsamling vedtog i december 2024 en resolution om dødbringende autonome våbensystemer med 166 stemmer for og kun 3 imod.

Kina og en mulig varslingsmekanisme

Kinesiske AI-selskaber som DeepSeek og Moonshot AI var inviteret til at afgive erklæringer, men DeepSeeks grundlægger Liang Wenfeng ventedes ikke at deltage, selv om planerne ifølge kilder stadig var uafklarede.

Ifølge finansminister Scott Bessent har USA og Kina desuden drøftet at oprette et system til at underrette hinanden om AI-relaterede hændelser, der udgør en national sikkerhedsrisiko. Drøftelserne kommer forud for et møde mellem Trump og Kinas leder Xi Jinping i Washington torsdag.

Altman ventes ifølge en OpenAI-kilde at opfordre verdens ledere til at vedtage fælles målestokke for at vurdere AI-systemers kapaciteter og de sikkerhedsforanstaltninger, selskaberne indfører. OpenAI har separat opfordret USA til at gå forrest i arbejdet med tekniske standarder for de mest avancerede AI-modeller.

Denne artikel er gratis at læse. Det bliver den ved med at være — ingen betalingsmur, ingen konto, ingen sporing.