FN-chef varnar för allvarliga risker med avancerad AI

FN:s människorättschef Volker Türk varnade under FN:s råd för mänskliga rättigheters 63:e ordinarie session för att avancerad artificiell intelligens kan utgöra ett existentiellt hot mot mänskligheten. Han pekade också på riskerna med att stor makt över teknikutvecklingen är koncentrerad till ett litet antal företagsledare.

Volker Türk sade att han delar den oro som har framförts av personer inom AI-branschen och uppmanade både företag och länder att snabbt enas om säkerhetsgränser för hur tekniken utvecklas och används. Han framhöll att länder med stora AI-verksamheter och stater som ingår i teknikens leveranskedjor åtminstone behöver komma överens om gemensamma röda linjer, oberoende verifiering och ett betydligt starkare säkerhetssamarbete inom branschen.

Volker Türk meddelade samtidigt att han under de närmaste dagarna avser att kontakta AI-företag direkt och uppmana dem att omedelbart genomföra sådana riskreducerande åtgärder som ligger inom deras egen kontroll. FN:s människorättsråd uppger att uttalandet gjordes vid sessionen i Palais des Nations i Genève, som inleddes den 7 september 2026 och pågår till den 7 oktober.

Frågan om internationella regler för AI har samtidigt fått en större roll inom FN. Den första sessionen i Global Dialogue on AI Governance hölls i Genève den 6–7 juli 2026 och samlade över 4 200 registrerade deltagare från närmare 170 FN-medlemsstater. Nästa session är planerad till New York den 3–4 maj 2027. Vid öppnandet i juli sade FN:s generalsekreterare António Guterres att AI redan kan påverka ekonomier, arbetsmarknaden, val och säkerhetsbalansen och att tekniken införs snabbare än även dess utvecklare kan hålla jämna steg med.

FN:s Independent International Scientific Panel on AI konstaterade i en preliminär rapport från juli 2026 att befintliga säkerhetsåtgärder inte håller jämna steg med ökningen av AI-systemens förmågor. Panelen ska fortsätta sitt arbete och lämna nästa årsrapport inför FN:s AI-dialog i maj 2027. EU och dess medlemsstater framhöll under mötet i juli att det var första gången samtliga FN-medlemmar samlades i ett särskilt forum för AI-styrning och betonade behovet av internationellt samarbete.

Parallellt har flera regelverk redan utvecklats. Europeiska kommissionens AI Act Service Desk uppger att EU:s tillsynsbefogenheter för bland annat förbjudna AI-metoder, vissa transparenskrav och regler för generella AI-modeller började kunna tillämpas den 2 augusti 2026. UNESCO:s medlemsstater antog redan 2021 en global normativ standard för AI-etik med principer om säkerhet, ansvar, transparens, mänsklig tillsyn och respekt för mänskliga rättigheter. Europarådets ramkonvention om artificiell intelligens, mänskliga rättigheter, demokrati och rättsstatlighet öppnades för undertecknande den 5 september 2024 och kräver fem ratifikationer, varav minst tre från Europarådets medlemsstater, för att träda i kraft.