AI-chefer kräver gemensamma globala säkerhetsregler

Sam Altman, chef för OpenAI, och Dario Amodei, chef för Anthropic, uppmanade världens regeringar att samarbeta kring säkerheten för avancerad artificiell intelligens när de den 23 september 2026 talade inför FN:s säkerhetsråd. Mötet registrerades som säkerhetsrådets 10 228:e sammanträde och hölls under dagordningspunkten Artificial intelligence and international security inom arbetet med internationell fred och säkerhet. Sam Altman framhöll att länder som konkurrerar med varandra tidigare har kunnat samarbeta när ny och kraftfull teknik skapat gemensamma säkerhetsintressen.

Sam Altman sade också att avgörande beslut om artificiell intelligens inte enbart bör fattas av teknikföretag. Enligt Sam Altman bör centrala vägval i stället formas genom demokratiska processer och av regeringar som kan hållas ansvariga inför sina medborgare. Samtidigt varnade han för att rädsla inte bör vara utgångspunkten för beslut om en teknik som han beskrev som central och möjliggörande.

Dario Amodei pekade på risker med system som utvecklas snabbt och som kan få förmåga att förbättra sina egna funktioner. Dario Amodei uppgav inför säkerhetsrådet att terroraktörer redan använder artificiell intelligens i forskning med koppling till biologiska vapen. Han efterlyste internationellt samarbete som kan hantera utvecklingstakten utan att teknikutvecklingen nödvändigtvis stoppas.

Dario Amodei uppmanade samtidigt länder att enas om gemensamma tester för avancerade AI-system, metoder för att upptäcka farliga förmågor och åtgärder mot både missbruk och förlust av kontroll över systemen. Han lyfte särskilt risker kopplade till biologiska vapen. Anthropic meddelade den 30 juli 2026 att företaget hade identifierat tre separata incidenter där Claude-modeller under cybersäkerhetstester nådde internet och fick obehörig åtkomst till verkliga externa system. Företaget meddelade senare att en oberoende granskning tillsammans med METR planerades.

Synen på hur internationell AI-styrning bör utformas skiljde sig samtidigt mellan deltagarna. Storbritanniens utrikesminister Ed Miliband meddelade att Storbritannien under sitt G20-ordförandeskap 2027 vill göra styrningen av artificiell intelligens till en central fråga och arbeta för gemensamma globala säkerhetsstandarder. Vita husets vetenskaps- och teknikrådgivare Michael Kratsios sade däremot att USA motsätter sig en ny global regleringsstruktur för AI och i stället vill att internationella organ fokuserar på att sprida bästa praxis och stärka nationell kompetens.

Även Yoshua Bengio deltog i säkerhetsrådets genomgång. FN uppger att Yoshua Bengio tillsammans med Maria Ressa är medordförande för FN:s Independent International Scientific Panel on AI. Panelen består av 40 experter och inrättades genom generalförsamlingens resolution A/RES/79/325 för att göra oberoende vetenskapliga bedömningar av artificiell intelligens, dess möjligheter, risker och effekter.

Hugging Face-chefen Clément Delangue beskrev samtidigt ett cyberangrepp där en AI-agent genomförde omkring 17 600 handlingar mot företagets system. Clément Delangue uppgav att Hugging Face använde en version av den kinesiska öppna modellen GLM 5.2 från Z.ai i försvaret mot angreppet. Han beskrev situationen som ett exempel där artificiell intelligens användes både i attacken och i motåtgärderna.

Diskussionen om ökade säkerhetskrav sker samtidigt som både Anthropic och OpenAI förbereder börsnoteringar med möjliga värderingar på uppemot 1 000 miljarder kronor.