AI-ministern tonar ner larm om hot mot mänskligheten

Sveriges civilminister Erik Slottner, som ansvarar för AI-frågor, ser inte skäl för väljare att vara rädda för den snabba AI-utvecklingen. Han beskriver sig som teknikoptimist och uppger att han ser fram emot utvecklingen med både spänning och entusiasm. Samtidigt anser han att tekniken medför risker, framför allt genom att auktoritära regimer kan använda AI för att kontrollera och manipulera befolkningar och ytterligare stärka sitt grepp om samhället.

Debatten har aktualiserats efter att Jacob Coxon lämnade AI-företaget Anthropic i tisdags och publicerade en omfattande varning på X. Coxon bedömer risken till 10 procent för att AI före decenniets slut kan utplåna mänskligheten. Han varnade även för framtida övermänskliga system som kan hacka avancerade system, snabbt förändra hela verksamhetsområden och skaffa sig betydande makt. Associated Press uppgav att Jacob Coxon sammanlagt arbetat omkring tre år vid Anthropic och OpenAI och att hans varning efter avgången nådde över 100 miljoner människor på nätet. Financial Times uppgav att Jacob Coxon är 27 år och britt.

Även andra personer vid Anthropic har uttryckt oro. Axios uppgav att flera forskare offentligt anslöt sig till Jacob Coxons farhågor. Financial Times uppgav att Evan Hubinger, ansvarig för alignment science vid Anthropic, bedömer risken för att avancerad AI orsakar mänsklighetens undergång inom ett årtionde till mer än 10 procent. Axios uppgav samtidigt att Evan Hubinger uttryckligen bekräftat att han ser en möjlighet att framtida AI kan innebära en risk för hela mänskligheten. Reuters uppgav den 10 september att Jacob Coxons varningar också bidragit till nya krav från amerikanska lagstiftare på bland annat oberoende granskningar och säkerhetsutvärderingar av de mest avancerade AI-systemen.

Erik Slottner anser att om påståendet att AI skulle kunna förinta mänskligheten inom omkring tio år är korrekt, har utvecklingen redan gått så långt att möjligheten att stoppa den kan vara mycket begränsad, med hänvisning till den snabba utvecklingen i USA och Kina. Han uppger samtidigt att Sverige har tagit steg inom AI-området under mandatperioden och att han sover gott om nätterna.

Regeringen meddelade den 25 februari 2026 att Sveriges första heltäckande nationella AI-strategi har som mål att föra landet till en plats bland världens tio främsta AI-nationer. Strategin omfattar även ansvarsfull och säker användning av AI samt stabila internationella regelverk. Myndigheten för digital förvaltning och Post- och telestyrelsen har fått i uppdrag att följa upp strategin, analysera AI-utvecklingen i Sverige och föreslå ytterligare åtgärder som kan behövas för att nå målen.

AI Sweden uppgav i februari 2026 att de åtgärder som regeringen dittills presenterat inte räcker för att Sverige ska nå en global topp tio-placering. Organisationen efterlyste större investeringar och en permanent central AI-funktion inom Regeringskansliet. Erik Slottner bedömer att Sverige står sig relativt väl internationellt men att USA och Kina ligger före både Sverige och EU. Han pekar på EU-samarbetet, svenska startupföretag och Sveriges ställning som innovationsland som viktiga delar av den svenska AI-utvecklingen. Han anser också att Europa behöver bli mer konkurrenskraftigt och mindre beroende av USA samt få fram fler starka teknikföretag som kan leverera avancerade tjänster till svenska företag och offentlig sektor.

EU-kommissionen meddelade att den från den 2 augusti 2026 fullt ut kan tillämpa AI-förordningens krav på leverantörer av generella AI-modeller. För modeller som bedöms innebära systemrisk omfattar reglerna bland annat riskhantering, incidentrapportering och cybersäkerhet. Samma datum började även nya transparensregler tillämpas, däribland krav på information när användare interagerar med vissa AI-system och krav på märkning av deepfakes.