AI-genererad illustration
OpenAI kan bromsa AI-utvecklingen efter säkerhetsvarningar
OpenAI:s vd Sam Altman har öppnat för att sänka takten i utvecklingen av allt mer avancerade AI-system. Vid ett internt möte sade Sam Altman att bolaget överväger en långsammare utvecklingstakt och att han även vill få andra AI-företag att agera på liknande sätt.
OpenAI meddelade den 18 augusti att bolaget redan hade börjat anpassa utvecklingstakten efter en incident mellan en OpenAI-agent och Hugging Face samt preliminära tester som visade att den kommande modellen Astra kunde nå bolagets kritiska cybersäkerhetströskel. Sam Altman sade dessutom i juli att utvecklingen kan behöva anpassas för att ge samhället tid att bygga skydd kring nya kapacitetsnivåer. Han tog samtidigt upp behovet av en modell för samordning som inte innebär otillåtet samarbete mellan konkurrerande AI-företag.
Diskussionen sker samtidigt som flera AI-forskare har varnat för mycket allvarliga risker med tekniken. Jacob Coxon, som tidigare arbetat med förträningsforskning hos både OpenAI och Anthropic och sammanlagt varit verksam omkring tre år vid bolagen, lämnade nyligen Anthropic i protest. Han anser att varken OpenAI eller Anthropic agerar tillräckligt ansvarsfullt och skrev på X att personer som utvecklar AI på allvar bedömer att tekniken skulle kunna döda hela mänskligheten före decenniets slut.
Jacob Coxon sade i en intervju med WIRED att han arbetat med förträning av AI-modeller och att de närmaste ett till två åren enligt hans bedömning blir avgörande för arbetet med att göra framtida system säkra. AP uppgav att hans offentliga varning efter avhoppet fick mycket stor spridning på nätet.
Anthropicforskaren Evan Hubinger, som leder arbete med alignment science, sade efter Jacob Coxons avgång att han själv bedömer sannolikheten till över 10 procent för att AI orsakar mänsklighetens undergång inom det kommande årtiondet. Evan Hubinger sade också att Anthropic ännu inte har någon färdig lösning för att kontrollera superintelligenta system.
Debatten har även fått stöd från anställda i AI-branschen. I juli hade över 1 000 personer vid ledande AI-företag skrivit under ett upprop där regeringar och branschen uppmanades att skapa möjlighet att medvetet bromsa utvecklingen för att ge mer tid åt säkerhetsåtgärder och tillsyn. Bland undertecknarna fanns forskare från OpenAI samt Anthropics vd Dario Amodei.
OpenAI:s chefsforskare Jakub Pachocki skrev den 6 september att en kapplöpning framåt till varje pris inte är rimlig om riskerna tas på allvar. Han lyfte samtidigt behovet av samordnade åtgärder för att människor ska behålla kontrollen över allt mer avancerade AI-system.
Analys
Förklaring:
Artikeln är i stort skriven med ett sakligt och neutralt språk utan egna värderingar eller spekulationer från journalisten. Samtliga värderingar, anklagelser och hårda uttryck som förekommer är tydligt tillskrivna källor såsom Sam Altman, Jacob Coxon, Evan Hubinger eller andra tydligt namngivna parter och återges som deras uttalanden. Journalisten gör inga egna slutsatser eller försöker påverka läsarens känslor. Formuleringar som 'OpenAI överväger', 'Jacob Coxon anser', och 'Evan Hubinger bedömer' är neutralt återgivna och markerar källans perspektiv. Det finns inga överdrifter, förstärkningar eller förminskningar från journalistens sida. Viss poängavdrag görs då texten i vissa stycken upplevs något sammanfattande, men utan att bidra med värderande språk. Detta är dock normalt i nyhetsartikelns form och påverkar inte i någon större grad artikelns oberoende.
Förklaring:
Artikeln gynnar främst vänsterpolitiska perspektiv genom betoning på samhälleligt ansvar, säkerhet och reglering av teknologi samt en starkare styrning för att skydda samhället. Kritiska röster mot marknadsstyrd utveckling lyfts fram utan motbalans från marknads- eller teknikoptimistiska perspektiv, vilket gör att artikelns perspektiv primärt gynnar idéer om statlig kontroll och skydd av allmänhetens intresse.
Rubrik och framing:
Artikeln skapar en verklighetsbild där de snabba framstegen inom AI ses som potentiellt farliga, och att ett bredare samhälleligt ansvar samt gemensam reglering är nödvändig. OpenAI och andra AI-företag framställs som både problembärare och möjliga lösare genom att de överväger att bromsa utvecklingen av säkerhetsskäl.
Språk och ton:
Språket är sakligt, men ordval som "säkerhetsvarningar", "risker", "ansvarsfullt agerande" och "behov av samordning" ger tyngd åt behovet av statlig eller kollektiv kontroll och reglering, vilket gynnar lösningar med starkare statlig inblandning.
Källbalans:
Artikelns källor är främst experter och företrädare inom AI-forskning och företag som OpenAI, Anthropic samt forskare som varnar för risker, vilket ger stort utrymme åt kritik och behov av reglering. Det finns inget utrymme för industrins eller marknadens fördelar med snabb utveckling, vilket skapar en ensidig källa till fördel för restriktiva åtgärder.
Utelämnanden och kontext:
Viktiga perspektiv om marknadens roll, innovationens betydelse för ekonomi, eller argument för snabb teknikutveckling och marknadslösningar saknas. Detta utelämnande gör att artikeln främst framhäver behovet av statliga och samhälleliga åtgärder snarare än individuellt ansvar eller marknadsbaserad flexibilitet.
Analysen är en AI-bedömning av språk, vinkling och perspektiv. Den ska ses som en indikation, inte som en absolut sanning.
Senaste nyheter
Socialdemokraterna KU-anmäler Ulf Kristersson efter SD-affären
Socialdemokraterna anmäler statsminister Ulf Kristersson till riksdagens konstitutionsutskott med anledning av uppgifterna om Sverigedemokraternas tjänsteman...
Så avgörs regeringsfrågan efter riksdagsvalet
Efter riksdagsvalet den 13 september kan regeringsbildningen utvecklas på flera sätt beroende på valresultatet och...
Huthierna tar öar vid strategiska Bab al-Mandab
Huthirörelsen har tagit kontroll över flera strategiskt placerade öar i Röda havet nära Bab al-Mandab....
Gulfstater och Iran söker lösning för Hormuz
Utrikesministrar från Gulfstaternas samarbetsråd, GCC, och Iran planerar att mötas på måndag i Salalah i...
