Statsvetare varnar för AI-råd inför valet

Generativ AI kan ge väljare politisk vägledning trots att direkta rekommendationer om hur någon bör rösta normalt inte lämnas. Anamaria Dutceac Segesten, statsvetare vid Lunds universitet, bedömer att det finns flera problem med att använda chattbottar som vägledning inför ett val. Genom följdfrågor kan en användare enligt henne ändå få svar som i praktiken närmar sig en rekommendation.

Anamaria Dutceac Segesten framhåller att problemet inte enbart gäller risken för att en AI-modell anpassar svaret efter vad den bedömer att användaren vill höra. Hon pekar även på att informationen som modellen bygger sina svar på kan ha manipulerats. Lunds universitet uppger att Anamaria Dutceac Segesten är docent i Europastudier, biträdande dekan vid humanistiska och teologiska fakulteterna och arbetar med bland annat AI och politik, sociala nätverksanalyser och computational social science.

Enligt Anamaria Dutceac Segesten har ryska påverkansoperationer redan förekommit i samband med val på lokal, regional och nationell nivå i flera länder. Hon uppger också att kandidater har försökt påverka chattbottars svar genom att strategiskt placera information som systemen kan fånga upp.

Myndigheten för psykologiskt försvar bedömde i juni 2026 att det svenska valet då inte var ett prioriterat mål för utländska hotaktörer. Myndigheten konstaterade samtidigt att generativ AI har sänkt den tekniska tröskeln för informationspåverkan och gjort det betydligt enklare att anpassa budskap till särskilda målgrupper.

Regeringen uppgav att statsminister Ulf Kristersson den 6 februari 2026 samlade ledarna för riksdagspartierna till ett möte om skyddet av valet mot otillbörlig påverkan. Vid mötet presenterade Valmyndigheten, Säkerhetspolisen och Myndigheten för psykologiskt försvar sina respektive lägesbilder.

Internetstiftelsen uppgav i rapporten Svenskarna och internet: Valspecial 2026 att 88 procent av svenskarna tror att AI kommer att användas för att skapa falska bilder eller videor i syfte att påverka valutgången. Samtidigt uppgav nära hälften att de har svårt att avgöra om politiska inlägg är skapade med AI.

Forskare bakom en studie som publicerades i Nature 2025 genomförde randomiserade experiment i samband med valen i USA 2024, Kanada 2025 och Polen 2025. Forskarna fann att samtal med AI-modeller som argumenterade för en kandidat kunde förändra deltagarnas kandidatpreferenser. Effekterna var större än vad som normalt har observerats för traditionella videoannonser, samtidigt som forskarna konstaterade att en del av de fakta som modellerna använde var felaktiga.

EU-kommissionens AI Act Service Desk anger att AI-system som är avsedda att påverka ett valresultat eller väljares röstbeteende omfattas av AI-förordningens kategori för högrisk-AI. Som uttryckligt exempel anges en politisk AI-chattbot som används för att övertyga väljare att stödja en kandidat eller en politisk linje.

OpenAI uppgav i maj 2026 att företagets tjänster inte får användas för valinblandning eller för storskaliga kampanjbudskap för eller emot kandidater och partier. Företaget uppgav samtidigt att det arbetar med tester för att hålla ChatGPT:s svar på politiska frågor neutrala. Den 25 augusti 2026 meddelade OpenAI att en grupp ChatGPT-konton med ursprung i Ryssland hade stängts av efter att de använts i en dold påverkansoperation som bland annat producerade AI-genererade inlägg och marknadsförde den självbeskrivna expertorganisationen International Burke Institute.