AI och demokratin – därför måste vi få inflytande över utvecklingen

– I dag har enskilda individer i Silicon Valley, riskkapitalister och AI-utvecklare nästan full kontroll över utvecklingen, medan alla vi andra som påverkas av AI i vår vardag i det närmaste inte har någon kontroll alls, säger Eva Erman, professor i statsvetenskap vid Stockholms universitet.

Tillsammans med kollegan Markus Furendal driver hon två forskningsprojekt med olika fokus, men som båda sätter luppen på konsekvenserna av AI och användandet av AI i politiskt beslutfattande, det ena globalt och det andra nationellt inom svenska myndigheter. Inom svenska myndigheter används i dag AI inom bland annat rekryteringsprocesser, bidragsbeslut och vid gränskontroller.

Underlag saknas

– När vi tittar på hur myndigheter använder AI på nationell nivån blir det tydligt hur snabbt svenska myndigheter har börjat använda AI, trots att man på alla nivåer haft extremt liten kunskap om ifall det skulle förbättra processerna eller inte. Vårt intryck hittills är att de allra flesta institutioner ivrigt hoppade på AI-tåget utan att ha någon form av evidens som visar att det leder till mer effektivitet eller bättre beslutsprocesser.

Det är enligt Eva Erman viktigt att som myndighet ta reda på under vilka omständigheter det ger fördelar att använda AI och när det inte gör det. Men här är det mesta som har skrivits inom området, som skulle kunna användas som stöd, bristfälligt. Och på global nivå är läget lika akut. Det mesta som skrivits gäller antingen hypotetiska filosofiska framtidsfrågor eller detaljerade tekniska frågor inom datavetenskapen.

– Det finns väldigt lite författat om demokratifrågor kopplat till användningen av AI, både lokalt och globalt. Trots att alla riktlinjer och policys innehåller begrepp som signalerar demokrati: som behovet av transparens, ansvarighet, delaktighet och deliberation*, säger dessa värden i sig själva väldigt lite om hur beslutsfattandet ska bli demokratiskt.

*när medborgare och politiker deltar i samtal för att förstå varandras argument och hitta lösningar på gemensamma problem.

Riktlinjer räcker inte

Enligt Eva Erman räcker inte det system av självreglering som finns i dag, där frivilliga policys och riktlinjer är det enda som finns att hålla sig i.

– Så kallad “soft-law” kan inte leva upp till demokratiska principer av flera skäl. Framför allt för att de som påverkas av AI, det vill säga det stora flertalet, inte är inbjudna till beslutsfattandet. Vi måste tillsammans besluta hur samhället på bästa sätt ska använda AI.

Kunskap avgörande

En nyckel till det är att vi som medborgare får bättre kunskap om vad AI är och hur det fungerar.

– Det är viktigt att veta vad man ska ha AI till, för bara för att det finns är det inte säkert att vi bör använda det inom alla områden. Frågor att ställa är: I vilka sorters beslutsfattande lämpar det sig bäst att använda AI? Var är det mer problematiskt? Det är inte bara en empirisk utan även en normativ fråga, det vill säga en värdefråga som handlar om hur vi vill att samhället ska se ut.

En annan viktig fråga är den om ansvar.

– Vilka krav ska vi ställa på en AI som fattar ett myndighetsbeslut? Vi tänker ju att vi ska kunna ställa någon till svars när ett beslut har tagits. Då vill vi ju inte att en algoritm ska vara den som motiverar beslutet, som vi ska gå och klaga till.

Men hur ska diskussionen om det gå till globalt?

– Det kan att ske på olika nivåer. Skillnaden mellan AI och andra policyområden är på flera sätt inte så stor. Det finns många andra frågor där vi också behöver gemensamma regelverk, till exempel inom klimatfrågan och frågor om global handel. Där finns ju redan väldigt många globala strukturer som fungerar. Skillnaden när det gäller AI är att det är så nytt och har gått så fort. Det gör att lagstiftningen ligger steget efter hela tiden. Det är inte unikt för AI utan förekommer inom andra policyområden också, mycket regleras i efterhand. Men hastigheten med vilken AI utvecklas är relativt unik.

Som forskare inom AI och demokrati är kanske den viktigaste frågan vad som är specifikt för AI.

– Det är det vi tittar på. Det finns redan väldigt mycket global reglering. Utöver det som redan finns, vad extra behövs när det gäller AI?

Vilka risker finns om inte AI regleras på ett demokratiskt sätt?

– De stora riskerna nu är att vi aldrig har sett en sådan koncentration av makt i så få händer som inom AI-domänen, där få stora tech-bolag dominerar. De har inte bara marknadsmakt utan besitter även epistemisk makt, det vill säga kunskapsmakt. De drar ofta till sig de bästa experterna och ingenjörerna. Förut hade marknadsaktörer och forskare olika plattformar. Nu är det väldigt många forskare som sugs in i marknadsmakten. De utvecklar AI och skapar spelreglerna, samtidigt som de ska lyda under dessa spelregler. Ändå har de inget demokratiskt mandat. Idealt skulle de lyda under lagar som är skapade av folkvalda organ.

Oj det låter skrämmande – eller?

– Samtidigt är det spännande. Det vi behöver göra som ett första steg är att vi måste se till att få tydliga regelverk på plats. Väldigt många som är engagerade i ”big tech” har jättekonstruktiva mål för världen. Det är många som struntar i pengar, hängivna ingenjörer som brinner för det de gör. Men det är naivt att tro att de också ska eller bör ta ansvar för att skapa de regelverk som behövs.

Vad behövs då?

– Det som krävs är så kallad ”hard-law”. Det är inget konstigt med att tech-bolag utforskar teknik. Många har etiska riktlinjer på plats och följer den ”soft-law” som finns, det vill säga icke-tvingande riktlinjer, men det räcker inte. Det måste finnas möjlighet till sanktioner.

Finns det några sådana exempel?

– Ja, här är EU unikt med den ”AI act” som kom på plats 2024. Världens första överstatliga reglering av AI. EU är också unikt hittills när det gäller överstatligt demokratiskt styre.

Men hur ser det ut med överstatliga muskler utanför EU i dag?

– Vi har globala problem som inte kan lösas av enskilda stater, som terrorism, pandemier, klimatförändringar och nu AI. Då krävs det överstatlighet för att komma någon vart. Om man tittar historiskt är dagens situation bättre än den någonsin varit vad gäller globalt samarbete. Bara detta att vi har internationella brottmålsdomstolen. För hundra år sedan var EU en omöjlig tanke, liksom kvinnlig rösträtt dessförinnan. Nästan alla framgångar har kommit trots att de flesta då var överens om att det där kommer aldrig ske, det är omöjligt. De behov vi har idag globalt driver fram en önskan om samarbete som inte fanns förut.

Gör det att vi kan vara lite optimistiska om framtiden?

– Ja, jag tycker det. Allt internationellt samarbete vi har i dag är ju enorma framsteg. Unga kommer också mer och mer att ta över poster i samhället vilket kommer att leda till förändring. Titta bara på med vilken självklarhet unga omfattar frågor som feminism. Allt annat skulle vara helt befängt för den yngre generationen.

Vad behövs för att komma framåt med regleringen av AI?

– Det som gör det lite ogripbart när det gäller styrningen av AI är att det för många fortfarande är något obegripligt. Vi måste göra AI begripligt. För att det ska bli rätt tror jag är det är viktigt att inte ha så bråttom att hoppa på AI i alla sammanhang. Myndigheter behöver skaffa sig mer empirisk kunskap om effekterna av att använda AI vid olika typer av beslutsfattande. Nu vill många skynda sig för att inte missa tåget. Vi behöver ha lite tålamod.

Och som individ då vad gör jag?

– Det är viktigt att gemene man förstår i stora drag vad AI handlar om. Det är viktigt att ha grundläggande kunskaper när de normativa frågorna inom politiken ska diskuteras. Rädsla får många att tänka att AI är något jag struntar i, men det gäller att komma över den rädslan.

Läs mer om forskningsprojekten

Den globala styrningen av artificiell intelligens och dess demokratiska utmaningar (Stockholms universitet)

Automatiserad politisk makt: Hur träffsäker, kvalitetssäkrad, accepterad och legitim är användningen av AI i den offentliga sektorn? (Institutet för framtidsstudier)

Hitta bilden