AI-chatbots giver os et smalt udvalg af viden: Vi risikerer et videnskollaps, siger forskere

• Nyheder
• Alle nyheder
• AI-chatbots giver os e...

• Teknologi
• Kunstig intelligens

Vi får et langt smallere udvalg af viden gennem AI-chatbots end gennem en almindelig internetsøgning. Det dokumenterer et nyt studie anført af Københavns Universitet. I takt med at flere og flere af os får vores information fra AI-chatbots, øges risikoen for et 'videnskollaps', advarer forskere bag studiet.

"Jeg spørger lige chatten." Det er efterhånden blevet et hverdagsudtryk for mange af os. Hvor vi før googlede os frem til information, er AI-chatbots blevet en gængs måde at finde svar på alt fra, hvad man skal lave til aftensmad, over hvordan man formulerer den svære mail til chefen, til hvad det egentlig betyder, når renten stiger.

Men de store sprogmodeller, som AI-chatbots er baseret på, giver os et markant smallere udvalg af information end en almindelig internetsøgning. Det viser et nyt studie anført af Datalogisk Institut på Københavns Universitet.

"Samtlige sprogmodeller, vi har testet, giver brugeren mere ensartet information end en simpel Google-søgning på tværs af alle de emner, vi undersøgte. Folk bliver altså i høj grad eksponeret for den samme information igen og igen. Så AI-chatbots ændrer ikke kun, hvordan vi finder viden, men også hvilken viden vi får adgang til," siger førsteforfatter Dustin Wright, der er tidligere adjunkt på Datalogisk Institut og i dag tilknyttet Aalborg Universitet.

Bedste model er mindst 18% dårligere end Google

Forskerne har testet 27 forskellige store sprogmodeller på 155 emner. For hvert af emnerne har de brugt 200 forskellige prompt-formuleringer baseret på spørgsmål fra virkelige brugere. Det har genereret et datamateriale bestående af cirka 70 millioner udsagn fra modellerne.

En AI-chatbot er en tjeneste som fx ChatGPT, Gemini eller Claude, som man kan skrive eller tale med og få svar fra. Chatbotten bruger en såkaldt stor sprogmodel til at forstå spørgsmål og formulere svar.

En stor sprogmodel er den underliggende AI-model, som chatbotten bygger på. Den er trænet på meget store mængder tekst og har lært mønstre i, hvordan ord og sætninger hænger sammen.

Når du skriver et spørgsmål til en AI-chatbot, sender chatbotten det til den underliggende store sprogmodel, som genererer et svar ved at forudsige, hvilke ord der bedst passer til dit spørgsmål.

Resultatet viser, at selv den sprogmodel med de mest mangfoldige svar, nemlig GPT-5 fra OpenAI, giver mindst 18,7 procent mindre varieret information end Google. Emnerne, som forskerne testede, dækker over bl.a. atomvåben, ægteskab, pornografi, racisme og folkedrab til mere landespecifikke emner som Marine le Pen, Falklandskrigen og K-pop.

Ifølge forskerne er det langt fra konsekvensfrit, at folk i stigende grad bruger AI-modeller som deres primære indgang til information:

"Vi risikerer, at folk bliver eksponeret for færre forskellige perspektiver og et smallere udvalg af viden. Og så kan der opstå en ond cirkel, hvor det mest populære indhold bliver endnu mere dominerende, mens andet indhold bliver mere og mere overset," siger professor og seniorforfatter Isabelle Augenstein fra Datalogisk Institut og tilføjer:

"Det er ligesom med globaliseringen. I dag kan du få de samme varer og finde de samme kaffekæder næsten overalt i verden. Det giver mange fordele, men har også reduceret mangfoldigheden."

Derfor er diversiteten lav

Den lave diversitet i sprogmodellerne skyldes ifølge forskerne, at modellerne fungerer ved at komprimere den enorme mængde tekst, de er trænet på, og lære de mønstre, der går mest igen. I den proces frasorterer de information, der afviger fra de mest almindelige mønstre.

Effekten kan blive forstærket, hvis sprogmodeller i højere grad bliver trænet på tekst, som andre AI-modeller har produceret - noget, som ifølge forskerne er en ventelig udvikling. For så lærer modellerne af deres egne output, som allerede er mindre varierede end de menneskeskrevne tekster, de oprindeligt blev trænet på.

Gentager den proces sig gennem flere generationer af modeller, kan variationen gradvist blive mindre. Og så nærmer vi os det, forskerne benævner som et 'videnskollaps'.

"Det er en bekymrende tanke. Vi kan dog se, at de nyeste modeller giver lidt mere varierede svar end de ældre modeller, så videnskollapset er ikke i gang endnu. Men mekanismen, der på længere sigt kan udløse det, er til stede. Så det er noget, vi bør være opmærksomme på," siger Isabelle Augenstein.

Opsøg flere kilder

Derfor håber forskerne også, at folk vil bruge AI med omtanke:

"Selvfølgelig kan AI-chatbotters opsummeringer være nyttige - det er jo derfor, så mange bruger dem. Men det er vigtigt stadig at opsøge forskellige kilder for at forstå nuancerne og få et bredere billede - især for den yngre generation, der vokser op med AI. Vi må ikke blive så afhængige af teknologien, at vi holder op med selv at forstå og tænke," påpeger Isabelle Augenstein.

Også AI-branchen bør have et blik på problemet, mener forskerne:

"Vi håber AI-udviklerne vil lave sprogmodeller på en måde, der bevarer bredden i den viden, vi mennesker har adgang til. Vi har her en metode, de kan bruge til at måle diversiteten i modellerne, som kan være med til at sikre, at fremtidens sprogmodeller ikke bliver mindre mangfoldige," slutter Dustin Wright.

Kontakt

Isabelle Augenstein
Professor
Datalogisk Institut
Københavns Universitet
[email protected]
93 56 59 19

Dustin Wright
Tenure-Track-adjunkt
Institut for Datalogi
Aalborg Universitet
[email protected]
93 50 91 78

Maria Hornbek
Kommunikationskonsulent
KU Kommunikation
Københavns Universitet
[email protected]
22 95 42 83

• Teknologi
• Kunstig intelligens

Læs også