Xi Jinpings narrativ om Kina sprids även utanför landets gränser och har letat sig in i de senaste versionerna av västerländska chattbotar, däribland ChatGPT och Claude. Reportrar utan gränser (RSF) har intervjuat den amerikanska forskaren Hannah Waight som är biträdande professor i sociologi vid University of Oregon och lett en studie i ämnet.
Hanna Waight forskar om medier, information och auktoritär politik. Studien som nyligen publicerades i den vetenskapliga tidskriften Nature undersöker hur statskontrollerade medier kan påverka stora språkmodeller.
Kinesisk propaganda har letat sig in i de senaste västerländska språkmodellerna. Hur är det möjligt?
– Vi anser att det här är ett mycket intressant exempel på hur statskontrollerade medier kan få genomslag långt utanför det sammanhang där de ursprungligen förekommer.
Mycket uppmärksamhet har riktats mot två mekanismer genom vilka mäktiga institutioner kan påverka stora språkmodeller. Den ena är reglering. När DeepSeek, en kinesisk chattbot utvecklad av företaget med samma namn, lanserades diskuterades exempelvis risken för att den skulle återge statens budskap. Kina har nämligen viss möjlighet att styra modellen genom reglering.
En annan, närliggande farhåga gäller hur institutioner kan påverka modeller genom ägande. Här är Grok, chattboten som är integrerad i den sociala plattformen X, ett exempel. Många oroar sig för att Elon Musk, som äger företaget bakom modellen, kan påverka dess innehåll ideologiskt.
Det här är viktiga processer som förtjänar både akademisk uppmärksamhet och uppmärksamhet i medierna. Men det vi undersöker är en tredje mekanism genom vilken mäktiga institutioner kan påverka språkmodellernas svar: själva informationsmiljön.
Kina har lagt stora resurser på att forma innehållet på det kinesiska internet genom propaganda och censur som gynnar vissa budskap. Sedan mitten eller slutet av 2000-talet har olika initiativ arbetat med att arkivera innehåll från webben. Ett exempel är den ideella organisationen Common Crawl, som samlar in webbinnehåll och gör det tillgängligt i öppna databaser. På så sätt har stora mängder data samlats in, däribland material från det kinesiska internet.
Från slutet av 2010-talet började dessa data i sin tur användas för att träna stora språkmodeller. I vår studie argumenterar vi för att kinesiska, statligt samordnade medier i träningsmaterialet påverkar modellerna. Resultatet blir att deras svar i högre grad ligger i linje med Folkrepubliken Kinas officiella ståndpunkter. Effekten är särskilt tydlig när modellerna får frågor på kinesiska, jämfört med engelska eller andra språk som används i studien för jämförelse.
Det som har hänt handlar till stor del om oavsiktliga konsekvenser. Först försökte kinesiska, statligt samordnade medier påverka informationsmiljön. Därefter fattade organisationer beslut om att arkivera innehållet. Slutligen valde företag som OpenAI och Anthropic att samla in dessa data från internet, behandla dem som en neutral källa till språk och kunskap och använda dem för att träna sina modeller, säger Hannah Waight.
Är det snarare en bieffekt än en medveten strategi från kinesiska myndigheters sida?
– Vi har inga belägg för att det här är avsiktligt från den kinesiska statens sida. Det skulle inte heller vara logiskt, eftersom en stor del av det träningsmaterial vi undersökte samlades in innan de här modellerna existerade.
Vår studie pekar dock på en oroande möjlighet. Nu när den här mekanismen finns förändras incitamenten för auktoritära regimer. Det ger dem ytterligare ett skäl att samordna och kontrollera sin informationsmiljö. Genom att göra det kan de påverka inte bara vad de egna medborgarna uppfattar, utan också de språkmodeller som får en allt viktigare roll i vår gemensamma informationsmiljö.
Det här handlar inte bara om Kina. I den avslutande delen av studien presenterar vi belägg för att samma sak sannolikt sker i auktoritära stater som satsar betydande resurser på mediekontroll och där det dominerande språket i stor utsträckning används enbart inom landets gränser.
En förklaring till att Kinas system kan få den här effekten är att det finns få andra mäktiga aktörer som utövar motsvarande kontroll över information på kinesiska. Detsamma gäller flera andra auktoritära stater, exempelvis Vietnam och Turkmenistan. Vi bedömer att en liknande process sannolikt pågår även där.
Vad kan man göra för att motverka att propaganda sprids via stora språkmodeller?
– Det är en mycket viktig fråga, men det finns inga enkla eller självklara svar. Jag vill återkomma till det jag nämnde inledningsvis: informationsmiljön är ett av flera sätt för mäktiga institutioner att påverka språkmodeller. Ett annat är reglering.
En personlig farhåga jag har är att reglering kan komma att användas i politiska syften, särskilt i USA. Därför måste vi noggrant väga de olika riskerna mot varandra.
Som forskargrupp anser vi att ett viktigt första steg är att öka transparensen. Vi behöver mer information om vilket material som modellerna tränas på, vad denna data innehåller och hur materialet förändras över tid när företagen fattar nya beslut.
Det är viktigt för användarna, så att de kan göra välgrundade val om vilka modeller de använder och till vad. Det är också viktigt för beslutsfattare, som behöver förstå vad dessa komplexa system faktiskt innehåller. Slutligen är det viktigt för organisationer som i allt större utsträckning använder modellerna tillsammans med känsliga data. De behöver veta varifrån informationen som systemen bygger på kommer.
En viktig slutsats i vår studie är att språkmodeller i praktiken tvättar information: kopplingen till den ursprungliga källan går förlorad. Vi behöver återupprätta den kopplingen. Alla som använder dessa modeller borde kunna ta reda på varifrån informationen de får i slutändan kommer.
Det är dock betydligt enklare att formulera det idealet än att förverkliga det i så komplexa system.
Länk till hela undersökningen (EN)
Kina ligger på plats 178 av 180 i Reportrar utan gränsers pressfrihetsindex 2026.
