Algoritmer och demokrati (sammanfattning)

Sammanfattning

Framtidshuset  Sitra gav The Behavioural Insights Team (BIT) och Bondata i uppdrag att undersöka det politiska innehåll som 18–24-åringar möter på sociala medier och att bedöma vilka risker detta kan innebära för den offentliga debatten. Den här typen av risker ingår i de systemiska risker som identifieras i Europeiska unionens förordning om digitala tjänster (Digital Services Act). 

BIT genomförde en systematisk undersökning med 24 avatarer på Instagram, TikTok och X i Finland, Frankrike och Rumänien. Avatarerna simulerade olika nivåer av engagemang i politiskt innehåll, däribland exklusivt intresse för antingen vänster- eller högerinriktat innehåll. Totalt kodades 1 719 politiska inlägg manuellt utifrån politisk inriktning och problematiskt innehåll, inklusive desinformation, konspirationsteorier och hatretorik. 

Bondata kompletterade undersökningen med en webbenkät bland 3 063 unga vuxna i samma länder, med fokus på användning av sociala medier och exponering för problematiskt politiskt innehåll. 

Högerinriktat innehåll dominerade i BIT:s undersökning och utgjorde 58 procent av alla politiskt klassificerade inlägg, jämfört med 26 procent vänsterinriktat och 16 procent mitteninriktat innehåll. Denna dominans kvarstod ofta även när avatarerna signalerade intresse för vänsterpolitik, vilket tyder på en oproportionerlig förstärkning av högerperspektiv oavsett användarpreferenser. Rumänska flöden var ett undantag: de dominerades i stor utsträckning av mitteninriktat innehåll, särskilt myndighetskommunikation. Bondatas enkät bekräftade dessa resultat och visade att 44 procent av användarna i Finland som starkt identifierar sig med vänstern upplevde att innehållet de fick stämde mycket dåligt överens med deras åsikter, jämfört med endast 5 procent av dem som starkt identifierar sig med högern. Resultaten i Frankrike och Rumänien var likartade. 

Undersökningen visade på algoritmisk oförutsägbarhet och brist på användarkontroll. Engagemangssignaler hade ingen konsekvent eller tillförlitlig inverkan på vilket innehåll som presenterades. Flöden kunde skifta plötsligt och kraftigt utan en tydlig utlösande faktor.  

Majoriteten av det problematiska innehåll som observerades bröt inte mot  communityns regler. Renodlad misinformation, konspirationsteorier och hatretorik var relativt ovanliga i BIT:s  undersökning. I stället dominerades flödena av icke verifierbart, åsiktsbaserat innehåll (67 procent av alla inlägg), ofta med extremistiska ståndpunkter. 

Undersökningen identifierade AI-genererat innehåll som en framväxande trend. Detta inkluderade deepfakes av politiker och syntetiska avatarer (till exempel tecknade djur) som användes för att sprida stötande humor, starka politiska budskap eller fientliga kommentarer. Totalt var 5 procent av de politiska inläggen tydligt AI-genererade. 

Resultaten visade på en fortsatt försämring av kvaliteten på sociala medier, vilket ibland kallas för ”enshittification”, i takt med att plattformarna går från att prioritera användarupplevelsen till att maximera engagemanget och intäkterna. Bondatas undersökning visar att mer än en tredjedel av de tillfrågade regelbundet eller upprepade gånger stött på problematiskt innehåll. Bondatas undersökning visade också att hälften av de unga tillfrågade uppgav att de kände besvikelse, rädsla, ilska eller sorg när de stötte på politiska och sociala diskussioner på sociala medier.