Algoritmit ja demokratia

Tiivistelmä

Tulevaisuustalo Sitra tilasi Behavioural Insights Teamilta (BIT) ja Bondatalta selvityksen, jossa tutkittiin 18–24-vuotiaiden nuorten sosiaalisessa mediassa kohtaamaa poliittista sisältöä ja arvioitiin sitä, millaisia mahdollisia riskejä siitä aiheutuu kansalaiskeskustelulle. Tällaiset riskit kuuluvat Euroopan unionin digitaalipalvelusäädöksen (DSA) tunnistamiin järjestelmäriskeihin.

BIT toteutti 24 avatarin eli digitaalisen hahmon avulla järjestelmällisen tarkastelun Instagramiin, TikTokiin ja X:ään Suomessa, Ranskassa ja Romaniassa. Avatarit simuloivat eritasoista kiinnostusta poliittiseen sisältöön. Mukana oli myös vaihe, jossa avatarit osoittivat kiinnostusta joko vasemmistolaiseen tai oikeistolaiseen sisältöön. Avatarit kohtasivat kaikkiaan 1 719 poliittista julkaisua, jotka tutkijat luokittelivat. Luokittelussa katsottiin julkaisujen poliittista suuntautumista sekä sitä, havaittiinko niissä ongelmallista sisältöä, kuten virheellisiä väitteitä, salaliittoteorioita tai vihapuhetta.

Bondata täydensi BIT:n tarkastelua verkkokyselyllä, johon vastasi 3 063 nuorta aikuista samoissa maissa. Kyselyssä tarkasteltiin sosiaalisen median käyttöä ja altistumista ongelmalliselle poliittiselle sisällölle.

Oikeistolainen sisältö hallitsi BITin tekemässä tarkastelussa. Sen osuus kaikista poliittiseksi luokitelluista sisällöistä oli 58 prosenttia, kun vasemmistolaista sisältöä oli 26 prosenttia ja keskustaan luokiteltua 16 prosenttia. Oikeistolaisen sisällön hallitsevuus jatkui usein myös tilanteissa, joissa avatarit osoittivat kiinnostusta vasemmistolaiseen politiikkaan. Havainto viittaa oikeistolaisten sisältöjen suhteettomaan vahvistumiseen sosiaalisessa mediassa käyttäjien omista mieltymyksistä riippumatta. Romanian syötteet olivat poikkeus: niitä hallitsi pääasiassa poliittiseen keskustaan luokiteltu sisältö, erityisesti maan hallituksen viestintä.

Bondatan kysely tuki pääosin näitä havaintoja. Se osoitti, että 44 prosenttia suomalaisista nuorista aikuisista, jotka määrittelevät itsensä ”vahvasti vasemmistolaisiksi”, koki, että sosiaalisen median sisällöt vastaavat erittäin huonosti heidän näkemyksiään. Vastaava luku ”vahvasti oikeistolaisten” keskuudessa oli vain 5 prosenttia. Ranskassa ja Romaniassa tulokset olivat samankaltaiset.

Tarkastelu paljasti algoritmien arvaamattomuuden ja käyttäjien hallinnan puutteen. Se, minkälaista sisältöä avatarit ilmaisivat suosivansa, ei vaikuttanut niiden näkemään sisältöön johdonmukaisesti eikä luotettavasti. Syötteet saattoivat muuttua äkillisesti ja huomattavasti ilman selvää syytä.

Suurin osa havaitusta ongelmallisesta sisällöstä ei rikkonut alustojen yhteisösääntöjä. Virheelliset väitteet, salaliittoteoriat ja vihapuhe olivat suhteellisen harvinaisia BITin aineistossa. Sen sijaan alustoilla oli runsaasti mielipiteisiin perustuvaa sisältöä, jota ei ole mahdollista tarkistaa (67 prosenttia kaikista sisällöistä) ja jossa usein ilmaistiin äärimmäisiä näkemyksiä.

Tekoälysisältö on nouseva trendi. Loukkaavan huumorin, jyrkkien poliittisten viestien ja vihamielisten kommenttien levittämiseen käytettiin esimerkiksi poliitikoista tehtyjä deepfake-videoita ja tekaistuja hahmoja (kuten sarjakuvahahmoja). Viisi prosenttia poliittisista sisällöistä oli selvästi tekoälyllä tuotettua.

Tulokset osoittivat somealustojen laadun rapautumisen, kun alustat siirtyvät käyttäjien kokemuksen priorisoinnista sitoutumisen ja kaupallistamisen maksimointiin. Bondatan kyselyssä yli kolmasosa vastaajista kertoi kohtaavansa ongelmallista sisältöä säännöllisesti tai toistuvasti. Puolet vastaajista myös ilmoitti tuntevansa pettymystä, pelkoa, vihaa tai surua kohdatessaan poliittisia ja yhteiskunnallisia keskusteluja sosiaalisessa mediassa.