Siirry suoraan sisältöön

Kuva: Topias Dean, Sitra

Julkaistu 10.01.2019

Miten teknologiaa voi käyttää väärin?

Uusilla palveluilla, tuotteilla ja teknologialla on toisinaan yllättäviä sivuvaikutuksia. Mitä jos tulevaisuuspohdinnan lähtökohdaksi ottaisikin sen miten teknologiaa saatetaan käyttää toisin kuin mitä sen kehittäjä oli ajatellut?
Kirjoittaja
Kirjoittajan profiilisivu: Mikko Dufva
Johtava asiantuntija, Ennakointi, Sitra
Mikko Dufva on Sitran tulevaisuusasiantuntija. Hän tarkastelee työkseen tulevaisuuden kehityskulkuja, niiden välisiä jännitteitä ja tulevaisuuteen liittyviä mielikuvia.

Tulevaisuuspohdinnoissa asioiden ajatellaan usein menevän sujuvasti ja ihmisten käyttäytyvän suhteellisen rationaalisesti tai samalla tavalla kuin itse käyttäytyisi ihannetilanteessa. Todellisuus on yleensä hieman kummallisempi ja epämääräisempi. Ihmiset käyttävät uutta teknologiaa ja tuotteita tavoilla, joita insinöörit eivät tulleet ajatelleeksi. Lisäksi teknologialla on yllättäviä ja ei-toivottuja seurauksia, varsinkin yleistyessään. Jotta voidaan varautua yllättävämpiin käyttötarkoituksiin ja tarvittaessa ehkäistä niitä, on hyödyllistä tarkastella asioita väärinkäytösten ja sivuvaikutusten kautta.

Digitalisaation tahattomat seuraukset

Digitalisaation ja tekoälyn luvataan muuttavan yhteiskuntaamme ja tapaamme tehdä asioita merkittävällä tavalla. Älysopimukset ja kitkaton rahaliikenne muuttavat tapaamme käydä kauppaa, kuvantunnistusalgoritmit tunnistavat syövän ja lajittelevat kuvakirjastomme siinä sivussa, ja tekoälyassistentit järjestelevät päivittäisiä askareitamme. Näillä kehityksillä on kuitenkin varjopuolensa.

Kuvan-, äänen- ja videonkäsittely on tullut niin helpoksi, että silmiin ei ole enää luottamista. Tekoälyn avulla on suhteellisen helppoa lisätä Nicolas Cage kaikkiin elokuviin tai laittaa Barack Obama sanomaan mitä tahansa videolla. Valeuutisvideot leviävät helposti oikeiden kaltaisina. Google Duplex lupaa tekoälyn soittelevan kampaajalle puolestamme, mutta tulemmeko käyttämään sitä pikemminkin sosiaalisesti hankalien tilanteiden hoitoon, kuten futuristi Gerd Leonhard esittää.

Tekoälyn käyttö päätöksentukijärjestelmissä on johtanut vanhojen ennakkoluulojen toistumiseen. Koska algoritmit toimivat olemassa olevien tietokokonaisuuksien perusteella, ne toistavat helposti vanhoja ennakkokäsityksiämme, esimerkiksi tulkiten sairaanhoitajan naispuoliseksi ja lääkärin miespuoliseksi. Toisaalta tekoäly ei myöskään ymmärrä mitä tarkoitamme, vaan pyrkii toteuttamaan tavoitettaan joskus meidän mielestä kummallisilla keinoilla.

Uudella teknologialla voidaan päätyä kummallisiin lopputuloksiin tai vahvistamaan vanhoja arvoja ja uskomuksia.

Ongelmana on, että emme tiedä miten algoritmi päätöksensä tekee tai emme pysty sitä ymmärtämään. Tätä ongelmaa ratkoo mm. AlgorithmWatch-aloite, joka tuo esille paikkoja, jossa algoritmit saavat päättää ja samalla peräänkuuluttaa päätöksenteon kriteereiden avoimuutta.

Väärinkäyttö ja tahattomat seuraukset voivat avata myös uusia mahdollisuuksia. Esimerkiksi Gmailin automaattisia vastauksia voi käyttää testaamaan onko oma idea hyvä. Oppivien algoritmien kummallisuuksilla voi leikkiä ja huonosti tehdyillä roboteilla menestyä Youtubessa. Kehityksen varjopuolet saattavat auttaa meitä näkemään myös muita vaihtoehtoja.

Energiasyöpöt algoritmit

Digitalisaatio esitetään usein kiiltävänä ja virtuaalisena. Asiat majailevat pilvessä ja tieto liikkuu kaarissa maailman yllä. Tosiasiassa digitaalinen infrastruktuuri on johdoissa, kytkimissä ja palvelinkeskuksissa. Tämän infrastruktuurin ylläpito vie energiaa. Myös tekoälysovellukset vaativat runsaasti energiaa, mikä aiheuttaa haasteita esimerkiksi itseohjautuvien autojen kohdalla. Yksi nopeimmin kasvava energian kuluttaja on kuitenkin lohkoketjuteknologia.

Lohkoketjun tämänhetkinen toimintamalli edellyttää yleensä suurta laskentatehoa ketjun validoimiseksi ja uusien lohkojen luomiseksi. Suuri laskentateho taas edellyttää runsaasti sähköä. Esimerkiksi lohkoketjuun perustuvan kryptovaluutta Bitcoinin on laskettu käyttävän energiaa saman verran kuin Irlanti ja määrä on kasvussa. Energiankäyttö saattaa myös laskea, jos toimintamallia muutetaan.

Teknologinen kummittelu

Teknologia saattaa tuntua joskus maagiselta. Lisätty todellisuus ja virtuaalitodellisuus muokkaavat sitä mitä näemme, mikä saattaa hämärtää käsitystämme siitä mikä on todellista. Lisäksi se luo useita erilaisia todellisuuksia, jolloin emme voi olla aivan varmoja, mitä toinen katselee, tai millaisina meidät nähdään. Esimerkiksi Helsingin Sanomien vaalilivelähetyksessä meni vahingossa Facebookin hassutteluefektit päälle, mutta toimittajat eivät tienneet näyttävänsä velhoilta tai astronauteilta puhuessaan.

Vaikka opetamme algoritmeja näkemään kuin me, ne jäsentävät maailmaa omalla tavallaan. Hyvä esimerkki tästä ovat neuroverkkojen generoimat kuvat, jotka tuntuvat psykedeelisiltä tai kammottavilta. MIT on tehnyt jopa ”painajaiskoneen”, joka tuottaa karmivia kuvia liukuhihnalta.

Älylaitteet ja viat saattavat tehdä älykodista kummitustalon. Kun algoritmit ohjailevat valoja ja lämmitystä, talo tuntuu elävän kuin omaa elämäänsä. Älykaiuttimet ovat naureskelleet keskellä yötä ja niille voi antaa myös ihmiskorvalle kuulumattomia komentoja. Kun näkymätön digitaalimaailma on yhä useammalla tavalla kytköksissä fyysiseen maailmaan erilaisten laitteiden ja esineiden internetin välityksellä, sen seuraukset saattavat tuntua meistä pikemminkin kummittelulta kuin edistykseltä. Emme usein myöskään tiedä kuinka paljon tietoa älylaitteet keräävät ja lähettävät yritysten palvelimille.

Uusien teknologioiden tuoma yksilön valta

Teknologian kaksoiskäyttö, eli hyödyntäminen sekä rauhanomaisiin että sotatarkoituksiin, on aina ollut haaste. Ydinvoima on tästä hyvä esimerkki: emme halua kieltää sen tuomaa energian tuotantoa, mutta haluamme estää ydinpommien tekemisen. Teknologia tarvitseekin hyvää hallintoa ja kansainvälisiä sopimuksia.

Uusien teknologioiden kohdalla lisähaasteen tuo niiden suhteellisen helppo saatavuus yksilön tai pienten ryhmien näkökulmasta. Esimerkiksi synteettinen biologia mahdollistaa patogeenien helpon suunnittelun ja tuotannon. Uhkien lievittämiseksi FBI tekeekin yhteistyötä synteettisen biologian harrastajien kanssa ja kannustaa yhteisön itsevalvontaa.

Nelikopterit, eli roottorein varustetut pienet lennokit tai droonit, yhdistettynä kasvontunnistukseen voivat olla tulevaisuuden täsmäaseita. Nelikoptereita ja lennokkeja hyödynnetään jo nyt sotatarkoituksiin ja niiden avulla on tehty myös esimerkiksi anonyymejä hyökkäyksiä Venäjän tukikohtaan Syyriassa. Lohkoketjuteknologia mahdollistaa puolestaan anonyymit salamurhamarkkinat, joissa lyödään vetoa siitä, milloin henkilö kuolee. Lähimmäksi arvannut saa potin itselleen.

Uuden teknologian suhteen on siis hyödyllistä pohtia, miten sitä voitaisiin käyttää tuhoamiseen tai miten rikolliset voisivat siitä hyötyä. Tällöin voidaan varautua yllättävämpiin käyttötarkoituksiin ja tarvittaessa estää niitä jo ennalta. Samalla saadaan selville teknologiaan liittyviä jännitteitä: esimerkiksi lohkoketjuun liittyvä avoimuus ja hajautuneisuus mahdollistavat uudenlaiset toimintamallit ilman välikäsiä, mikä toisaalta tarkoittaa myös sitä, etteivät yksittäiset tahot voi valvoa toimintaa.

Työkalu: Teknologian väärinkäyttö

Millä tavoin teknologiaa voi käyttää väärin ja mitä siitä mahdollisesti seuraisi?

Tee näin:

  • Kerää heikkoja signaaleja tilanteista, joissa ihmiset ovat käyttäneet uutta teknologiaa toisin kuin on tarkoitettu tai joissa käytöllä on ollut odottamattomia seurauksia
  • Täydennä kokoelmaa ideoimalla millä kaikilla tavoilla uutta teknologiaa voisi käyttää väärin.

Millaisia kokonaisuuksia kokoelmasta nousee? Millaisista jännitteistä ne kertovat?

Heikot signaalit

Artikkeli on osa Sitran Heikot signaalit -työtä, joka esittelee yllättäviä, ei-ilmeisiä mutta mahdollisia tulevaisuuden kehityskulkuja. Työn tavoitteena on tuoda esille tulevaisuusoletuksia, haastaa käsityksiä tulevaisuuksista ja laajentaa mahdollisten tulevaisuuksien valikoimaa – sekä tarjota työkaluja heikkojen signaalien hyödyntämiseen. Lue lisää täältä: Heikot signaalit.

Mistä on kyse?