Voiko tekoäly tappaa meidät kaikki?

Anthropicilta eronnut johtava tutkija Jacob Coxon varoitti hiljattain, että tekoälyä rakentavat ihmiset uskovat, että tekoäly voi tappaa meidät kaikki seuraavan kymmenen vuoden kuluessa.

Samalla se voi kuitenkin johtaa keskustelua harhaan. Tärkein kysymys ei ole hävittääkö tekoäly ihmiskunnan, vaan säilyykö ihmisen kyky ymmärtää ja hallita yhä kehittyneempiä järjestelmiä.

Jos koira pelkää omistajansa aikovan vahingoittaa sitä, se kuvittelee uhaksi puremisen tai potkaisun. Ampuma-asetta tai ruutia se ei osaa edes kuvitella. Samalla tavalla emme välttämättä kykene hahmottamaan kaikkia niitä keinoja, joilla ihmistä älykkäämpi tekoäly voisi vaikuttaa ympäristöönsä tai meihin itseemme.

Ihmiskunnan tuhoutuminen on teoreettinen riski, mutta riski ihmisestä tekoälyn talutusnuorassa on sen sijaan todellinen ja liittyy ihmisen kontrollin menettämiseen.

Itseään kehittävä tekoäly tekee valvonnasta entistä vaikeampaa

Teknologiset murrokset, kuten autojen yleistyminen tai keskitetty sähköntuotanto, ovat aina tuoneet uusien mahdollisuuksien ohella riskejä, jotka vaativat myös eettistä tarkastelua. Tekoäly poikkeaa aiemmista murroksista siinä, että tekoäly voi toimia itsenäisesti tavoilla, joita edes sen rakentajat eivät täysin ymmärrä.

Viime vuosina suuria harppauksia on ottanut agenttisen tekoälyn lisäksi itseään kehittävä tekoäly, eli rekursiivinen itsensä parantaminen (Recursive Self-Improvement, RSI). Anthropic kertoo siirtäneensä kasvavan osan kehitystyöstään tekoälylle itselleen. Suuntaus johtaa tekoälymalleihin, joiden toimintaa ihmiset ymmärtävät yhä huonommin.

Ajatellaan tekoälyavusteista koiranruokatehdasta. Tavallinen tekoäly voi parantaa reseptiä ja valmistusprosessia. Itseään kehittävä tekoäly uudistaa koko tehtaan koneineen ja jopa tavan, jolla koneet suunnitellaan. Eilisen tehtaan tunteneelle tarkastajalle uusi tehdas on musta laatikko, joka voisi periaatteessa valmistaa koiranruoan sijaan vaikkapa biologisia aseita.

Ahneus turvallisuuden edellä

Anthropic ja OpenAI valmistautuvat pörssilistautumiseen. Suuret panokset houkuttelevat riskinottoon. Julkisuudessa on käsitelty tapauksia, joissa testiympäristöön eristetyt tekoälyagentit ovat sääntöjen vastaisesti murtautuneet internetiin ja peittäneet jälkiään tunkeutuakseen toisten yritysten ja jopa ministeriöiden järjestelmiin.

Periaatteet vastuulliseen kehitykseen ovat kuitenkin jo olemassa. Pekka Ala-Pietilän johtama komission asiantuntijaryhmä julkaisi jo vuonna 2019 eettiset suuntaviivat, jotka kieltävät tekoälyltä ihmisten manipuloinnin, alistamisen ja harhaanjohtamisen sekä edellyttävät kehittäjiltä järjestelmien selitettävyyttä. Näihin periaatteisiin nojaa myös EU:n tekoälysäädös.

Mutta ovatko yritykset valmiita hidastamaan vauhtia voittojen kustannuksella, kun turvallisuus sitä vaatisi?

Moni teknologiajohtaja on yhtynyt Anthropicin toimitusjohtaja Dario Amodein ehdotukseen kehitysvauhdin hillitsemisestä riskienhallinnan varmistamiseksi. Tämän voi nähdä hätähuutona: kehitys ei ole enää heidän hallinnassaan. Toisaalta puheenvuoroja on tulkittu myös yhtiöiden keinona päästä vaikuttamaan niitä itseään koskevaan sääntelyyn.

Selvää kuitenkin on, että tekoäly vaatii nyt sääntelyä, kuten aikanaan ydinvoima, sähköverkot tai liikenne.

Euroopan vahvuutena riskilähtöinen sääntely

Maailmassa kilpailee kolme tapaa säännellä tekoälyä ja dataa. Yhdysvaltain markkinalähtöisessä mallissa valta on yrityksillä ja Kiinan autoritaarisessa mallissa valtiolla. Euroopan ihmislähtöinen malli nojaa eurooppalaisiin arvoihin ja suojelee perusoikeuksia ja demokratiaa. EU:n tekoälysäädös on riskiperusteinen: mitä suurempi riski, sitä tiukemmat vaatimukset.

Uskon, että eurooppalainen malli on kolmesta kilpailevasta mallista pitkällä aikavälillä kestävin, koska se tarjoaa keinoja juuri niiden riskien hallintaan, joista tekoälyn kehittäjät itse varoittavat. EU:n sääntely on jo innoittanut sääntelyä muun muassa Kiinassa ja Yhdysvaltain osavaltioissa. Sääntelyn toimeenpanossa on kuitenkin tärkeää löytää tasapaino riskienhallinnan ja innovoinnin välillä.

Miten ihminen pysyy kontrollissa

Suomella ja Euroopalla on erinomaiset mahdollisuudet hyötyä tekoälystä. Siksi riskejä ei pidä käyttää perusteena kehityksestä vetäytymiseen, vaan niiden hallintaan.

EU:n tekoälysäädös on pantava toimeen tehokkaasti, sen soveltamisen on oltava yrityksille helppoa ja sitä on päivitettävä kehityksen tahdissa. EU:n on myös edistettävä kansainvälistä koordinaatiota ja kansainvälistä sääntelyn luomista. Mutta jos tekoäly-yhtiöt eivät kanna vastuutaan, on entistä voimakkaampi vastareaktio odotettavissa. Vastustusta näkyy jo tekoälyinfrastruktuurin ja datakeskusten sähkön- ja vedenkulutusta kohtaan, joista on tulossa merkittäviä poliittisia teemoja.

Samalla tekoäly haastaa meidät kaikki päivittämään osaamistamme. Kuten sähköä ja autoja opittiin aikanaan käyttämään turvallisesti, myös tekoälyn mahdollisuudet ja riskit on opittava ymmärtämään osana kansansivistystä.

Tekoäly hävittämässä ihmiskuntaa on teoreettinen riski. Realistisempia lähivuosien uhkia ovat esimerkiksi laaja kyberisku ja kriittisen infrastruktuurin kaatuminen, ja niihin on varauduttava. Mutta samoin kuin koira ei ymmärrä ruutia, emme me ymmärrä kaikkia tekoälyn riskejä. Ratkaiseva ero on siinä, että ihminen tiedostaa tietämättömyytensä. Kontrollin on säilyttävä ihmisellä ettemme itse päädy talutettaviksi.

Kirjoittaja on Sitran Kansainvälisen toiminnan johtaja. Toiminnassa ratkotaan globaaleja ja eurooppalaisia haasteita yhdessä kumppaneiden kanssa kasvun ja hyvinvoinnin vauhdittamiseksi. Datan ja tekoälyn parempi hyödyntäminen on avainasemassa kestävän talouskasvun vauhdittamisessa. Lue lisää: Sitran kansainvälinen toiminta