Tekoäly saamassa uutta sääntelyä EU:ssa

Euroopan komissio antoi 21.4.2021 ehdotuksen Euroopan parlamentin ja neuvoston tekoälyasetuksesta (COM(2021) 206), jonka tavoitteena on luoda Euroopasta maailman kärkialue tekoälyn saralla. Ehdotus on jatkumoa vuonna 2018 julkaistulle Euroopan tekoälystrategialle, ja sillä on tarkoitus saattaa voimaan ensimmäinen yhteiseurooppalainen tekoälyä koskeva sääntelykehikko. Samalla päivämäärällä komissio julkaisi niin ikään päivitetyn version EU-jäsenvaltioiden koordinoidusta tekoälysuunnitelmasta sekä ehdotuksen konedirektiivin korvaavasta koneasetuksesta (COM(2021) 202), jolla muun muassa varmistetaan tekoälyjärjestelmien turvallinen integrointi koneisiin.

Tämä artikkeli sisältää pohdintaa ehdotettujen tekoälysääntöjen ja -toimenpiteiden keskeisestä sisällöstä.

Ehdotus tekoälyasetuksesta

Uudella tekoälyasetuksella pyrittäisiin oikeasuhtaisilla ja joustavilla säännöillä varmistamaan tekoälyjärjestelmien luotettavuus, puuttumaan tekoälyyn liitännäisiin riskeihin sekä luomaan Eurooppaan maailman korkeimmat toimialanormit. Yhteisen tekoälymääritelmän pohjalta asetusehdotuksen sääntöjä sovellettaisiin yhtenäisesti kaikissa EU-jäsenvaltioissa, muodostaen puitteet mahdollisimman saumattomalle valtioiden väliselle yhteistyölle tekoälyn saralla.

Ehdotuksessa tekoälyjärjestelmiin liittyvät riskit on kategorisoitu ei-hyväksyttäviin, suuriin, vähäisiin ja minimaalisiin riskeihin. Tekoälyjärjestelmät, jotka tunnistetaan sisältävän ns. ei-hyväksyttäviä riskejä, kiellettäisiin suoraan ehdotuksen mukaisesti. Suuririskiset järjestelmät sallittaisiin ainoastaan tiukkojen vaatimusten täyttyessä.

Kielletyiksi ei-hyväksyttäviä riskejä sisältäviksi tekoälyjärjestelmiksi katsottaisiin sellaiset järjestelmät, joita pidetään selvänä uhkana ihmisten turvallisuudelle, toimeentulolle tai oikeuksille. Tältä osin asetusehdotuksen mukaisesti kiellettyinä pidettäisiin esimerkiksi puhuvia leluja, jotka kannustavat vaaralliseen käyttäytymiseen, sekä sellaiset järjestelmät, joilla valtiot pisteyttävät kansalaisiaan sosiaalisten tekijöiden perusteella.

Puolestaan suuririskisiksi tekoälyjärjestelmiksi katsottaisiin asetusehdotuksen mukaisesti järjestelmät, joita käytetään:

• Kriittisissä infrastruktuureissa, joissa ne voivat vaarantaa ihmisten hengen ja terveyden (esim. liikenteenohjauksessa).
• Koulutusalalla, kun tekoäly voisi määrätä pääsystä opintoihin (esim. pääsykokeiden pisteyttäminen).
• Tuotteiden turvakomponenteissa (esim. tekoälysovellus robottiavusteisessa kirurgiassa).
• Työllistämisessä ja henkilöstöhallinnossa (esim. työhakemusten karsimissovellus rekrytoinneissa).
• Keskeisissä yksityisissä ja julkisissa palveluissa (esim. luottokelpoisuuden pisteytys, jolla voidaan täysin estää lainansaanti).
• Lainvalvonnassa, kun tekoäly saattaa loukata ihmisten perusoikeuksia (esim. todisteiden luotettavuuden arviointi).
• Muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa (esim. matkustusasiakirjojen aitouden tarkistus).
• Oikeudenkäytössä ja demokraattisissa prosesseissa (esim. lain tulkinta konkreettisessa tilanteessa).

Suuririskisiä tekoälyjärjestelmiä saisi ehdotuksen mukaisesti tuoda markkinoille vain siinä tapauksessa, että ne täyttävät tiukat vaatimukset:

• Järjestelmän on oltava erittäin vakaa, tietoturvallinen ja tarkka.
• Riskien arviointia ja lieventämistä varten on oltava käytössä riittävät järjestelyt.
• Järjestelmässä käytettävän datan on oltava laadukasta riskien ja syrjivien tulosten minimoimiseksi.
• Järjestelmä on dokumentoitava tarkasti, jotta viranomaisilla on tarvittava tieto sen toiminnasta ja käyttötarkoituksesta.
• Käyttäjille on annettava selkeät ja riittävät tiedot järjestelmän toiminnasta ja käyttötarkoituksesta.
• Ihmisen on kyettävä valvomaan järjestelmän toimintaa riittävästi riskien minimoimiseksi.

Vähäisen riskin tekoälyjärjestelminä mainitaan muun muassa palvelurobottien käyttö, joille asetetaan tiettyjä läpinäkyvyysvaatimuksia, kuten se, että palvelun käyttäjien olisi ymmärrettävä olevansa vuorovaikutuksessa koneen kanssa. Minimaalisen riskin tekoälyjärjestelmille annettaisiin asetusehdotuksen mukaisesti vapaa käyttö, kuten esimerkiksi roskapostisuodattimille tai videopeleille.

Päivitetty tekoälysuunnitelma

Päivitetyssä EU-jäsenvaltioiden koordinoidussa tekoälysuunnitelmassa on hahmotettu tarvittavat muutokset jäsenvaltioiden toimintapolitiikkoihin ja investointitarpeet EU:ssa. Jäsenvaltioiden yhteisen lähestymistavan keskiössä on yritysten ja ihmisten turvallisuuden ja perusoikeuksien toteutumisen takaaminen, jotta Euroopan globaali johtoasema tekoälyn kehityksessä olisi mahdollisimman taattu tulevina vuosina. Suunnitelmalla on seuraavia keskeisiä tavoitteita:

• Suotuisten olosuhteiden luominen tekoälyn kehitykselle
• Tekoälyn huippuosaamisen viennin edistäminen
• Sen varmistaminen, että tekoäly toimii ihmisten hyväksi
• Eurooppalaisen tekoälyn strategisen johtoaseman rakentaminen

Suunnitelmassa hyödynnetään rahoitusta Digitaalinen Eurooppa – ja Horisontti Eurooppa -ohjelmista, EU:n elpymis- ja palautumistukivälineestä sekä unionin koheesiopolitiikasta. Näin ollen jäsenvaltioiden ja EU:n rahoituskehykseen ankkuroiduilla resursseilla luodaan lisäedellytyksiä eurooppalaiselle yhteistyölle ja varmistetaan muun muassa riittävät tutkimus- ja innovointivalmiudet kaikissa jäsenvaltioissa.

Ehdotus koneasetuksesta

Tekoälyä koskevan asetusehdotuksen kanssa nähtiin mainitusti samana päivänä komission ehdotus koneasetuksesta. Koneita ja laitteita koskevalla asetuksella pyrittäisiin varmistamaan, että ns. uuden sukupolven tekniikka olisi käyttäjille ja kuluttajille turvallista käyttää, tavoitellen samanaikaisesti innovaatioita edistäviä päämääriä.

Asetusehdotusten keskinäistä suhdetta voi kuvailla siten, että siinä missä tekoälyasetuksella puututaan varsinaisten tekoälyjärjestelmien turvallisuusriskeihin, varmistetaan koneasetuksella järjestelmien turvallinen integrointi koneisiin ja laitteisiin – kuten esimerkiksi robottiruohonleikkureihin, 3D-tulostimiin ja teollisuuden tuotantolinjoihin.

Yritysten näkökulmasta tilannetta helpottaa se, että yhdellä vaatimustenmukaisuuden arvioinnilla pystytään kattamaan molempien asetusten vaatimukset. Koneasetuksella vähennetään myös yritysten hallinnollisia rasitteita ja kustannuksia nykysäännöksiä selkeyttämällä, varmistaen samalla johdonmukaisuus muun EU-tuotelainsäädännön kanssa.

Kuka valvoo ja sakottaa?

Komissio ehdottaa, että sääntöjen noudattamisen valvonnasta vastaisivat jäsenvaltioiden markkinavalvontaviranomaiset yhdessä perustettavan Euroopan tekoälyneuvoston kanssa. Tekoälyneuvoston olisi tarkoitus koostua jäsenvaltioiden valvontaviranomaisten, Euroopan tietosuojavaltuutetun ja komission edustajista. Uusi tekoälyneuvosto helpottaisi ja toisi tukea sääntöjen käytännön soveltamiseen ja niiden standardoimiseen. Komissio on myös ilmoittanut suunnittelevansa testiympäristöjä, joilla tuettaisiin tekoälyjärjestelmien innovointia.

EU-jäsenvaltioiden tulisi kansallisella lainsäädännöllään määritellä tehokkaat, oikeasuhtaiset ja varoittavat seuraamukset sellaisten tilanteiden varalle, joissa ehdotettuja tekoälysääntöjä rikotaan. Jäsenvaltioissa olisi siis pidettävä huoli siitä, että esimerkiksi sääntöjen vastaisten tekoälyjärjestelmien käytöstä tai tuonnista markkinoille seuraa sääntöjä rikkovalle taholle seuraamus, kuten sakkomaksu. Säännöt ja seuraamukset koskevat myös EU-instituutioita, -virastoja ja -elimiä, joita tarvittaessa sakotettaisiin Euroopan tietosuojavaltuutetun toimesta.

Komission on yhdessä tekoälyneuvoston kanssa tarkoitus laatia sakkomaksuihin liittyvää ohjeistusta, ja tekoälyasetuksessa on linjattu kynnysarvoja, jotka on otettava jäsenvaltiossa huomioon tekoälysääntöjen rikkomisesta johtuvien sakkomaksujen määrittämisessä:

• Kielletty toimintatapa tai dataa koskevien vaatimusten laiminlyönti: enintään 30 miljoonaa euroa tai 6 prosenttia edellisen tilikauden vuotuisesta maailmanlaajuisesta kokonaisliikevaihdosta (sen mukaan, kumpi näistä on suurempi)
• Muita tekoälyasetuksen vaatimuksia tai velvoitteita ei ole noudatettu: enintään 20 miljoonaa euroa tai 4 prosenttia edellisen tilikauden maailmanlaajuisesta kokonaisliikevaihdosta (sen mukaan, kumpi näistä on korkeampi)
• Virheellisten, puutteellisten tai harhaanjohtavien tietojen toimittamisesta vastauksena arviointilaitosten tai kansallisten viranomaisten pyyntöön: enintään 10 miljoonaa euroa tai 2 prosenttia edellisen tilikauden vuotuisesta maailmanlaajuisesta kokonaisliikevaihdosta (sen mukaan, kumpi näistä on korkeampi)

Huomioiden yllä mainittu on ilmeistä, että ehdotus tekoälyasetuksesta on paalutettu riskilähtöisiin ja tarkkarajaisiin pelisääntöihin. Ehdotusta koskevassa lehdistötiedotteessa komission johtava varapuheenjohtaja Margrethe Vestager totesikin luotettavuuden olevan tekoälyn osalta välttämätön edellytys, ei lisäominaisuus. Samassa yhteydessä sisämarkkinakomissaari Thierry Breton jatkoi toteamalla sen, että tekoäly on työkalu – ei päämäärä itsessään. Tätä vähempää ei sääntelyltä tulisikaan vaatia, pitäen mielessä ne haitat ja riskit, joita pieleen menevillä tekoälyratkaisuilla pahimmillaan voidaan aiheuttaa. Täten myös tekoälysääntöjen noudattamatta jättämisestä koituvat seuraamusmaksut ovat perusteltuja.

Mitä seuraavaksi?

EU-parlamentin ja jäsenvaltioiden on vielä hyväksyttävä komission asetusehdotukset tavanomaisessa lainsäätämisjärjestyksessä. Kun asetukset on hyväksytty, sovelletaan niitä suoraan kaikkialla EU:ssa. Asetusten olisi arvioitu tulevan voimaan vuoden 2022 toisella puoliskolla, ja niitä alettaisiin siirtymäkauden jälkeen soveltamaan aikaisintaan vuoden 2024 toisella puoliskolla.

Jäämme mielenkiinnolla odottamaan asetusehdotusten etenemistä ja muistutamme samalla kaikkia tekoälyn parissa toimivia yrityksiä tarkastamaan jo hyvissä ajoin nykyiset käytänteensä. Ei myöskään sovi unohtaa jo olemassa olevasta sääntelystä kumpuavia velvoitteita, muun muassa tietosuojan, tietoturvan ja kuluttajansuojan osalta.

Teknologiaoikeuteen erikoistuneena toimistona autamme sinua mielellämme kaikissa asiaan liittyvissä kysymyksissä.

Artikkelin laadintaan osallistui lakimiesharjoittelijamme Jere Lehtimäki. 

10.08.2021 MAX