Hallituksen esityksen lähtökohdat

Hallituksen esityksen taustalla on 1.8.2024 voimaan tullut EU:n tekoälyasetus ((EU) 2024/1689). Asetuksen tarkoituksena on varmistaa, että markkinoille tuotavat tai käyttöönotettavat tekoälyjärjestelmät eivät vaaranna ihmisten turvallisuutta, terveyttä tai perusoikeuksia. Asetuksessa säännellään tekoälyjärjestelmiä niiden aiheuttamien riskien perusteella. Sen mukaan esimerkiksi erittäin haitallinen tekoälyn käyttö on kiellettyä ja suuririskisille tekoälyjärjestelmille on asetettu tiukennettuja vaatimuksia. Asetusta aletaan soveltaa vaiheittain. 

Tekoälyasetuksessa on kyse tuotesääntelystä, ja lisäksi siinä määritellään kielletyt käytännöt ja suuririskiset järjestelmät. Riskiperustaisuuden lähtökohta on perusteltu, koska tekoälyjärjestelmien kaikenkattava sääntely on teknologioiden laajuuden vuoksi käytännössä mahdotonta. 

Tekoälyasetus on suoraan sovellettavaa oikeutta EU:n jäsenvaltioissa, minkä lisäksi se edellyttää täydentävien ja täsmentävien kansallisten säännösten antamista. Asetuksen kansallinen täytäntöönpano on jaettu kahteen vaiheeseen, ja nyt käsiteltävänä oleva hallituksen esitys on sen ensimmäinen osa. Siihen sisältyy säännökset kansallisista viranomaisista, joita ovat tekoälyjärjestelmiä koskevat markkinavalvontaviranomaiset, ilmoitetuista laitoksista vastaavat viranomaiset ja keskitetty yhteyspiste, sekä asetuksen rikkomisesta määrättävistä seuraamuksista. 

Suurriskiset tekoälyjärjestelmät kasvatuksen ja koulutuksen toimialalla

Sivistysvaliokunnan toimialan kannalta esityksessä merkityksellistä on tekoälyasetuksen liitteen III kohdassa 3 tarkoitetuista suurriskisistä tekoälyjärjestelmistä ja niiden markkinavalvontaviranomaisesta säätäminen. Hallituksen esityksessä (s. 70) on tuotu esille, että tekoälyasetuksen virallisen suomenkielisen version liitteen III kohdassa 3 käännös ”Yleissivistävä ja ammatillinen koulutus” on virheellinen, koska kyseisen kohdan tulisi koskea varhaiskasvatusta ja koulutusta. Näin ollen tekoälyjärjestelmät ovat edellä mainitun liitteen kohdassa tarkoitettuja suurriskisiä tekoälyjärjestelmiä, kun ne on tarkoitettu käytettäviksi 

• määritettäessä luonnollisten henkilöiden pääsyä tai hyväksymistä varhaiskasvatukseen ja koulutukseen kaikilla tasoilla tai osoitettaessa luonnollisia henkilöitä niihin; 
• arvioitaessa oppimistuloksia, myös silloin kun kyseisiä tuloksia käytetään luonnollisten henkilöiden oppimisprosessin ohjaamiseksi varhaiskasvatuksessa ja koulutuksessa kaikilla tasoilla; 
• sen asianmukaisen koulutustason arviointiin, jonka henkilö saa tai johon hän voi päästä varhaiskasvatuksessa ja koulutuksessa tai niiden yhteydessä kaikilla tasoilla; 
• opiskelijoiden tarkkailuun ja kielletyn käyttäytymisen havaitsemiseen kokeiden aikana varhaiskasvatuksessa ja koulutuksessa tai niiden yhteydessä kaikilla tasoilla. 

Asetuksen virallinen käännös vaikuttaa kattavan koulutussektorin kapeammin kuin mitä sen hallituksen esityksessä todetun mukaan tulisi olla. Tämän takia valiokunta pitää tärkeänä, että käännösvirhe korjataan viralliseen käännösversioon pikimmiten ja että käännöksen oikaisusta tiedotetaan riittävän laajasti, jotta varhaiskasvatuksen ja koulutuksen toimijat saavat tiedon niitä velvoittavasta sääntelystä. 

Asiantuntijalausunnossa on tuotu esille, että asetuksen mukaan tekoälyjärjestelmä ei ole suurriskinen, jos sen ainoana tarkoituksena on vahvistaa, että tietty luonnollinen henkilö on se henkilö, joka hän väittää olevansa, sekä vahvistaa luonnollisen henkilön henkilöllisyys ainoastaan jonkin palvelun käyttämiseksi. On huomattava, että datan vinoutumista johtuvat virheet kasvojen tunnistuksessa saattavat aiheuttaa yksilöiden kohdalla haittaa esimerkiksi järjestelmiin tunnistautumisessa. Koulutuksessa edellä todettu voi realisoitua esimerkiksi tentin etävalvonnan epäonnistumisena. Valiokunta toteaa, että tekoälyn sääntelyssä tulee kiinnittää huomiota myös siihen, että se antaa riittävät oikeussuojamekanismit myös niissä tilanteissa, joissa matalariskisen tekoälyjärjestelmän virheet tai vinoumat tosiasiassa aiheuttavat yksilöille vahinkoa. 

Valvontaviranomainen kasvatuksen ja koulutuksen toimialalla

Varhaiskasvatuksen ja koulutuksen toimialalla ei ole tällä hetkellä viranomaista, jolla olisi ennestään markkinavalvontatehtäviä. Tämän vuoksi opetus- ja kulttuuriministeriö selvitti yhteistyössä työ- ja elinkeinoministeriön kanssa eri vaihtoehtoja siitä, mille taholle tehtävä luontevimmin sopisi. Arvioinnin perusteella tehtävä katsottiin soveltuvan parhaiten tietosuojavaltuutetulle, koska henkilötietojen käsittely on valvontatehtävässä keskeisessä asemassa. Tehtävän antamista esimerkiksi aluehallintovirastoille ei pidetty tarkoituksenmukaisena, koska ehdotettu markkinavalvontatehtävä on luonteeltaan erilainen niiden nykyisiin valvontatehtäviin verrattuna. Valiokunta pitää hallituksen esityksessä ehdotettua ratkaisua perusteltuna. On myönteistä, että esityksen valmistelussa on huomioitu tietosuojavaltuutetun toimiston esittämät näkemykset. 

Valiokunta toteaa hallituksen esitykseen (s. 70) viitaten, että koska varhaiskasvatus ja koulutus eivät ole nimenomaisesti tietosuojaviranomaisen ydinosaamista, sen tulee tehdä yhteistyötä toimialan viranomaisten, erityisesti Opetushallituksen kanssa. Yhteistyötä tulee tarpeen mukaan tehdä myös kasvatuksen ja koulutuksen järjestäjien kanssa. 

Valiokunta asiantuntijalausuntoon viitaten katsoo, että tekoälyasetuksen tavoitteet sisämarkkinoiden toiminnan parantamisesta, ihmiskeskeisen ja luotettavan tekoälyn käyttöönoton edistämisestä, perus- ja ihmisoikeuksien suojelemisesta sekä innovoinnin tukemisesta edellyttävät riittäviä viranomaisresursseja. Hallituksen esityksellä tietosuojavaltuutetulle on ehdotettu annettavaksi useita valvontaviranomaisen tehtäviä, jotka koskevat lähes kaikilla toimialoilla käytettäviä tekoälyjärjestelmiä. Asiantuntijalausunnossa on tuotu esille, että tietosuojavaltuutetun toimiston resursointi on jo tällä hetkellä hyvin niukkaa, mihin sekä ylimmät laillisuusvalvojat että perustuslakivaliokunta ovat kiinnittäneet huomiota. Valiokunta korostaa, että tekoälyn valvontatehtävien hoitamiseen tulee turvata riittävät resurssit, jotta tekoälyn kehittäjiä, tarjoajia ja käyttäjiä pystytään palvelemaan tehokkaasti ja oikea-aikaisesti. Valiokunta pitää tärkeänä myös ennakollisen ohjauksen antamista. 

Tekoälyn käyttöä koskeva osaaminen

Tekoälyteknologian nopeaan kehityskulkuun on syytä varautua suunnittelemalla teknologisen osaamisen kartuttamista pitkäjänteisesti. Asiantuntijalausunnossa on tuotu esille, että tekoälyasetuksen 4 artiklan mukaan tekoälyjärjestelmien tarjoajien ja käyttöönottajien on varmistettava henkilöstönsä riittävä tekoälylukutaito. Tekoälyjärjestelmien hankinta, käyttöönotto ja hyödyntäminen vaativat organisaatioilta myös muuta osaamista. Esimerkiksi varhaiskasvatuksessa ja koulutuksessa käytettävillä tekoälyjärjestelmillä voi olla merkittävä vaikutus henkilön koulutusta koskeviin oikeuksiin, kuten koulutukselliseen ja ammatilliseen suuntautumiseen ja menestymiseen sekä syrjimättömyyteen. 

Valiokunta pitää tärkeänä, että tekoälyasetuksen mukaisten tekoälyjärjestelmien tuottajille ja käyttöönottajille annetaan riittävästi viranomaisohjeistusta ja -neuvontaa. Lisäksi valiokunta korostaa, että myös varhaiskasvatuksen ja koulutuksen henkilöstöä tulee perehdyttää tekoälyn sallittuihin käyttötapoihin riittävän laaja-alaisesti muun muassa tietosuojan vaatimukset huomioon ottaen. Tekoälylukutaidon ja tekoälyn käyttöönoton vaatimusten ymmärtämisen varmistamiseksi tulee järjestää kohdennettuja koulutuksia esimerkiksi opetus- ja kulttuuriministeriön organisoimana. Näin voidaan varmistaa toisaalta tekoälysäädösten noudattaminen ja toisaalta tekoälyn asianmukainen hyödyntäminen varhaiskasvatuksessa ja koulutuksessa. Valiokunta pitää tärkeänä, että yksilöiden oikeuksien turvaamiseksi koulutuksessa tulee pitää kiinni periaatteesta, jonka mukaan arviointia sekä oppilas- ja opiskelijavalintaa koskeva päätöksenteko säilyy jatkossakin osaavien ammattilaisten käsissä. 

Tekoälyn asianmukaisen käytön turvaamiseksi on oleellista huolehtia myös kaikkien kansalaisten tekoälyä koskevasta osaamisen turvaamisesta. On hyvä, että ymmärrys tekoälystä ja tekoälylukutaito ovat osa eri koulutusasteiden kansallisissa perusteissa määriteltyä digitaalista osaamista ja että tekoälyn vastuullista käyttöä myös tekijänoikeuksien turvaamisen näkökulmasta harjoitellaan ikätasoon sopivalla tavalla ja opetussuunnitelmien ja tutkintojen perusteiden mukaisesti. 

Eräitä muita huomioita

Valiokunnan näkemyksen mukaan EU:n tekoälyasetus ja sen kansallista toimeenpanoa koskeva sääntely ovat tarpeellisia ja tärkeitä kokonaisuuksia, joiden avulla tekoälyn käyttöä ja kehittämistä voidaan ohjata riskien kannalta oikeaan suuntaan. Tekoälyn kaltaisten ilmiöiden sääntely ei ole helppoa, sillä alan kehitys on nopeaa. 

Valiokunta pitää tärkeänä kiinnittää huomiota myös tekoälyn mahdollisuuksiin. Tekoälyllä on merkittävä potentiaali edistää esimerkiksi tutkimus-, kehittämis- ja innovaatiotoimintaa. Sen hyödyntämisellä voidaan tehostaa myös monia muita toimintoja. On tärkeää, että tekoälyn hallittua käyttöönottoa vauhditetaan tavoitteellisesti ja suunnitelmallisesti eri hallinnonalat kattaen. Tekoälyä ja sen hyödyntämistä koskevaa sääntelyä tulee tarkastella myös kokonaisuutena, eikä vain erillisinä ja yksittäisinä uudistuksina. Sääntelyn kansallisessa toimeenpanossa tulee hyödyntää tutkittua tietoa ja osaamista. Suomalaisissa yliopistoissa tehdään korkeatasoista tekoälytutkimusta, ja sillä on suuri merkitys tekoälyn kehittämisessä. 

Kansallisessa tekoälyä koskevassa lainsäädännössä on tarpeen tunnistaa myös korkeakoulut esimerkiksi taiteen ja tutkimuksen vapauden näkökulmista. Vaikka tutkimus on rajattu tekoälyasetusta koskevan sääntelyn ulkopuolelle, yliopistojen TKI-toimintaa tehdään usein yhteistyössä elinkeinoelämän, kolmannen sektorin ja yritysten kanssa, jolloin toiminta on asetuksen sääntelyn piirissä. 

Saamaansa asiantuntijalausuntoon viitaten valiokunta toteaa, että tekoälyasetuksen sisältämä tuotesääntely ei riitä turvaamaan perus- ja ihmisoikeusien toteutumista, vaan asetuksen soveltamisen rinnalla tulee huolehtia yhdenvertaisuuden ja tasa-arvon toteutumisesta. Julkisen vallan tehtävä on turvata jokaisen perus- ja ihmisoikeuksien toteutuminen ja siksi myös tekoälyn käytön vaikutuksia on selvitettävä huolellisesti mainituilta osin. Tekoälyteknologian kehittäminen ja turvallinen hyödyntäminen edellyttävät myös riittävää seurantaa sekä järjestelmien jatkuvaa ja riittävän monipuolista kouluttamista. Kyseisissä toimissa tulee ottaa huomioon myös tekijänoikeuksien turvaaminen.