VALTIONEUVOSTON JATKOKIRJELMÄ
Ehdotus
Komission alkuperäisen tekoälyasetusehdotuksen tavoitteena on ollut vastata tekoälyjärjestelmien aiheuttamiin uhkiin ihmisten terveydelle, turvallisuudelle ja perusoikeuksien toteutumiselle. Komission ehdotuksen mukaan tekoälyjärjestelmiä säänneltäisiin riskiperustaisesti ja käyttötapauskohtaisesti. Asetusehdotuksessa kiellettäisiin haitallisia tekoälyn käyttötapauksia sekä asetetaan tiukennettuja vaatimuksia ns. korkean riskin tekoälyjärjestelmiksi luokiteltaville järjestelmille. Asetusehdotus on luonteeltaan horisontaalinen, ja koskee monella eri yhteiskunnan sektorilla, kuten lainvalvonnassa, koulutuksessa, julkisen sektorin palveluiden ja etuuksien myöntämisessä sekä oikeuslaitoksen toiminnassa käytettäviä tekoälyjärjestelmiä. Asetusehdotuksessa säädetään myös korkean riskin tekoälyjärjestelmien arvoketjuun kuuluvien toimijoiden (tarjoajat, jakelijat, maahantuojat, käyttäjät) velvollisuuksista sekä tekoälyjärjestelmien markkinavalvonnasta. Asetusehdotuksessa säädetään tekoälyjärjestelmien testaamisesta sääntelyn testiympäristöistä (regulatory sandbox), joiden avulla on mahdollista muun muassa varmistaa, että järjestelmä täyttää asetuksen vaatimukset. Komission ehdotuksen mukaan Eurooppaan perustettaisiin tekoälyneuvosto tukemaan asetuksen täytäntöönpanoa. Asetusta rikkoville tahoille voitaisiin määrätä sanktioita esimerkiksi seuraamusmaksujen muodossa.
Neuvotteluissa keskisimpiä asiakokonaisuuksia ovat tekoälyjärjestelmän määrittely, kiellettyjen tekoälykäytänteiden listaus, korkean riskin tekoälyjärjestelmien luokittelu ja korkean riskin järjestelmiä koskevat vaatimukset. Lisäksi yksi keskeinen asiakokonaisuus on ns. yleiskäyttöisille tekoälyjärjestelmille (general purpose AI systems) asetettavat vaatimukset. Kyseisiä järjestelmiä voitaisiin käyttää mahdollisesti tekoälyjärjestelmien osana esimerkiksi tekstin tai kuvan tuottamiseen tai tunnistamiseen. Sääntely yleiskäyttöisistä tekoälyjärjestelmistä ei sisältynyt komission alkuperäiseen asetusehdotukseen.
Valtioneuvoston kanta
Hallitusohjelman mukaan hallitus vaikuttaa aktiivisesti ja ennakolta siihen, että alustataloutta, tekoälyä, dataa ja digitalisaatiota koskeva EU-sääntely kulkee mahdollistavaan, tasapainoiseen ja Suomen kannalta edulliseen suuntaan, ja minimoi kansallisen lisäsääntelyn.
Suomen kannat komission asetusehdotukseen on kuvattu U-kirjelmässä (U 28/2021 vp) ja U-jatkokirjeessä (UJ 29/2022 vp). Suomen kantoja täsmennetään seuraavasti:
Suomi pyrkii yleisesti siihen, että neuvotteluissa voitaisiin tukeutua mahdollisimman pitkälle neuvoston yleisnäkemykseen. Euroopan parlamentin esittämissä muutoksissa asetusehdotukseen on lisätty lukuisia uusia elementtejä, joiden vaikutuksia ei ole voitu arvioida. Erityisesti Suomi suhtautuu varauksellisesti korkean riskin tekoälyjärjestelmien listauksen (liite III) laajennuksiin neuvoston yleisnäkemykseen verrattuna.
Suomi suhtautuu varauksellisesti Euroopan parlamentin ehdotukseen tekoälyavusteisen rikosanalyysin sisällyttämisestä korkean riskin tekoälyjärjestelmien listaukseen (liite III 6 kohta g alakohta). Suomi pitää tärkeänä, että jatkossakin rikosanalyysissa käytettävää dataa olisi mahdollista analysoida tehokkaasti tekoälyn avulla rikostutkinnassa. Jos kyseiset järjestelmät päätetään kuitenkin sisällyttää korkean riskin tekoälyjärjestelmien listaukseen, on jatkokäsittelyssä varmistuttava siitä, ettei niitä käytetä ainoastaan luonnollisen henkilön toimintaa avustavassa tarkoituksessa. Lisäksi Suomi katsoo, että jatkokäsittelyssä on tarpeen täsmentää, mitkä tekoälyjärjestelmät kuuluisivat rikosanalyysin toteuttamiseen käytettäviin järjestelmiin.
Suomi pitää tärkeänä sitä, ettei kiellettyihin tekoälykäytänteisiin kuuluisi luonnollisia henkilöitä koskevien riskiarviointien tai data-analyysien teko lainvalvontaviranomaisten toiminnassa tekoälyn avulla perustuen henkilön liikkumistietoihin. Lisäksi Suomi pyrkii ensisijaisesti siihen, etteivät henkilöiden tunnetiloista päätelmiä tekevät tekoälyjärjestelmät lainvalvonnassa olisi kiellettyjä, mutta voi tarvittaessa suhtautua kysymykseen joustavasti. Suomi pitää tärkeänä, ettei henkilön liikehdintää, liikehdintätapaa tai muita liikkumisen ominaispiirteitä käsitetä tunnetiloiksi.
Suomen mukaan tekoälyä pitäisi voida hyödyntää reaaliaikaisessa sekä jälkikäteisessä biometrisessä etätunnistamisessa lainvalvontaviranomaisten toiminnassa tietyin tarkasti rajatuin reunaehdoin ja huomioiden perus- ja ihmisoikeuksien toteutuminen.
Tekoälyä hyödyntävien jälkikäteisten biometristen etätunnistusjärjestelmien käyttö tallenteiden tai muun kertyneen materiaalin perusteella tulisi olla lähtökohtaisesti sallittua lainvalvontaviranomaisille esimerkiksi tiettyihin valvonnan, rikostorjunnan ja -tutkinnan, sekä lupahallinnon käyttötapauksiin ilman erillistä tuomioistuimelta haettavaa päätöstä. Tekoälyavusteisen biometrisen etätunnistamisen sallimista tulee arvioida kuitenkin perustuslain, tietosuojasääntelyn ja perusoikeuskirjan asettamien reunaehtojen perusteella. Suomen mukaan neuvotteluissa tulisi pyrkiä siihen, että viranomaisen luvanantamismenettelystä tekoälyn käyttöön biometrisessa etätunnistamisessa ei muodostuisi hallinnollisesti liian raskasta, jolloin riskinä on viivytykset luvan saamisessa. Suomi pitää tärkeänä, ettei asetusehdotus aseta kohtuuttomia esteitä tekoälyn hyödyntämiselle tullivalvonnassa esimerkiksi riskianalyysien teossa.
Suomi pyrkii siihen, että yleiskäyttöisiä tekoälyjärjestelmiä koskeva lainsäädäntökehys olisi mahdollisimman selkeä ja teknologianeutraali. Suomen mukaan neuvotteluissa tulisi pyrkiä siihen, että sekä perustamalleja ja yleiskäyttöisiä tekoälyjärjestelmiä koskisi mahdollisimman yhtenäinen sääntely sen sijaan, että asetuksessa luotaisiin erillinen perustamalleihin keskittyvä sääntely. Suomi kiinnittää huomiota siihen, että Euroopan parlamentti ehdottaa perustamallien tarjoajille asetettavan merkittävästi uusia velvoitteita. Suomi pitää tarpeellisena arvioida, tulisiko perustamallien tarjoajille asetettavissa velvollisuuksissa huomioida paremmin mallien aiheuttamat riskit käyttötapauksen mukaan. Euroopan parlamentin muutosehdotuksella perustamallien tarjoajille voitaisiin asettaa esimerkiksi velvollisuus julkaista tiivistelmä perustamallin kouluttamiseen käytetystä datasta, joka on suojattu tekijänoikeuksilla. Suomen mukaan kyseisen velvollisuuden suhdetta ja vaikutuksia voimassa olevaan tekijänoikeuksia koskevaan sääntelyyn tulisi arvioida tarkemmin huomioiden lähtökohta, että tekijänoikeuslainsäädäntö soveltuu tekoälyjärjestelmiin. Suomi pitää tärkeänä, että järjestelmien tarjoajien olisi mahdollista toteuttaa kyseinen velvoite käytännössä, eikä velvoitteen täyttäminen olisi kohtuuttoman raskasta järjestelmien tarjoajille.
Suomi suhtautuu lähtökohtaisesti varauksellisesti siihen, että tekoälyasetuksessa asetettaisiin kapea-alaista sääntelyä yksipuolisesti asetettujen sopimusehtojen kohtuuttomuudesta Euroopan parlamentin ehdotuksen mukaisesti. Ehdotetun sääntelyn kohdentuminen on epäselvää, ja sitä olisi syytä neuvottelujen kuluessa selkeyttää. Ehdotettua sääntelyä tulisi myös arvioida sopimusvapauden toteutumisen, yritysten välisen kilpailun ja markkinoiden toimivuuden näkökulmasta. Jos asetusehdotukseen sisällytetään sääntelyä kyseisistä sopimusehdoista, sääntelyn tulisi vastata rakenteeltaan mahdollisimman paljon kuluttajasopimusten kohtuuttomista ehdoista annettua neuvoston direktiiviä 93/13/ETY, jonka mukaisesti yksittäisiä sopimusehtoja ei määritellä laissa kaikissa tapauksissa kohtuuttomiksi, vaan sopimusehdon kohtuuttomuutta arvioitaessa voidaan ottaa huomioon kaikki tapaukseen liittyvät olosuhteet. Suomi katsoo, että ehdotettua sopimusehtoja koskevaa sääntelyä tulee tarkentaa esimerkiksi niiden tilanteiden osalta, joissa sopimusosapuolet katsotaan neuvotteluvoimaltaan tasavahvuisiksi. Suomi suhtautuu varauksellisesti siihen, että asetuksen sääntely vaikuttaisi taannehtivasti voimassaoleviin sopimuksiin. Neuvotteluissa tulisi täsmentää, mitkä ovat asetuksen oikeusvaikutukset voimassaoleviin sopimuksiin.
Suomi suhtautuu lähtökohtaisesti varauksellisesti Euroopan parlamentin ehdotukseen siitä, että korkean riskin tekoälyjärjestelmiä koskeva rekisteröintivelvoite EU:n julkiseen tietokantaan kattaa myös lainvalvonnan, maahanmuuton ja rajavalvonnan sektorit sekä kriittisen infrastruktuurin turvallisuuskomponentit. Jos rekisteröintivelvoite koskisi kuitenkin kyseisillä sektoreilla käytettäviä järjestelmiä, rekisteröitävien tietojen ei tulisi vaarantaa järjestelmiä koskevien sensitiivisten tietojen paljastumista. Tämä voisi edellyttää järjestelmistä rekisteröitävien tietojen kaventamista.
Suomen mukaan neuvottelujen edetessä tulisi tarkentaa, mitkä julkisten palveluiden ja etuuksien myöntämisessä käytettävät tekoälyjärjestelmät luokitellaan korkean riskin tekoälyjärjestelmiksi. Asetusehdotuksessa on epäselvää, kuuluisivatko esimerkiksi lakisääteisten vakuutusten toimeenpanoon liittyvät tekoälyjärjestelmät korkean riskin tekoälyjärjestelmien listaukseen.
Suomen mukaan edustajakannedirektiivin soveltamisalaan voitaisiin lisätä tekoälyasetuksesta ne säännökset, joilla on merkitystä kuluttajien yhteisten etujen suojaamisen kannalta. Jos tekoälyasetus lisättäisiin ilmoittajansuojeludirektiivin soveltamisalaan, Suomi kiinnittää huomiota siihen, että tekoälyasetuksen soveltamisala on ilmoittajansuojeludirektiivin soveltamisalaa huomattavasti laajempi, mikä voi laajentaa direktiivin soveltamisalaa ennakoimattomalla tavalla. Tämän vuoksi Suomi katsoo tarpeelliseksi arvioida ilmoittajansuojeludirektiivin soveltamisalan laajennuksen vaikutuksia jatkokäsittelyssä.
Suomen mukaan neuvottelujen kuluessa tulisi arvioida, tulisiko avoimen lähdekoodin avulla kehitettyjen tekoälyjärjestelmien kuulua asetuksen soveltamisalaan tietyissä tilanteissa, esimerkiksi jos kyseisiä järjestelmiä hyödynnetään osana korkean riskin tekoälyjärjestelmää. Jos avoimen lähdekoodin lisenssein tarjottuja tekoälyjärjestelmiä käytetään esimerkiksi korkean riskin käyttötarkoituksissa, niiden markkinoille saattaminen tai käyttöönotto voi mahdollisesti aiheuttaa uhkia perusoikeuksien toteutumiselle. Suomen mukaan avointa lähdekoodia koskevaa soveltamisalapoikkeusta tulisi myös arvioida ja täsmentää suhteessa ehdotettuihin muutoksiin siitä, että tekoälyjärjestelmiä koskeva tieteellinen tutkimus- ja kehitystoiminta jää lähtökohtaisesti asetuksen soveltamisalan ulkopuolelle.
Euroopan parlamentti ehdottaa sääntelyä yleisistä periaatteista, joita sovellettaisiin kaikkiin tekoälyjärjestelmiin, sekä toimenpiteitä tekoälyn ymmärryksen kasvattamisesta esimerkiksi henkilöstön koulutuksen avulla. Jos asetusehdotukseen sisällytetään kyseistä sääntelyä, neuvotteluissa tulisi pyrkiä siihen, että kyseinen sääntely toisi aitoa lisäarvoa esimerkiksi tekoälyjärjestelmien turvalliselle kehittämiselle ja käytölle eikä asettaisi kohtuuttomia velvoitteita eri toimijoille. Lisäksi Suomi kiinnittää huomiota OECD:n tekoälyä koskeviin periaatteisiin1 sekä muihin tekoälyn käytöstä tehtyihin linjauksiin ja suosituksiin.
Suomi kiinnittää huomiota siihen, että Euroopan parlamentti ehdottaa muutoksia säännöksiin koskien tekoälyasetusta valvovia viranomaisia. Suomen mukaan neuvotteluiden kuluessa tulisi arvioida, tulisiko asetusehdotuksessa jättää lisää liikkumavaraa kansallisten viranomaisten tehtävien järjestämiseen huomioiden jäsenvaltioiden viranomaisten nykyiset tehtävät ja hallinnolliset rakenteet. Jos asetusehdotukseen sisällytetään Euroopan parlamentin ehdotuksen mukaisesti sääntelyä viranomaisten välisistä yhteistutkinnoista unionin laajuisissa asetuksen rikkomusten tilanteissa, Suomen mukaan tulisi pyrkiä selkeyttämään viranomaisten toimivallan sisältöä sekä mahdollistamaan tarvittaessa kansallinen liikkumavara tutkinnan järjestämiseen.
Jos asetukseen sisällytetään Euroopan parlamentin ehdottamaa sääntelyä oikeussuojakeinoista, Suomi pitää tarpeellisena arvioida neuvottelujen kuluessa ehdotetun sääntelyn yhteensopivuutta suhteessa kansallisiin oikeussuojakeinoihin ja niitä koskeviin menettelyihin. Lisäksi Suomen mukaan ehdotetun sääntelyn suhdetta nykyisiin käytössä oleviin markkinavalvonnassa käytettäviin oikeussuojakeinoihin, kuten viranomaiselle tehtävään ilmoitukseen, tulisi arvioida tarkemmin. Johtuen Suomen laillisuusvalvonnan erityispiirteistä Suomi suhtautuu kriittisesti kansalliseen tuomioistuimelle tehtäviin valituksiin tilanteissa, joissa kansallinen viranomainen viivästyy päätöksenteossa tai muiden toimenpiteiden suorittamisessa. Suomen mukaan Euroopan parlamentin ehdottamaa sääntelyä henkilön oikeudesta saada selvitys tekoälyjärjestelmän merkityksestä päätöksentekoprosessissa on arvioitava tarkemmin suhteessa yleiseen tietosuoja-asetukseen ja minimoida mahdollisen päällekkäisen sääntelyn vaikutukset.
Suomi katsoo, että asetuksessa tulisi varmistaa riittävä siirtymäaika asetuksen täytäntöönpanolle koskien esimerkiksi valvovien viranomaisten nimeämistä jäsenvaltioissa sekä eri toimijoiden toiminnan mukauttamista asetuksen vaatimuksiin. Suomi kiinnittää huomiota siihen, että Euroopan parlamentin ehdottama kolmen kuukauden määräaika kansallisen valvovan viranomaisen nimeämiseen on lyhyt ottaen huomioon tarpeen muuttaa kansallista lainsäädäntöä valvovien viranomaisten tehtävistä. Kyseisen ehdotetun määräajan suhdetta asetuksen täytäntöönpanoa koskeviin siirtymäaikasäännöksiin tulisi myös täsmentää neuvotteluiden kuluessa.