VALTIONEUVOSTON KIRJELMÄ
Ehdotus
Tekoäly on nopeasti kehittyvä teknologiaperhe, joka voi myötävaikuttaa monenlaisiin taloudellisiin ja yhteiskunnallisiin etuihin kaikilla toimialoilla ja sosiaalisessa toiminnassa. Parantamalla ennakointia, optimoimalla toimintaa ja resurssien kohdentamista sekä yksilöimällä palvelujen toimittamista tekoälyn käyttö voi tarjota yrityksille keskeisiä kilpailuetuja ja tukea sosiaalisesti ja ekologisesti kestäviä tuloksia.
Asetusehdotuksessa tekoälyn oikeudellisen kehyksen luomista lähestytään riskiperustaisesti ja käyttötapauskohtaisesti. Riskiperusteisella ja käyttötapauskohtaisella lähestymistavalla tarkoitetaan, että tekoälyjärjestelmät luokitellaan käyttötarkoituksen pohjalta. Ehdotettu luokittelu on: (i) kielletyt käyttötarkoitukset, (ii) korkean riskin käyttötarkoitukset, (iii) matalan riskin käyttötarkoitukset ja (iv) minimaalisen tai olemattoman riskin käyttötarkoitukset. Saman tekoälyteknologian käyttö voisi täten olla sallittua tai kiellettyä EU:n alueella riippuen käyttötarkoituksesta. Sääntely määräytyisi sen perusteella, missä määrin tekoälyjärjestelmän käyttö voisi aiheuttaa merkittävän haitallisen vaikutuksen ihmisten terveyteen, turvallisuuteen tai perusoikeuksien toteutumiseen.
Valtioneuvoston kanta
Yritysten ja talousalueiden välinen globaali kilpailutilanne vaatii, että EU:sta luodaan tekoälyn kehittämiselle ja soveltamiselle suotuisa toimintaympäristö, joka vahvistaa yritysten kansainvälistä kilpailukykyä ja kannustaa investointeihin. Euroopan teknologinen kilpailukyky perustuu digitaaliselle kehitykselle, innovaatioille, osaamiselle ja toimiville sisämarkkinoille.
Valtioneuvosto pitää kannatettavana, että asetuksella pyritään luomaan edellytykset luottamuksen ekosysteemille, joka edesauttaa tekoälyn vastuullista kehittämistä, markkinoille saattamista ja käyttöönottoa Euroopassa tarjoten eettisesti kestävän toimintakehyksen. Valtioneuvosto katsoo, että EU:n kilpailukyvyn vahvistamiseksi ja tavoitteiden saavuttamiseksi tarvitaan yhtenäisyyttä ja yhteistä arvopohjaista lähestymistapaa ja panostusta kansallisella sekä EU:n tasolla.
Valtioneuvosto tukee komission esittämiä tavoitteita sääntelykehykselle, joiden mukaan varmistetaan, että unionin markkinoille saatetut ja unionin markkinoilla käytetyt tekoälyjärjestelmät ovat turvallisia ja kunnioittavat voimassa olevia perusoikeuksia ja unionin arvoja koskevaa lainsäädäntöä. Valtioneuvosto kannattaa komission ihmiskeskeistä ja luottamusta korostavaa lähestymistapaa jossa eurooppalainen tekoäly perustuu vapauden, ihmisarvon ja yksityisyyden suojan arvoihin.
Valtioneuvosto toteaa, että tekoälyjärjestelmien käyttöön liittyy paljon perusoikeusliitännäisiä kysymyksiä ja huomioi, että oikein käytettynä tekoälyratkaisut voivat myös edistää perusoikeuksien toteutumista. Valtioneuvosto pitää tärkeänä, että jatkovalmistelussa ehdotuksen soveltamisalakysymyksiä arvioidaan huolellisesti perusoikeuksien toteutumisen kannalta.
Valtioneuvosto katsoo, että teknologian kehitykseen ja käyttöönottoon liittyviä perus- ja ihmisoikeuskysymyksiä, turvallisuusuhkia, taloudellisia ja toimitusketjujen riippuvuuksia sekä taustalla vaikuttavaa geopoliittista kontekstia tulee tarkastella kokonaisvaltaisesti. Jatkokäsittelyssä tulee huomioida myös kyberturvallisuus. Digitaalisten ratkaisujen, tekoälyn ja algoritmipohjaisen päätöksenteon tuen kehittämisessä on tärkeää kiinnittää huomiota yhdenvertaisuuteen, sukupuolten tasa-arvoon ja syrjimättömyyteen.
Valtioneuvosto huomioi, että selkeä sääntelykehys, oikeudellinen varmuus sekä tasapuolinen kilpailuympäristö auttavat lisäämään kuluttajien, julkisen sektorin ja yritysten luottamusta tekoälyyn ja siten nopeuttaa tekoälyn käyttöönottoa. Valtioneuvosto kannattaa tavoitteita, joiden mukaan varmistetaan sääntelyn oikeusvarmuus investointien ja innovaatioiden helpottamiseksi sekä helpotetaan laillisten, turvallisten ja luotettavien tekoälysovellusten sisämarkkinoiden kehittämistä.
Valtioneuvosto tukee komission pyrkimyksiä varmistaa nykyisten sisämarkkinasääntöjen tehokas toimeen- ja täytäntöönpano ja lähtökohtaisesti kannattaa markkinavalvonta-asetuksen (EU) 2019/1020 soveltamista myös tekoälyjärjestelmien valvonnassa markkinavalvontamenettelyjen yhdenmukaisuuden varmistamiseksi huomioiden, että jäsenvaltioille jätetään tarpeeksi liikkumavaraa kansallisten toimivaltaisten viranomaisten nimeämisessä ja markkinavalvonnan järjestämisessä käytännössä.
Valtioneuvosto katsoo, että mahdollisen uuden sääntelyn tulee olla soveltamisalaltaan selkeä ja noudattaa paremman sääntelyn periaatteita ja katsoo, että vaatimusten tulee olla oikeasuhtaisia eikä niiden tulisi muodostaa tarpeetonta hallinnollista tai taloudellista taakkaa. Tekoälyjärjestelmien tuottajille, maahantuojille, jakelijoille ja käyttäjille asetettavien velvoitteiden ja eri toimijoiden roolien ja niihin liittyvien vastuiden tulee olla selkeitä. Lisäksi on arvioitava, kuinka laajaa osaamista ja tietoa lainsäädännön sisällöstä eri toimijoilta voidaan edellyttää. Myös toimijoiden erikokoisuuteen sekä tosiasiallisiin mahdollisuuksiin täyttää asetetut velvoitteet tulee kiinnittää huomiota.
Valtioneuvosto katsoo, että julkisen sektorin erityisluonne tulee huomioida ja oikeus hyvään hallintoon tulee turvata viranomaisten osalta. Tulee myös huolehtia, ettei julkisen sektorin toimijoille synny tarpeetonta sääntelytaakkaa, koska julkisen sektorin toimintaan kohdistuu jo kansallista sääntelyä muun muassa hyvän hallinnon, läpinäkyvyyden ja tiedonhallinnan osalta. Valtioneuvosto katsoo, että julkisen hallinnon alaan kuuluvia tehtäviä, joissa käytetään korkean riskin tekoälyjärjestelmiä, koskevaa ehdotettua sääntelyä tulee selkeyttää ja tarkentaa. Valtioneuvosto toteaa, että asetusehdotuksen vaikutuksia julkisen hallinnon digitalisaatioon tulee tarkastella.
Valtioneuvosto huomioi, että asetusehdotuksen suhdetta muuhun unionin sääntelyyn, kuten yleiseen tietosuoja-asetukseen, markkinavalvontaa koskevaan sääntelyyn, yleiseen tuoteturvallisuusdirektiiviin, tuotevastuudirektiiviin sekä olemassa olevaan sektorikohtaiseen lainsäädäntöön esimerkiksi liikennesektorilla, tulee täsmentää neuvotteluissa. Valtioneuvosto katsoo, että eri säädösten ja säädösehdotusten keskinäisriippuvuuden vuoksi sääntelyä tulisi arvioida kokonaisuutena EU-lainsäädännön laadun, selkeyden ja toimivuuden kannalta sekä vahvistaa hallinnon alojen välistä viranomaiskoordinaatiota ja yhteistyötä. Jatkokäsittelyssä tulee myös tarkentaa ehdotusten taloudellisia vaikutuksia muun muassa virastoille aiheutuvien lisätehtävien suhteen.
Valtioneuvosto tukee tavoitetta lähestyä tekoälyn oikeudellisen kehyksen luomista riskiperustaisesti ja käyttötapauskohtaisesti, jotta varmistetaan ehdotuksen oikeasuhtaisuus kiinnittäen samalla huomiota riskiperustaisen ja käyttötapauskohtaisen lähestymistavan selkeyteen. Valtioneuvosto painottaa lisäksi mahdollisuutta hyödyntää itsesääntelyä.
Valtioneuvosto toteaa komission esityksen sisältävän kokonaan kiellettävät tekoälyjärjestelmät ja katsoo, että jatkovalmistelussa on syytä varmistaa, että kiellettyjen tekoälyjärjestelmien määrittely on selkeää, tarkkarajaista ja oikeasuhtaista.
Valtioneuvosto toteaa, että komissio esittää erottelua reaaliaikaisen ja jälkikäteen tapahtuva biometrisen tunnistamisen välillä. Valtioneuvosto voi hyväksyä erottelun mutta samalla tulee huolehtia siitä, että reaaliaikainen biometristen järjestelmien käyttö edellä mainituilla alueilla henkilöiden tunnistamisessa on mahdollista tietyin, tarkkarajaisin ehdoin suhteellisuusperiaate ja perus- ja ihmisoikeudet huomioon ottaen. Huomiota tulee kiinnittää käyttötapausten määrittelyn selkeyteen sekä oikeasuhtaisuuteen.
Valtioneuvosto kiinnittää huomiota siihen, että korkean riskin käyttötapauksiin kohdennettavan sääntelyn soveltamisalan tulee olla selkeä, oikeasuhtainen ja perusteltu. Valtioneuvosto huomioi, että korkean riskin käyttötarkoituksiin liittyvien avustavien ja valmistelevien tekoälyjärjestelmien kohdalla, jotka toimivat ihmiskäyttäjän harkinnan tukena, tulisi selkeyttää sitä millä tavalla ja millä laajuudella käytettynä tällaiset järjestelmät luetaan korkean riskin järjestelmäksi koskien esimerkiksi arviointia koulutuksessa. Valtioneuvosto pitää lisäksi tärkeänä sitä, että työntekijöiden ja työnhakijoiden oikeudet turvataan myös silloin kun päätöksenteossa hyödynnetään tekoälyä.
Valtioneuvosto pitää tärkeänä varmistaa oikeasuhtaisuus ja tarkkuus myös tekoälyjärjestelmien tiedonhallinnan ja tiedon laatua koskevien vaatimusten osalta. Valtioneuvosto katsoo, että ehdotuksessa edellytetty tekoälyjärjestelmien ihmisvalvonta kaipaa selkeyttämistä ja täsmentämistä. Valtioneuvosto huomioi asetusehdotuksen läpinäkyvyysvelvoitteen piiriin kuuluvat tekoälyjärjestelmien velvoitteet ja toteaa, että ehdotuksen vaikutuksia tulee arvioida tarkoin. Jatkokäsittelyssä tulee myös varmistaa, että korkean riskin tekoälyjärjestelmien rekisteröinti EU:n tietokantaan on tarkoituksenmukaista ja turvallista.
Valtioneuvosto katsoo, että velvoitteiden noudattamisesta ei tule syntyä liian korkeaa kynnystä tai liian pitkää hidastetta kehittämiselle ja markkinoille asettamiselle ja pitää tärkeänä, että asetusehdotus mahdollistaa tekoälyä koskevan tieteellisen tutkimustoiminnan sekä yritystoiminnan. Asetusehdotuksen vaikutuksia yritysten tutkimus-, kehittämis- ja innovaatiotoimintaan tulisi täsmentää.
Valtioneuvosto kiinnittää huomiota myös tekoälyteknologioiden luonteeseen ja siihen, että tekoälyteknologiat ovat joukko kehittyviä ohjelmistoja ja teknologioita, joille ei voida antaa yksiselitteistä määritelmää. Sääntelyn riittävän tarkkarajaisuuden varmistamiseksi tekoälyn määritelmää tulee tarkastella jatkokäsittelyssä ja selventää, sovelletaanko asetusta tietojärjestelmäkokonaisuuden tekoälyosaan vai tekoälyosan myötä koko tietojärjestelmäkokonaisuuteen. Uuden teknologian kehittyessä on varmistettava lainsäädännön ajantasaisuus ja teknologianeutraalius.
Valtioneuvosto katsoo, että hallinnollisia sanktioita koskevaa ehdotusta on arvioitava siinä valossa, että sääntelyn tulee täyttää yleiset tarkkuuden ja oikeasuhtaisuuden vaatimukset. Ehdotetun seuraamusjärjestelmän suhdetta muuhun lainsäädäntöön, mukaan lukien erityisesti EU:n yleiseen tietosuoja-asetukseen perustuvaan seuraamuksia koskevaan sääntelyyn, olisi arvioitava neuvottelujen aikana tarkemmin. Kansallisten viranomaisten osalta on syytä varmistaa riittävän sääntelyliikkumavaran säilyminen.
Valtioneuvosto katsoo, että komissiolle delegoitavien toimivaltuuksien tulee olla selkeitä, tarkkarajaisia, oikeasuhtaisia, tarkoituksenmukaisia ja hyvin perusteltuja. Jatkokäsittelyssä komissiolle delegoitavan säädösvallan ja täytäntöönpanovallan laajuutta ja tarkoituksenmukaisuutta tulee tarkastella huomioiden myös sääntelyn ennakoitavuus eri toimijoille sekä vaikutukset toimintaympäristöön.
Valtioneuvosto painottaa mahdollisuutta hyödyntää parhaiden käytänteiden jakamista. Lisäksi valtioneuvosto tukee komission näkemystä siitä, että erityisesti pk-yrityksiä tulee tukea digitaalisessa siirtymässä. Valtioneuvosto tukee asetusehdotuksen tavoitetta tukea pk-yrityksiä sääntelyn hiekkalaatikoiden sekä testaus- ja kokeiluympäristöjen perustamisen myötä, mutta pitää tärkeänä, että sääntelyn soveltamisalasta ja toimijoiden velvoitteista sekä niistä tehtävien poikkeusten edellytyksistä säädetään tarkkarajaisesti perussäädöksessä ja sääntelyssä turvataan toimijoiden yhdenvertaisuus.
Valtioneuvosto toteaa, että asetusehdotuksen mainintaa sotilaallisiin tarkoituksiin kehitettyjen ja käytettyjen tekoälyjärjestelmien rajautumisesta soveltamisalan ulkopuolelle tulisi jatkovalmisteluissa täsmentää huomioimaan vastaavalla tavalla erikseen sisältyvin osin myös kansallisen turvallisuuden ylläpitämiseen sisältyvät tarkoitukset. Valtioneuvosto suhtautuu varauksella luottamuksellisia tietoja koskevaan säännösehdotukseen koskien artiklaa 70 huomioiden, että sääntelyn ei tulisi johtaa julkisuusperiaatteen kaventumiseen.
VALIOKUNNAN PERUSTELUT
Asetusehdotuksen taustaa ja tavoitteita
Valiokunta toteaa, että komissio on antanut 21.4.2021 ehdotuksen Euroopan parlamentin ja neuvoston asetukseksi tekoälyn eurooppalaisesta lähestymistavasta (KOM(2021) 206 lopullinen). Samassa yhteydessä komissio on antanut tekoälyn tiedonannon (KOM(2021) 205 lopullinen) sekä sen liitteenä päivitetyn tekoälyn koordinoidun toimintasuunnitelman. Lisäksi komissio on antanut ehdotuksen koneasetukseksi (KOM(2021) 202 lopullinen). Tekoälyä koskeva asetusehdotus pohjautuu komission 19.2.2020 antamaan tiedonantoon Euroopan digitaalisesta tulevaisuudesta sekä tekoälyä koskevaan valkoiseen kirjaan (E 24/2020 vp). Tätä ennen komissio on julkaissut vuonna 2018 ensimmäisen tekoälyn koordinoidun toimintasuunnitelman.
U-kirjelmän mukaan komission sääntelyehdotus on ensimmäinen laatuaan maailmassa ja se pyrkii edelläkävijänä viitoittamaan suuntaa globaalisti. Asetusehdotuksen tavoitteena on, että EU:sta muodostuu tekoälyn kehittämiselle ja soveltamiselle suotuisa ympäristö, joka edistää investointeja ja vahvistaa yritysten kansainvälistä kilpailukykyä. Asetusehdotuksen tavoitteena on lisäksi vahvistaa EU:ta turvallisena, luotettavana, ihmiskeskeisyyttä sekä perus- ja ihmisoikeuksia kunnioittavana toimintaympäristönä.
Tekoälyasetuksen tarkoituksena on parantaa sisämarkkinoiden toimintaa luomalla edellytykset tekoälyn käyttöönotolle, joka on yhteensopiva unionin lainsäädännön kanssa ja edistää terveyden ja turvallisuuden sekä henkilöiden perusoikeuksien ja -vapauksien ja erityisesti henkilötietojen korkean tason suojelua. Komission sääntelyehdotuksen lähtökohtana on, että tekoälyn käyttöönoton tulee EU:n alueella perustua unionin arvoille. Asetuksella pyritään luomaan edellytykset luottamuksen ekosysteemille, joka edesauttaa tekoälyn markkinoille saattamista, käyttöönottoa ja kehittämistä sekä tekoälypohjaisten tavaroiden ja palvelujen liikkuvuutta. Lisäksi tavoitteena on, että EU:n markkinoilla saatavissa olevan tai muulla tavoin unionin kansalaisiin vaikuttavan tekoälyn sääntöjen tulisi saattaa ihmiset keskiöön. Tavoitteena on, että sääntely koskee rajattua osaa tekoälyjärjestelmien käyttömahdollisuuksista ja suurin osa tekoälyjärjestelmien käytöstä on sallittua.
Tekoälyasetuksen sisällöstä
Tekoälyasetus on tarkoitettu koskemaan sekä julkisen että yksityisen sektorin toimijoita. Tekoälyn oikeudellisen kehityksen luomisessa lähestytään tekoälyn hyödyntämistä riskiperusteisesti ja käyttötapauskohtaisesti, mikä merkitsee tekoälyjärjestelmien luokittelua käyttötarkoituksen pohjalta (kielletyt käyttötarkoitukset, korkean riskin käyttötarkoitukset, matalan riskin käyttötarkoitukset, olemattoman tai matalan riskin käyttötarkoitukset). Näin ollen tietyn tekoälyteknologian käyttö voi olla sallittua tai kiellettyä unionin alueella riippuen kyseessä olevan teknologian käyttötarkoituksesta. Sanottu voi merkitä myös sitä ongelmallisenakin pidettävää tilannetta, että jonkun tekoälysovelluksen käyttö on sallittua yksityisellä sektorilla, mutta kiellettyä julkisella sektorilla. Erilaisen ja erityyppisen älyteknologian hyödyntämismahdollisuudet määräytyvät U-kirjelmän mukaan sen perusteella, missä määrin tekoälyjärjestelmän käyttö voi aiheuttaa merkittävän haitallisen vaikutuksen ihmisten terveyteen, turvallisuuteen tai perusoikeuksien toteutumiseen. Valiokunta pitää tärkeänä myös esimerkiksi tekoälyllä suojattavan oikeushyvän merkitystä suhteessa sen käytön aiheuttamaan puuttumiseen muihin perusoikeuksiin.
Asetusehdotuksessa ehdotetaan yhdenmukaisia sääntöjä korkean riskin tekoälyjärjestelmien markkinoille saattamisessa, käyttöönotossa ja käytössä unionissa sekä esitetään yhdenmukaisia läpinäkyvyyssääntöjä tekoälyjärjestelmille, jotka on tarkoitettu vuorovaikutukseen luonnollisten henkilöiden kanssa. Lisäksi ehdotetaan sääntöjä koskien markkinoiden seurantaa ja valvontaa. Asetusta sovelletaan tarjoajiin, jotka saattavat markkinoille tai ottavat käyttöön tekoälyjärjestelmiä unionissa, riippumatta siitä, ovatko nämä tarjoajat sijoittautuneet unioniin vai kolmanteen maahan asetusehdotuksesta tarkemmin ilmenevin tavoin. Valiokunta huomauttaa, ettei tekoälyasetusta ole tarkoitettu sovellettavaksi tekoälyjärjestelmiin, jotka on kielletty tai joita käytetään yksinomaan sotilastarkoituksiin.
Valiokunta pitää tärkeänä, että asetusehdotuksessa käsitteet määritellään täsmällisesti ja mahdollisimman aukottomasti. Tekoälyasetuksessa tekoäly on määritelty laajasti (3 artikla ja I liite). Valiokunta kiinnittää huomiota siihen, että tekoälyn kattava määrittely on haastavaa, koska älyteknologia muuttuu ja kehittyy jatkuvasti. Komission ehdotuksessa tekoälyjärjestelmällä tarkoitetaan ohjelmistoa, joka on kehitetty yhdellä tai useammalla liitteessä I luetellulla tekniikalla ja lähestymistavalla ja joka voi tuottaa tiettyjä ihmisen määrittelemiä tavoitteita varten tuotoksia, kuten sisältöä, ennusteita, suosituksia tai päätöksiä. Laajan tekoälyjärjestelmän määritelmän tarkoituksena on valiokunnan käsityksen mukaan mahdollisimman teknologianeutraali oikeudellinen kehys, joka on samalla kestävä ja ottaa huomioon nopean teknologisen kehityksen sekä markkinoiden kehityksen. Tällaisen käsitemäärittelyn ongelmaksi saattaa muodostua sen väljyys.
Lisäksi on otettava huomioon tekoälyasetuksessa komissiolle ehdotettu valta muuttaa delegoitujen täytäntöönpanosäädösten avulla asetuksen liitettä I, mikä merkitsee valiokunnan mielestä samalla asetuksen sisällön muuttumista. Sinänsä on ymmärrettävää, että asetuksen muuttaminen normaalissa menettelyssä ei välttämättä ole helppoa ja että joustavalla sääntelyllä pyritään osaltaan ottamaan huomioon jatkuvasti kehittyvä tekoälyteknologia. Valiokunta suhtautuu varauksin kyseisen toimivallan antamiseen komissiolle.
Asetusehdotuksen mukaisesti korkean riskin tekoälyjärjestelmät voidaan saattaa unionin markkinoille tai ottaa käyttöön vain, jos ne täyttävät tietyt pakolliset vaatimukset. Näillä vaatimuksilla pyritään varmistamaan, että unionissa käytettävissä olevat korkean riskin tekoälyjärjestelmät tai näiden tuotokset eivät aiheuta kohtuuttomia riskejä unionin tärkeille julkisille eduille, jotka tunnustetaan ja suojataan unionin lainsäädännössä. Korkean riskin tekoälyjärjestelmät koskevat muun muassa viranomaisen toiminnassa käytettäviä järjestelmiä. Näitä järjestelmiä voidaan käyttää esimerkiksi päätettäessä julkisten palveluiden tai sosiaalisten etuuksien käytöstä tai tosiasiallisessa hallintotoiminnassa. Valiokunta katsoo, että tekoälyasetuksen jatkokäsittelyssä tulee selventää asetuksen määritelmää tekoälyjärjestelmästä ja korkean riskin tekoälyjärjestelmien käyttötarkoituksista (liite III), jotta vaikutuksia julkisen hallinnon toimintaan voidaan edelleen arvioida. Asetusehdotus jättää saadun selvityksen mukaan avoimeksi muun muassa sen, miltä osin sääntely koskisi viranomaisten käytössä olevia tekoälyä käyttäviä neuvonta- ja tukijärjestelmiä, kuten keskustelurobotteja (chatbotteja).
Valiokunta toteaa, että asetusehdotus sisältää yksityiskohtaisia vaatimuksia korkean riskin tekoälyjärjestelmille muun muassa kehittämisen, testaamisen ja toiminnan osalta. Valiokunta pitää tärkeänä sen varmistamista, että uusi sääntely ei muodosta ylimääräistä hallinnollista taakkaa tekoälyjärjestelmien kehittäjille. Asetuksen vaatimukset korkean riskin tekoälyjärjestelmille voivat tukea hyvän hallinnon periaatteiden toteutumista, kun näitä tekoälyjärjestelmiä käytetään viranomaisen toiminnassa. Suomessa julkisen sektorin toimintaan kohdistuu kansallista sääntelyä muun muassa hyvän hallinnon, läpinäkyvyyden ja tiedonhallinnan osalta, minkä vuoksi asetusehdotuksen sääntely on todennäköisesti osittain päällekkäistä nykyisen kansallisen sääntelyn kanssa. Asetusehdotuksen jatkokäsittelyssä tulee varmistaa, ettei asetuksesta synny kansallisille viranomaisille tarpeetonta sääntelytaakkaa.
On myös huomattava, että asetusehdotuksessa asetetaan velvollisuuksia korkean riskin tekoälyjärjestelmien tuotantoketjuun kuuluville eri tahoille, kuten järjestelmien tuottajille, jakelijoille ja maahantuojille, sekä järjestelmien käyttäjille. Valiokunta kiinnittää huomiota siihen, että julkisen sektorin elin voi toimia useassa asetusluonnoksessa mainitussa roolissa, kuten tekoälyjärjestelmän tuottajana, käyttäjänä tai mahdollisesti myös tekoälyjärjestelmiä valvovana tahona. Viranomaisiin kohdistuvat velvollisuudet riippuvat siitä, missä roolissa viranomainen kulloinkin toimii. Asetusehdotuksen jatkokäsittelyssä tulee ottaa tarkasteluun näiden roolien moninaisuus ja arvioida julkiseen sektoriin kohdistuvaa sääntelyä kokonaisuutena.
Komission asetusehdotuksen liitteessä III on lueteltu korkean riskin tekoälyjärjestelmät, joita koskevat tiukat vaatimukset (ehdotuksen luku 2). Liitteessä III luetellaan kahdeksan korkeariskistä aluetta, joista kolme on olennaisia sisäisen turvallisuuden kannalta (luonnollisten henkilöiden biometrinen tunnistaminen ja luokittelu, lainvalvonta sekä maahanmuutto, turvapaikka ja rajavalvonta). Lainvalvontaviranomaisten toiminnassa korkean riskin järjestelmiksi on määritelty esimerkiksi järjestelmät, joita käytetään rikosanalyysissä käsiteltäessä suuria tietomassoja rikoksesta epäiltyjen ja rikollisten tekojen välisissä yhteyksissä. Korkean riskin järjestelmiksi on määritelty myös tekoälyä hyödyntävät järjestelmät, joita käytetään sähköisen todistusaineiston luotettavuuden arviointiin. Maahanmuuton alalla kaikki tekoälyjärjestelmien käyttötarkoitukset eivät lukeudu asetusehdotuksen mukaisiin korkean riskin järjestelmiin.
Tekoälyasetusehdotuksen mukaan vain niitä tekoälyjärjestelmiä, jotka on lueteltu asetusehdotuksen liitteessä III, pidetään suurina riskeinä. Tästä seuraa, että samat tekoälyjärjestelmät, jotka katsotaan suureksi riskiksi lainvalvontaviranomaisten käyttäessä niitä, eivät ole suuri riski yksityisen sektorin käyttäessä niitä, paitsi jos ne kuuluvat johonkin arkaluonteiseen alueeseen ja luetellaan liitteessä III. Valiokunnalle esitetyn esimerkin mukaan tekoälyä hyödyntävä järjestelmä mediayhtiöllä esimerkiksi videon autenttisuuden arvioinnissa ei ole asetusehdotuksen mukaan korkean riskin järjestelmä, mutta kun samaa järjestelmää hyödynnetään lainvalvontaviranomaisten toiminnassa, on järjestelmä luokiteltu korkean riskin järjestelmäksi. Valiokunta pitää asiaa ongelmallisena, ja sitä tulee selvittää asian jatkovalmistelussa.
U-kirjelmässä on kuvattu myös tekoälyasetuksessa kielletyt tekoälyjärjestelmät, joihin kuuluu reaaliaikaisten biometristen etätunnistusjärjestelmien käyttö lainvalvontatarkoituksiin julkisesti käytettävissä olevissa tiloissa. Poikkeuksen kiellosta muodostavat tietyissä tilanteissa rikoksen uhrien (esimerkiksi kadonneiden lasten) kohdennettu etsiminen, luonnollisten henkilöiden elämään tai fyysiseen turvallisuuteen kohdistuvan erityisen merkittävän ja välittömän uhan estäminen, terrori-iskun estäminen sekä rikoksentekijän ja epäillyn rikoksentekijän paikantaminen.
Valiokunta toteaa, että Suomessa poliisilla on käytössä kasvojentunnistusjärjestelmä, jolla voidaan hakea yksittäisellä kuvalla rikoksesta epäiltyä henkilöä poliisin tuntomerkkirekistereistä hänen tunnistamisekseen. Järjestelmää voidaan käyttää henkilön tunnistamiseksi vankeusuhkaisissa rikoksissa silloin, kun se on välttämätöntä rikoksen selvittämiseksi. Sen sijaan lainsäädäntö ei nykyään mahdollista sitä, että poliisi voisi suorittaa esimerkiksi terrorismirikoksesta etsityn henkilön reaaliaikaista seulomista valvontakameroiden kuvavirrasta.
Valiokunta kiinnittää huomiota siihen, että komission ehdotuksen mukaan kiellettyä on lainvalvontatarkoituksessa tapahtuva reaaliaikainen biometrinen etätunnistaminen ilman poikkeuksia. Ehdotetun sääntelyn suhde esimerkiksi rajavalvonnan yhteydessä tapahtuvaan reaaliaikaiseen biometriseen etätunnistamiseen jää kuitenkin saadun selvityksen perusteella tulkinnanvaraiseksi. Voimassa olevan rajavartiolain (578/2005) 31 §:n mukaan Rajavartiolaitoksella on oikeus käyttää rajanylityspaikalla teknisessä valvonnassa kertyvää kuvaa ja ääntä henkilöiden automaattiseen tunnistamiseen toimivaltaisen viranomaisen antaman etsintäkuulutuksen mukaan haastettavien, kiinniotettavien, pidätettävien, säilöön otettavien, vangittavien tai viranomaisten seurantaan otettavien henkilöiden tunnistamiseksi. Mikäli lainvalvontatarkoituksella tarkoitetaan asetuksessa myös edellä mainittuja rajavalvonnan yhteydessä ilmeneviä tilanteita, tulee Suomen neuvottelujen edetessä toimia sen puolesta, ettei kansallisen lainsäädäntömme muuttamiseen tältä osin ole tarvetta.
Komission tekoälyasetusehdotuksella on horisontaalisen luonteensa vuoksi paljon yhtymäkohtia voimassa olevaan lainsäädäntöön. Valiokunta tuo yhteensovittamistarpeesta esiin esimerkinomaisesti EU:n yleisen tietosuoja-asetuksen, joka kansallisine direktiivinomaisine harkintamarginaaleineen muodostaa haasteellisen sääntelykokonaisuuden. Valiokunta tähdentää, että ehdotetun tekoälyasetuksen suhteen tietosuoja-asetukseen tulee olla mahdollisimman selkeä. Toisena esimerkkinä voidaan mainita ehdotetun tekoälyasetuksen kanssa samanaikaisesti annettu komission ehdotus koneasetukseksi, jolla on tarkoitus toteuttaa tekoälyjärjestelmien turvallinen integrointi koneisiin. Eri säädösten yhteensovittaminen on laaja ja vaativa työ. Valiokunta pitää mahdollisena ottaen huomioon myös asiantuntijakuulemisessa esiin tulleet seikat, että asetusehdotuksen käsittely voi tulla kestämään vuosia.
Valiokunta toteaa lopuksi yleisesti, että U-kirjelmässä on arvioitu myös ehdotetun tekoälyasetuksen suhdetta perus- ja ihmisoikeuksiin.