Utgångspunkter

Propositionen bygger på EU:s förordning om artificiell intelligens (EU) 2024/1689 (nedan AI-förordningen eller förordningen), som trädde i kraft den 1 augusti 2024. Syftet med förordningen är att säkerställa att de system för artificiell intelligens (AI) som släpps ut på marknaden eller tas i bruk inom EU inte äventyrar människors hälsa, säkerhet eller grundläggande fri- och rättigheter. Förordningen grundar sig på en riskbaserad reglering av AI-system. Enligt förordningen är exempelvis mycket skadlig användning av artificiell intelligens förbjuden och strängare krav ställs på AI-system med hög risk. Tillämpningen av förordningen inleds stegvis. 

AI-förordningen bygger på produktreglering och i den fastställs också förbjudna användningsområden och system med hög risk. En riskbaserad utgångspunkt är motiverad, eftersom det på grund av teknikens bredd i praktiken är omöjligt att ta fram en heltäckande reglering för AI-system. 

Förordningen är direkt tillämplig rätt i EU:s medlemsstater och förutsätter dessutom att kompletterande och preciserande nationella bestämmelser utfärdas. Det nationella genomförandet av förordningen är indelat i två steg. Den aktuella propositionen utgör det första steget. I propositionen föreslås det bestämmelser om nationella myndigheter, det vill säga om marknadskontrollmyndigheter för AI-system, myndigheter med ansvar för anmälda organ och en gemensam kontaktpunkt, samt påföljder vid överträdelse av förordningen. 

AI-system med hög risk inom utbildning och fostran

Av betydelse med tanke på kulturutskottets ansvarsområde är att det i propositionen föreslås bestämmelser om sådana AI-system med hög risk som avses i punkt 3 i bilaga III till förordningen om artificiell intelligens och om marknadskontrollmyndigheten för dem. I propositionen (s. 69) lyfts det fram att det finska uttrycket "yleissivistävä ja ammatillinen koulutus" (översatt till svenska "allmänbildande utbildning och yrkesutbildning") i punkt 3 i bilaga III är felaktigt. På svenska används i förordningen ”utbildning och yrkesutbildning”. Punkten i fråga gäller småbarnspedagogik och utbildning. AI-system betraktas som system med hög risk i den mening som avses i nämnda bilaga när de är avsedda att användas för att 

• fastställa tillgång eller antagning eller för att anvisa fysiska personer till institutioner för småbarnspedagogik och utbildning på alla nivåer, 
• utvärdera läranderesultat, även när dessa resultat används för att styra fysiska personers lärandeprocess vid institutioner för småbarnspedagogik och utbildning på alla nivåer, 
• bedöma den lämpliga utbildningsnivå som en person kommer att erhålla eller kommer att kunna få tillgång till, inom ramen för eller vid institutioner för småbarnspedagogik och utbildning på alla nivåer, 
• övervaka och upptäcka förbjudet beteende bland studerande under provtillfällen inom ramen för eller vid institutioner för småbarnspedagogik och utbildning på alla nivåer. 

Översättningen i förordningen täcker inte utbildningssektorn i den grad som den enligt propositionen ska göra. Därför framhåller utskottet att det är viktigt att översättningsfelet i den officiella versionen av förordningen korrigeras så snart som möjligt och att det i tillräcklig grad informeras om rättelsen så att aktörerna inom småbarnspedagogik och utbildning känner till de bestämmelser som förpliktar dem. 

I ett sakkunnigyttrande har det framförts att ett AI-system enligt förordningen inte är förenat med hög risk om dess enda syfte är att bekräfta att en specifik fysisk person är den som vederbörande utger sig för att vara och för att bekräfta identiteten på en fysisk person med det enda syftet att få åtkomst till en tjänst. Det bör noteras att fel i ansiktsidentifieringen till följd av snedvridningar som orsakas av de data som ett AI-system använder kan medföra olägenheter för individen till exempel vid identifiering i ett system. Inom utbildningssektorn skulle det till exempel kunna innebära att övervakningen av tentamina som avläggs på distans misslyckas. Utskottet påpekar att när det utfärdas bestämmelser om AI bör man fästa vikt vid att de ger tillräckliga rättsmedel också i de situationer där fel eller snedvridningar i ett AI-system med låg risk de facto orsakar individen skada. 

Tillsynsmyndighet för utbildning och småbarnspedagogik

I nuläget finns det ingen myndighet som har marknadskontrolluppgifter som berör småbarnspedagogik eller utbildning. Därför utredde undervisnings- och kulturministeriet i samarbete med arbets- och näringsministeriet vem uppgiften bäst lämpar sig för. Utifrån bedömningen ansågs det lämpligast att dataombudsmannen sköter uppgiften, eftersom behandlingen av personuppgifter spelar en väsentlig roll i tillsynsuppgiften. Det ansågs inte ändamålsenligt att regionförvaltningsverken ska sköta uppgiften, eftersom den föreslagna marknadstillsynsuppgiften till sin karaktär avviker från verkens nuvarande tillsynsuppgifter. Utskottet anser att den föreslagna lösningen är motiverad. Det är positivt att de synpunkter som dataombudsmannens byrå framfört har beaktats vid beredningen av propositionen. 

Utskottet påpekar med hänvisning till propositionen (s. 70) att eftersom småbarnspedagogik och utbildning inte uttryckligen hör till dataskyddsmyndighetens kärnkompetens, bör dataskyddsmyndigheten samarbeta med myndigheter inom utbildningssektorn, i synnerhet Utbildningsstyrelsen. Vid behov ska samarbetet också omfatta anordnarna av utbildning och småbarnspedagogik. 

Utskottet hänvisar till ett sakkunnigyttrande och framhåller att det krävs tillräckliga myndighetsresurser för att uppnå förordningens mål att förbättra den inre marknadens funktion, främja ibruktagandet av människocentrerad och tillförlitlig artificiell intelligens, skydda de grundläggande fri- och rättigheterna och de mänskliga rättigheterna samt stödja innovation. I propositionen föreslås det att dataombudsmannen ges flera tillsynsmyndighetsuppgifter som gäller AI-system som används inom nästan alla sektorer. I ett sakkunnigyttrande har det framförts att dataombudsmannens byrå redan i nuläget har väldigt knappa resurser, vilket både de högsta laglighetsövervakarna och grundlagsutskottet har fäst uppmärksamhet vid. Utskottet betonar att tillräckliga resurser bör tryggas för skötseln av tillsynsuppgifterna i fråga om AI för att de som utvecklar, tillhandahåller och använder AI ska kunna betjänas effektivt och i rätt tid. Det är också viktigt med proaktiv vägledning, anser utskottet. 

Kunskap om användning av artificiell intelligens

Det är befogat att förbereda sig på AI-teknikens snabba utveckling genom att planera hur den tekniska kompetensen kan stärkas på lång sikt. I ett sakkunnigyttrande har det lyfts fram att enligt artikel 4 i AI-förordningen ska leverantörer och tillhandahållare av AI-system vidta åtgärder för att säkerställa att deras personal har tillräcklig AI-kunnighet. Anskaffningen, ibruktagandet och utnyttjandet av AI-system kräver också annan kompetens av organisationerna. Exempelvis kan de AI-system som används inom småbarnspedagogiken och utbildningen ha en betydande inverkan på personens utbildningsrelaterade rättigheter. Det kan röra sig bland annat om utbildningsmässig och yrkesmässig inriktning och framgång samt icke-diskriminering. 

Utskottet anser det vara viktigt att myndigheterna ger de leverantörer och tillhandahållare av AI-system som avses i AI-förordningen tillräckliga anvisningar och tillräcklig rådgivning. Dessutom betonar utskottet att också personalen inom småbarnspedagogiken och utbildningen i tillräcklig grad bör informeras om de tillåtna AI-användningsområdena bland annat med beaktande av kraven på skydd för personuppgifter. För att säkerställa att kraven i anslutning till AI-kunnighet och användningen av AI har förståtts bör det ordnas specifika utbildningar för ändamålet, till exempel under ledning av undervisnings- och kulturministeriet. På det sättet kan man säkerställa å ena sidan att bestämmelserna om AI iakttas, å andra sidan att AI används på ändamålsenligt sätt inom småbarnspedagogiken och utbildningen. Utskottet anser det vara viktigt att man för att trygga individernas rättigheter i utbildningen håller fast vid principen att beslut som gäller bedömning och elev- och studerandeantagning även i fortsättningen ska fattas av kunniga yrkesutbildade personer. 

För att säkerställa en korrekt användning av AI är det väsentligt att också säkerställa att alla medborgare har tillräckligt kunnande i fråga om AI. Det är bra att förståelsen för AI och AI-kunnighet ingår i den digitala kompetens som definieras i de nationella läroplansgrunderna för olika utbildningsstadier och att en ansvarsfull användning av AI övas på ett sätt som lämpar sig för respektive åldersgrupp och i enlighet med läroplanerna och examensgrunderna. 

Andra synpunkter

Utskottet anser att EU:s AI-förordning och bestämmelserna om det nationella genomförandet utgör en behövlig och viktig helhet som kan styra användningen och utvecklingen av AI i rätt riktning med tanke på riskerna. Det är inte lätt att reglera fenomen som AI, eftersom området utvecklas snabbt. 

Utskottet anser det vara viktigt att också fästa uppmärksamhet vid de möjligheter som AI medför. AI har en betydande potential att främja till exempel forsknings-, utvecklings- och innovationsverksamhet (FoUI). Genom AI kan man också effektivisera annan verksamhet. Det är viktigt att en kontrollerad användning av AI påskyndas målinriktat och systematiskt inom olika förvaltningsområden. Bestämmelserna om användningen av AI bör också ses som en helhet och inte som separata och enskilda reformer. Vid det nationella genomförandet av regleringen bör man utnyttja evidensbaserad information och kunskap. De finländska universiteten bedriver högklassig forskning om AI. Forskningen är av stor betydelse för utvecklingen av AI. 

I den nationella lagstiftningen om AI är det nödvändigt att beakta också högskolorna till exempel med avseende på konstens och forskningens frihet. Även om forskningen har lämnats utanför bestämmelserna i AI-förordningen, bedrivs universitetens FoUI-verksamhet ofta i samarbete med näringslivet, tredje sektorn och företagen, varvid verksamheten omfattas av förordningens bestämmelser. 

Utskottet påpekar med hänvisning till ett sakkunnigyttrande att produktregleringen som ingår i AI-förordningen inte i sig är tillräcklig för att trygga tillgodoseendet av de grundläggande fri- och rättigheterna och de mänskliga rättigheterna, och att man när förordningen tillämpas bör säkerställa att likabehandling och jämställdhet uppnås. Det allmänna ska trygga tillgodoseendet av de grundläggande fri- och rättigheterna och de mänskliga rättigheterna för var och en, och därför måste också konsekvenserna av användningen av AI utredas noggrant till dessa delar. Utvecklingen och en trygg användning av AI förutsätter också adekvat uppföljning samt kontinuerlig och tillräckligt mångsidig utveckling av AI-systemen. I åtgärderna ska också tryggandet av upphovsrätten beaktas.