VALTIONEUVOSTON JATKOKIRJELMÄ
Ehdotus
Komission alkuperäisen tekoälyasetusehdotuksen tavoitteena on ollut vastata tekoälyjärjestelmien aiheuttamiin uhkiin ihmisten terveydelle, turvallisuudelle ja perusoikeuksien toteutumiselle. Komission ehdotuksen mukaan tekoälyjärjestelmiä säänneltäisiin riskiperustaisesti ja käyttötapauskohtaisesti. Asetusehdotuksessa kiellettäisiin haitallisia tekoälyn käyttötapauksia sekä asetetaan tiukennettuja vaatimuksia ns. korkean riskin tekoälyjärjestelmiksi luokiteltaville järjestelmille. Asetusehdotus on luonteeltaan horisontaalinen ja koskee monella eri yhteiskunnan sektorilla, kuten lainvalvonnassa, koulutuksessa, julkisen sektorin palveluiden ja etuuksien myöntämisessä sekä oikeuslaitoksen toiminnassa, käytettäviä tekoälyjärjestelmiä. Asetusehdotuksessa säädetään myös korkean riskin tekoälyjärjestelmien arvoketjuun kuuluvien toimijoiden (tarjoajat, jakelijat, maahantuojat, käyttäjät) velvollisuuksista sekä tekoälyjärjestelmien markkinavalvonnasta. Asetusehdotuksessa säädetään tekoälyjärjestelmien testaamisesta sääntelyn testiympäristöistä (regulatory sandbox), joiden avulla on mahdollista muun muassa varmistaa, että järjestelmä täyttää asetuksen vaatimukset. Komission ehdotuksen mukaan Eurooppaan perustettaisiin tekoälyneuvosto tukemaan asetuksen täytäntöönpanoa. Asetusta rikkoville tahoille voitaisiin määrätä sanktioita esimerkiksi seuraamusmaksujen muodossa.
Neuvotteluissa keskeisimpiä asiakokonaisuuksia ovat tekoälyjärjestelmän määrittely, kiellettyjen tekoälykäytänteiden listaus, korkean riskin tekoälyjärjestelmien luokittelu ja korkean riskin järjestelmiä koskevat vaatimukset. Lisäksi yksi keskeinen asiakokonaisuus on ns. yleiskäyttöisille tekoälyjärjestelmille (general purpose AI systems) asetettavat vaatimukset. Kyseisiä järjestelmiä voitaisiin käyttää mahdollisesti tekoälyjärjestelmien osana esimerkiksi tekstin tai kuvan tuottamiseen tai tunnistamiseen. Sääntely yleiskäyttöisistä tekoälyjärjestelmistä ei sisältynyt komission alkuperäiseen asetusehdotukseen.
Neuvoston käsittelyssä tehtyjä keskeisimpiä muutoksia asetusehdotukseen on kuvattu U-jatkokirjeessä (UJ 29/2022 vp).
Valtioneuvoston kanta
Hallitusohjelman mukaan hallitus vaikuttaa aktiivisesti ja ennakolta siihen, että alustataloutta, tekoälyä, dataa ja digitalisaatiota koskeva EU-sääntely kulkee mahdollistavaan, tasapainoiseen ja Suomen kannalta edulliseen suuntaan, ja minimoi kansallisen lisäsääntelyn.
Suomen kannat komission asetusehdotukseen on kuvattu U-kirjelmässä (U 28/2021 vp) ja U-jatkokirjeessä (UJ 29/2022 vp). Suomen kantoja täsmennetään seuraavasti:
Suomi pyrkii yleisesti siihen, että neuvotteluissa voitaisiin tukeutua mahdollisimman pitkälle neuvoston yleisnäkemykseen. Euroopan parlamentin esittämissä muutoksissa asetusehdotukseen on lisätty lukuisia uusia elementtejä, joiden vaikutuksia ei ole voitu arvioida. Erityisesti Suomi suhtautuu varauksellisesti korkean riskin tekoälyjärjestelmien listauksen (liite III) laajennuksiin neuvoston yleisnäkemykseen verrattuna.
Suomi suhtautuu varauksellisesti Euroopan parlamentin ehdotukseen tekoälyavusteisen rikosanalyysin sisällyttämisestä korkean riskin tekoälyjärjestelmien listaukseen (liite III 6 kohta g alakohta). Suomi pitää tärkeänä, että jatkossakin rikosanalyysissa käytettävää dataa olisi mahdollista analysoida tehokkaasti tekoälyn avulla rikostutkinnassa. Jos kyseiset järjestelmät päätetään kuitenkin sisällyttää korkean riskin tekoälyjärjestelmien listaukseen, on jatkokäsittelyssä varmistuttava siitä, ettei niitä käytetä ainoastaan luonnollisen henkilön toimintaa avustavassa tarkoituksessa. Lisäksi Suomi katsoo, että jatkokäsittelyssä on tarpeen täsmentää, mitkä tekoälyjärjestelmät kuuluisivat rikosanalyysin toteuttamiseen käytettäviin järjestelmiin.
Suomi pitää tärkeänä sitä, ettei kiellettyihin tekoälykäytänteisiin kuuluisi luonnollisia henkilöitä koskevien riskiarviointien tai data-analyysien teko lainvalvontaviranomaisten toiminnassa tekoälyn avulla perustuen henkilön liikkumistietoihin. Lisäksi Suomi pyrkii ensisijaisesti siihen, etteivät henkilöiden tunnetiloista päätelmiä tekevät tekoälyjärjestelmät lainvalvonnassa olisi kiellettyjä, mutta voi tarvittaessa suhtautua kysymykseen joustavasti. Suomi pitää tärkeänä, ettei henkilön liikehdintää, liikehdintätapaa tai muita liikkumisen ominaispiirteitä käsitetä tunnetiloiksi.
Suomen mukaan tekoälyä pitäisi voida hyödyntää reaaliaikaisessa sekä jälkikäteisessä biometrisessä etätunnistamisessa lainvalvontaviranomaisten toiminnassa tietyin tarkasti rajatuin reunaehdoin ja huomioiden perus- ja ihmisoikeuksien toteutuminen.
Tekoälyä hyödyntävien jälkikäteisten biometristen etätunnistusjärjestelmien käyttö tallenteiden tai muun kertyneen materiaalin perusteella tulisi olla lähtökohtaisesti sallittua lainvalvontaviranomaisille esimerkiksi tiettyihin valvonnan, rikostorjunnan ja -tutkinnan sekä lupahallinnon käyttötapauksiin ilman erillistä tuomioistuimelta haettavaa päätöstä. Tekoälyavusteisen biometrisen etätunnistamisen sallimista tulee arvioida kuitenkin perustuslain, tietosuojasääntelyn ja perusoikeuskirjan asettamien reunaehtojen perusteella. Suomen mukaan neuvotteluissa tulisi pyrkiä siihen, että viranomaisen luvanantamismenettelystä tekoälyn käyttöön biometrisessa etätunnistamisessa ei muodostuisi hallinnollisesti liian raskasta, jolloin riskinä on viivytykset luvan saamisessa. Suomi pitää tärkeänä, ettei asetusehdotus aseta kohtuuttomia esteitä tekoälyn hyödyntämiselle tullivalvonnassa esimerkiksi riskianalyysien teossa.
Suomi pyrkii siihen, että yleiskäyttöisiä tekoälyjärjestelmiä koskeva lainsäädäntökehys olisi mahdollisimman selkeä ja teknologianeutraali. Suomen mukaan neuvotteluissa tulisi pyrkiä siihen, että perustamalleja ja yleiskäyttöisiä tekoälyjärjestelmiä koskisi mahdollisimman yhtenäinen sääntely sen sijaan, että asetuksessa luotaisiin erillinen perustamalleihin keskittyvä sääntely. Suomi kiinnittää huomiota siihen, että Euroopan parlamentti ehdottaa perustamallien tarjoajille asetettavan merkittävästi uusia velvoitteita. Suomi pitää tarpeellisena arvioida, tulisiko perustamallien tarjoajille asetettavissa velvollisuuksissa huomioida paremmin mallien aiheuttamat riskit käyttötapauksen mukaan. Euroopan parlamentin muutosehdotuksella perustamallien tarjoajille voitaisiin asettaa esimerkiksi velvollisuus julkaista tiivistelmä perustamallin kouluttamiseen käytetystä datasta, joka on suojattu tekijänoikeuksilla. Suomen mukaan kyseisen velvollisuuden suhdetta ja vaikutuksia voimassa olevaan tekijänoikeuksia koskevaan sääntelyyn tulisi arvioida tarkemmin huomioiden lähtökohta, että tekijänoikeuslainsäädäntö soveltuu tekoälyjärjestelmiin. Suomi pitää tärkeänä, että järjestelmien tarjoajien olisi mahdollista toteuttaa kyseinen velvoite käytännössä eikä velvoitteen täyttäminen olisi kohtuuttoman raskasta järjestelmien tarjoajille.
Suomi suhtautuu lähtökohtaisesti varauksellisesti siihen, että tekoälyasetuksessa asetettaisiin kapea-alaista sääntelyä yksipuolisesti asetettujen sopimusehtojen kohtuuttomuudesta Euroopan parlamentin ehdotuksen mukaisesti. Ehdotetun sääntelyn kohdentuminen on epäselvää, ja sitä olisi syytä neuvottelujen kuluessa selkeyttää. Ehdotettua sääntelyä tulisi myös arvioida sopimusvapauden toteutumisen, yritysten välisen kilpailun ja markkinoiden toimivuuden näkökulmasta. Jos asetusehdotukseen sisällytetään sääntelyä kyseisistä sopimusehdoista, sääntelyn tulisi vastata rakenteeltaan mahdollisimman paljon kuluttajasopimusten kohtuuttomista ehdoista annettua neuvoston direktiiviä 93/13/ETY, jonka mukaisesti yksittäisiä sopimusehtoja ei määritellä laissa kaikissa tapauksissa kohtuuttomiksi, vaan sopimusehdon kohtuuttomuutta arvioitaessa voidaan ottaa huomioon kaikki tapaukseen liittyvät olosuhteet. Suomi katsoo, että ehdotettua sopimusehtoja koskevaa sääntelyä tulee tarkentaa esimerkiksi niiden tilanteiden osalta, joissa sopimusosapuolet katsotaan neuvotteluvoimaltaan tasavahvuisiksi. Suomi suhtautuu varauksellisesti siihen, että asetuksen sääntely vaikuttaisi taannehtivasti voimassa oleviin sopimuksiin. Neuvotteluissa tulisi täsmentää, mitkä ovat asetuksen oikeusvaikutukset voimassa oleviin sopimuksiin.
Suomi suhtautuu lähtökohtaisesti varauksellisesti Euroopan parlamentin ehdotukseen siitä, että korkean riskin tekoälyjärjestelmiä koskeva rekisteröintivelvoite EU:n julkiseen tietokantaan kattaa myös lainvalvonnan, maahanmuuton ja rajavalvonnan sektorit sekä kriittisen infrastruktuurin turvallisuuskomponentit. Jos rekisteröintivelvoite koskisi kuitenkin kyseisillä sektoreilla käytettäviä järjestelmiä, rekisteröitävien tietojen ei tulisi vaarantaa järjestelmiä koskevien sensitiivisten tietojen paljastumista. Tämä voisi edellyttää järjestelmistä rekisteröitävien tietojen kaventamista.
Suomen mukaan neuvottelujen edetessä tulisi tarkentaa, mitkä julkisten palveluiden ja etuuksien myöntämisessä käytettävät tekoälyjärjestelmät luokitellaan korkean riskin tekoälyjärjestelmiksi. Asetusehdotuksessa on epäselvää, kuuluisivatko esimerkiksi lakisääteisten vakuutusten toimeenpanoon liittyvät tekoälyjärjestelmät korkean riskin tekoälyjärjestelmien listaukseen.
Suomen mukaan edustajakannedirektiivin soveltamisalaan voitaisiin lisätä tekoälyasetuksesta ne säännökset, joilla on merkitystä kuluttajien yhteisten etujen suojaamisen kannalta. Jos tekoälyasetus lisättäisiin ilmoittajansuojeludirektiivin soveltamisalaan, Suomi kiinnittää huomiota siihen, että tekoälyasetuksen soveltamisala on ilmoittajansuojeludirektiivin soveltamisalaa huomattavasti laajempi, mikä voi laajentaa direktiivin soveltamisalaa ennakoimattomalla tavalla. Tämän vuoksi Suomi katsoo tarpeelliseksi arvioida ilmoittajansuojeludirektiivin soveltamisalan laajennuksen vaikutuksia jatkokäsittelyssä.
Suomen mukaan neuvottelujen kuluessa tulisi arvioida, tulisiko avoimen lähdekoodin avulla kehitettyjen tekoälyjärjestelmien kuulua asetuksen soveltamisalaan tietyissä tilanteissa, esimerkiksi jos kyseisiä järjestelmiä hyödynnetään osana korkean riskin tekoälyjärjestelmää. Jos avoimen lähdekoodin lisenssein tarjottuja tekoälyjärjestelmiä käytetään esimerkiksi korkean riskin käyttötarkoituksissa, niiden markkinoille saattaminen tai käyttöönotto voi mahdollisesti aiheuttaa uhkia perusoikeuksien toteutumiselle. Suomen mukaan avointa lähdekoodia koskevaa soveltamisalapoikkeusta tulisi myös arvioida ja täsmentää suhteessa ehdotettuihin muutoksiin siitä, että tekoälyjärjestelmiä koskeva tieteellinen tutkimus- ja kehitystoiminta jää lähtökohtaisesti asetuksen soveltamisalan ulkopuolelle.
Euroopan parlamentti ehdottaa sääntelyä yleisistä periaatteista, joita sovellettaisiin kaikkiin tekoälyjärjestelmiin, sekä toimenpiteitä tekoälyn ymmärryksen kasvattamisesta esimerkiksi henkilöstön koulutuksen avulla. Jos asetusehdotukseen sisällytetään kyseistä sääntelyä, neuvotteluissa tulisi pyrkiä siihen, että kyseinen sääntely toisi aitoa lisäarvoa esimerkiksi tekoälyjärjestelmien turvalliselle kehittämiselle ja käytölle eikä asettaisi kohtuuttomia velvoitteita eri toimijoille. Lisäksi Suomi kiinnittää huomiota OECD:n tekoälyä koskeviin periaatteisiin (OECD, Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449) sekä muihin tekoälyn käytöstä tehtyihin linjauksiin ja suosituksiin.
Suomi kiinnittää huomiota siihen, että Euroopan parlamentti ehdottaa muutoksia säännöksiin koskien tekoälyasetusta valvovia viranomaisia. Suomen mukaan neuvotteluiden kuluessa tulisi arvioida, tulisiko asetusehdotuksessa jättää lisää liikkumavaraa kansallisten viranomaisten tehtävien järjestämiseen huomioiden jäsenvaltioiden viranomaisten nykyiset tehtävät ja hallinnolliset rakenteet. Jos asetusehdotukseen sisällytetään Euroopan parlamentin ehdotuksen mukaisesti sääntelyä viranomaisten välisistä yhteistutkinnoista unionin laajuisissa asetuksen rikkomusten tilanteissa, Suomen mukaan tulisi pyrkiä selkeyttämään viranomaisten toimivallan sisältöä sekä mahdollistamaan tarvittaessa kansallinen liikkumavara tutkinnan järjestämiseen.
Jos asetukseen sisällytetään Euroopan parlamentin ehdottamaa sääntelyä oikeussuojakeinoista, Suomi pitää tarpeellisena arvioida neuvottelujen kuluessa ehdotetun sääntelyn yhteensopivuutta suhteessa kansallisiin oikeussuojakeinoihin ja niitä koskeviin menettelyihin. Lisäksi Suomen mukaan ehdotetun sääntelyn suhdetta nykyisiin käytössä oleviin markkinavalvonnassa käytettäviin oikeussuojakeinoihin, kuten viranomaiselle tehtävään ilmoitukseen, tulisi arvioida tarkemmin. Johtuen Suomen laillisuusvalvonnan erityispiirteistä Suomi suhtautuu kriittisesti kansalliseen tuomioistuimelle tehtäviin valituksiin tilanteissa, joissa kansallinen viranomainen viivästyy päätöksenteossa tai muiden toimenpiteiden suorittamisessa. Suomen mukaan Euroopan parlamentin ehdottamaa sääntelyä henkilön oikeudesta saada selvitys tekoälyjärjestelmän merkityksestä päätöksentekoprosessissa on arvioitava tarkemmin suhteessa yleiseen tietosuoja-asetukseen ja minimoida mahdollisen päällekkäisen sääntelyn vaikutukset.
Suomi katsoo, että asetuksessa tulisi varmistaa riittävä siirtymäaika asetuksen täytäntöönpanolle koskien esimerkiksi valvovien viranomaisten nimeämistä jäsenvaltioissa sekä eri toimijoiden toiminnan mukauttamista asetuksen vaatimuksiin. Suomi kiinnittää huomiota siihen, että Euroopan parlamentin ehdottama kolmen kuukauden määräaika kansallisen valvovan viranomaisen nimeämiseen on lyhyt ottaen huomioon tarpeen muuttaa kansallista lainsäädäntöä valvovien viranomaisten tehtävistä. Kyseisen ehdotetun määräajan suhdetta asetuksen täytäntöönpanoa koskeviin siirtymäaikasäännöksiin tulisi myös täsmentää neuvotteluiden kuluessa.
VALIOKUNNAN PERUSTELUT
Yleistä
Valtioneuvoston U-jatkokirjelmän perusmuistiossa todetun mukaisesti valmisteltavana oleva Euroopan parlamentin ja neuvoston asetus tekoälyn harmonisoiduksi sääntelyksi (Artificial Intelligence Act) on luonteeltaan horisontaalinen ja koskee monella eri yhteiskunnan sektorilla käytettäviä tekoälyjärjestelmiä. Sivistysvaliokunta on käsitellyt asiaa toimialansa kannalta.
Valiokunta viitaten aikaisempaan lausuntoon (SiVL 14/2021 vp) katsoo, että tekoälyteknologiat ovat joukko kehittyviä ohjelmistoja ja teknologioita, minkä vuoksi tekoälyn oikeudellisessa kehyksessä on tarkoituksenmukaisinta kiinnittää huomiota määritelmien kestävyyteen ja teknologianeutraaliuteen, ja korostaa tarvetta huolehtia siitä, että tekoälyä koskevasta asetuksesta muodostuu sellainen, että sen mukaisella toiminnan ohjauksella voidaan vastata tekoälyn haasteisiin myös tekoälyteknologian kehittyessä edelleen.
Edellä todetun tarpeen on jo osoittanut se, että todellisuus, jossa tekoälysäädöstä EU:ssa neuvotellaan, on muuttunut sen jälkeen, kun Euroopan komissio vuonna 2021 antoi ehdotuksen tekoälyasetukseksi. Vuoden 2023 alussa julkistetut niin sanotut generatiiviset tekoälypalvelut, kuten Open AI:n ja Microsoftin ChatGPT ja Googlen Bard, ovat merkittävällä tavalla muuttaneet opetuksen, koulutuksen ja tutkimuksen sekä luovien alojen toimintaympäristöä, internetiä. Tekoälysovellukset ovat kykeneviä tuottamaan sisältöä, jota jo nyt on vaikea erottaa ihmisen luomista teoksista, ja niiden aikaan saamat lopputulokset kilpailevat kuitenkin samoilla markkinoilla olevien ihmisten luomien teosten kanssa.
Tekoäly ja sitä koskeva sääntely koskee koulutuksen, tutkimuksen ja kulttuurin toimialoja monin tavoin
Valiokunta uudistaa lausunnossa SiVL 14/2021 vp koulutusta, osaamista ja tutkimusta sekä kulttuuriperintöä ja julkista sektoria koskevat kannat kiinnittäen huomiota muun muassa tekoälyn koulutuksen alalla tapahtuvaan hyödyntämiseen esimerkiksi opiskelijavalinnoissa, opintojen arvioinnissa tai opiskelijoiden tukipalvelujen tarjonnassa, jotka vaativat paitsi tekoälyn käyttöä myös opetusta koskevaa osaamista ja eettistä harkintaa. Koulutuksen alueella sosio-emotionaalisiin kykyihin liittyvä oppimisanalytiikka ja sen käyttö tekoälytuetussa oppimisessa muodostavat erityisen ongelman. On oleellista tiedostaa, että koneen oppilaasta muodostamat tiedot eivät välttämättä ole oikeat ja kattavat, joten näissä asioissa tekoälyn hyödyntämiseen tulee suhtautua harkiten: oppilasta, esimerkiksi hänen osaamistaan, koskevat johtopäätökset eivät voi perustua pelkästään koneanalytiikkaan. Valiokunta pitää niin ikään tärkeänä huolehtia siitä, että opetuksen ja koulutuksen yhteydessä kertyvä oppilaiden ja opiskelijoiden henkilö- ja oppimisdata ei päädy datan käyttötarkoituksen ulkopuolelle, esimerkiksi kaupallisten toimijoiden hyödynnettäväksi, mikä on myös henkilötietojen käsittelyä koskevaan sääntelyyn liittyvä kysymys. Sääntelyn on oltava selkeää siltä osin, että tekoälyä on voitava hyödyntää personoituun, reaaliaikaiseen oppimisen tukemiseen, mutta tekoälyn käyttö ennakoinnissa ja profiloinnissa ei saa johtaa oppimiserojen ja muun sosiaalisen erottelun kiihdyttämiseen.
Valiokunta aikaisemmassa lausunnossa (SiVL 14/2021 vp) todetun tavoin katsoo, että vaikka valmisteilla olevalla säätelyllä pyritään ehkäisemään tekoälysovellusten haitallista (esim. manipulointi ja tunteiden tunnistaminen) hyödyntämistä, on tarpeellista vahvistaa myös koulutuksen keinoin kansalaisten kriittistä ymmärrystä tällaisille pyrkimyksille. Valiokunta kiinnittää huomiota myös tarpeeseen selventää tekoälyjärjestelmien riskiluokkien keskinäistä eroa. Erityisesti lasten ja nuorten kannalta on perusteltua nostaa suurimpien sosiaalisen median alustojen suosittelualgoritmit (recommenders) korkean riskin tekoälysovelluksiin.
Suuriin datamääriin perustuvia tekoälymalleja — perustamalleja, kuten GPT-3/4 — voidaan käyttää useiden palvelujen ja tuotteiden perustana. Erityisesti luonnollisella kielellä toimivat perustamallit ovat tärkeitä, koska ne tarjoavat tärkeän alustan kieleen ja edelleen kulttuuriin. Siksi on tärkeää, että kyseisiä malleja eivät hallitse vain angloamerikkalaiset teknojätit, vaan tarjonta kattaa myös pienet kielialueet, jotta turvataan oikeus kulttuuriin ja tieteeseen osallistumiseen. Sitä voidaan vahvistaa tukemalla hankkeita, joissa luodaan avoimia, vapaasti käytettävissä olevia tekoälymalleja ja ohjelmistoja, joita kehitetään yleensä suurten yhteisöllisten, vapaaehtoisvoimien varassa toimivien hankkeiden avulla. Valiokunta toteaa, että tekoälyllä ja kielimalleilla tulee olemaan erittäin suuria yhteiskunnallisia vaikutuksia, ja korostaa tarvetta tunnistaa tekoälyn pitkän aikavälin riskit yhteiskunnallisessa eriytymisessä.
On tärkeää, että suurten datamäärien sisältö, hallinta ja hyödyntäminen eivät jää yksin monikansallisten teknojättien suojaamaksi omaisuudeksi, vaan avoimen ohjelmistonkehityksen ja vapaasti käytettävien tekoälymallien edellytykset turvataan tiedeyhteisölle ja pienille ja keskisuurille yrityksille. Perustamalleja koskevassa sääntelyssä on huolehdittava, että avoimen lähdekoodin ohjelmistokehitys ja tieteellisen tutkimustyön erityiset tarpeet huomioidaan. Sääntelyllä ei tule vaikeuttaa tutkimustoimintaa, vaan oleellista on, että sääntely on näiltäkin osin tarkoituksenmukaisesti mitoitettu ja antaa tieteellisen tutkimuksen tekijöille riittävät mahdollisuudet päästä käsiksi tutkimuksessa tarvittavaan tietoon.
Valiokunnan asiantuntijakuulemisessa on tuotu esiin huoli kyseenalaisista tunteiden tunnistamistekniikoista sekä niihin liittyvästä opiskelijoiden etävalvonnasta kokeissa (e-Proctoring), joiden sisällyttäminen korkean riskin tekoälyjärjestelmiin on perusteltua.
Läpinäkyvyysvelvoite tekijänoikeuksien kannalta
Käsiteltävänä olevassa U-jatkokirjelmässä (s. 3) on kiinnitetty huomiota siihen, että Euroopan parlamentti ehdottaa perustamallien tarjoajille asetettavan merkittävästi uusia velvoitteita, ja katsottu, että valtioneuvosto pitää tarpeellisena arvioida, tulisiko perustamallien tarjoajille asetettavissa velvollisuuksissa huomioida paremmin mallien aiheuttamat riskit käyttötapauksen mukaan. Euroopan parlamentin muutosehdotuksella perustamallien tarjoajille voitaisiin asettaa esimerkiksi velvollisuus julkaista tiivistelmä perustamallin kouluttamiseen käytetystä datasta, joka on suojattu tekijänoikeuksilla. Kirjelmässä esitetyn mukaan kyseisen velvollisuuden suhdetta ja vaikutuksia voimassa olevaan tekijänoikeuksia koskevaan sääntelyyn tulisi arvioida tarkemmin huomioiden lähtökohta, että tekijänoikeuslainsäädäntö soveltuu tekoälyjärjestelmiin. Valiokunta painottaa, että vaikka tässä yhteydessä kyse ei ole tekijänoikeussääntelystä, tulee tekoälyasetuksen valmistelussa varmistua tekijänoikeuksien ja inhimillisen tekemisen edellytysten turvaamisesta.
Valiokunnan asiantuntijakuulemisessa on tuotu esille huoli ehdotetun sääntelyn läpinäkyvyysvelvoitteen riittävyydestä. Tekijänoikeuksia koskien generatiivisen tekoälyn kehittämisessä yleensä tapahtuu tekijän yksinoikeuksien piiriin kuuluvaa kappaleiden valmistamista koulutusaineistoon kuuluvista suojan kohteista (kopiointia), jos esimerkiksi koneoppimismallin kouluttamisessa käytetään tekijänoikeudella suojattua aineistoa. Toiminta siten joko edellyttää oikeudenhaltijoiden suostumusta tai, että jokin tekijänoikeuden rajoitus soveltuu toimintaan. Myös generatiiviseen tekoälyyn perustuvaa palvelua tarjottaessa saattaa tapahtua yksinoikeuksien piiriin kuuluvaa toimintaa (mm. koulutusaineiston oikeuksia loukkaavaa yleisön saataviin saattamista).
Generatiivisen tekoälyn osalta ehdotettu velvollisuus julkaista yhteenveto kouluttamiseen käytetystä aineistosta edistäisi tekijänoikeuksien täytäntöönpanoa, lisensointia ja hallinnointia. Oikeudenhaltijoiden on tällä hetkellä vaikeaa päätellä tarjotuista palveluista tai muilla keinoilla saada tietoa siitä, onko niiden suojattua aineistoa käytetty generatiivisen tekoälyn kouluttamiseen. Velvollisuus myös kannustaisi generatiivisen tekoälyn kehittäjiä ottamaan tekijänoikeudelliset kysymykset huomioon jo tekoälykehityksen toteuttamisen suunnitteluvaiheessa. Tärkeää on huolehtia siitä, että velvollisuuden sisällöstä muodostuu selkeä ja oikeasuhtainen kokonaisuus, joka ei vaikeuta avoimen lähdekoodin ohjelmistokehitystä ja tieteellistä tutkimusta.
Euroopan parlamentin muutosehdotusten mukaan perustamallien tarjoajien tulisi täyttää tietyt velvollisuudet koskien muun muassa järjestelmän aiheuttamien ennustettavien riskien vähentämistä, datan laatua ja hallintaa, teknistä dokumentaatiota ja laadunhallintajärjestelmää. Edelleen parlamentin esityksen mukaan, jos perustamalleja käytetään tekoälyjärjestelmissä, joiden tarkoituksena on tuottaa esimerkiksi monimutkaista tekstiä, kuvia, ääntä tai videota (ns. generatiivinen tekoäly), sen tarjoajan tulee täyttää tietyt lisävelvollisuudet. Näihin lisävelvollisuuksiin kuuluisi esimerkiksi velvoite julkaista tiivistelmä perustamallin kouluttamiseen käytetystä datasta, joka on suojattu tekijänoikeuslainsäädännön nojalla.
Valiokunta painottaa, että tekijänoikeudet ja ihmisen rooli sekä luovan alan neuvottelu-, sopimis- ja korvausoikeudet tulee huomioida asetusta valmisteltaessa riittävästi, jotta vältytään siltä, että tekoälypalveluista on enemmän haittaa kuin hyötyä ammattimaiselle tiedonvälitykselle, inhimilliselle kulttuurille ja lopulta myös demokraattiselle yhteiskunnalle.
Asioiden käsittelemiselle valiokunnassa tulee turvata riittävä aika
Valiokunta esittää huolensa siitä, että nyt käsiteltävänä olevan jatkokirjelmän valiokuntakäsittelylle ei ole annettu riittävästi aikaa, kun otetaan huomioon, kuinka suuri merkitys tekoälyä koskevalla sääntelyllä on ja kuinka laajalle yhteiskuntaan tekoälyn kehitys ulottuu. Koska valiokunnassa on ollut samankaltaisia haasteita aiempina vuosina, on ehdottoman tärkeää saada luotua menettelytavat, jotka mahdollistavat valiokunnalle riittävän ajan asian huolelliseen käsittelyyn.