Kas yra ES DI aktas: tikslai ir pagrindiniai principai

Įvadas

ES Dirbtinio intelekto aktas (toliau – DI aktas) – pirmasis pasaulyje išsamus dirbtinio intelekto reguliavimo teisės aktas, įsigaliojęs 2024 m. rugpjūčio 1 d. Juo siekiama, kad DI sistemų kūrimas ir naudojimas būtų saugus, etiškas ir gerbtų fundamentalias žmogaus teises.

1. Rizikos lygmenys pagal DI aktą

1.1. Minimalios rizikos sistemos

Pavyzdžiui, kai kurios pramoginės programos ar paprasti filtrai; jos nėra tiesiogiai reglamentuojamos DI akto aukštesniais reikalavimais.

1.2. Ribotos rizikos sistemos

Pavyzdžiui, automatizuoti pokalbių robotai, generuojantys tekstą; tokioms sistemoms taikomi privalomi skaidrumo reikalavimai – vartotojas turi aiškiai žinoti, kad bendrauja su mašina.

1.3. Aukštos rizikos sistemos

Pavyzdžiui, DI sprendimai medicinos įrenginiuose, personalo atrankoje ar kreditų vertinime; joms privalomos griežtos atitikties procedūros:

• rizikos vertinimas;
• duomenų kokybės kontrolė;
• efektyvi žmogiška priežiūra;
• stebėjimo logų tvarkymas;
• sertifikavimas prieš pateikiant į rinką.

1.4. Nepriimtinos rizikos sistemos

Griežtai draudžiami šie sprendimai:

• socialinio elgesio vertinimas;
• manipuliuojančios technikos, skirtos sukelti žalingą poveikį;
• automatizuotos sistemos, kuriomis siekiama manipuliuoti žmonių sprendimais kenksmingais tikslais;
• realaus laiko nuotolinė biometrinė identifikacija viešose erdvėse be aiškių teisinės išimties garantijų.

2. Biometrinės funkcijos išmaniuosiuose įrenginiuose

Išmaniuosiuose telefonuose ir laikrodžiuose naudojamos kelios svarbios biometrinės bei DI susijusios funkcijos:

2.1. Veido atpažinimas

Frontalinė kamera atpažįsta savininką ir leidžia atrakinti įrenginį arba atlikti mokėjimus, remiantis veido duomenimis. Panašios funkcijos naudojamos ir veidų stebėjimo bei papildytos realybės (AR) programėlėse.

2.2. Piršto atspaudas

Jutiklis arba ekranas skenuoja piršto atspaudą, patvirtinant įrenginio savininko tapatybę. Dažnai naudojama kartu su slaptažodžiu arba kaip jo pakaitalas.

2.3. Širdies ritmo matavimas

Optiniai sensoriai (PPG metodu) matuoja širdies pulsą realiu laiku – tai naudinga sportuojant, nustatant anomalijas ir gerinant fizinį pasirengimą.

2.4. EKG (elektrokardiograma)

Laikrodžiai su elektriniais elektrodais gali įrašyti vieno vado EKG, kas padeda stebėti ritmo sutrikimus.

2.5. SpO₂ matavimas

Kūno deguonies prisotinimo lygis nustatomas specialiais sensoriais – svarbu kvėpavimo efektyvumui ir bendros sveikatos vertinimui.

2.6. Miego stebėjimas

Naudojami judesio ir biometriniai duomenys (pvz., širdies ritmas) miego stadijų nustatymui – analizuojama miego trukmė, gylis, nubudimų skaičius ir kokybė.

3. Aukštos rizikos reikalavimai išmaniųjų įrenginių funkcijoms

Pagal DI akto rizikos kriterijus tradicinės išmaniuosiuose įrenginiuose naudojamos biometrinės funkcijos (veido atpažinimas, piršto atspaudas, PPG, EKG, SpO₂) paprastai nepriskiriamos aukštos rizikos kategorijai, nes daugiausia skirtos autentifikacijai arba sveikatos stebėjimui. Tačiau:

• realaus laiko nuotolinė biometrinė identifikacija ir emocijų atpažinimas gali būti priskirti aukštos arba nepriimtinos rizikos kategorijoms;
• biometrinė autentifikacija (pvz., telefono atrakinimas veidu arba pirštu) nėra laikoma aukštos rizikos ir lieka leidžiama;
• jeigu įrenginyje būtų integruoti DI modeliai, prognozuojantys sveikatos problemas ar kitus jautrius duomenis, tokios funkcijos turėtų atitikti medicinos prietaisų ir DI akto reikalavimus.

4. Gamintojų atsakomybė ir programinės įrangos pokyčiai

Aukštos rizikos DI sistemų kūrėjai privalo:

• atlikti sistemingą rizikos vertinimą;
• užtikrinti aukštos kokybės mokymo duomenis;
• tvarkyti kompiuterinius įrašus (logus);
• parengti išsamią techninę dokumentaciją;
• skaidriai informuoti vartotojus;
• užtikrinti patikimą žmogišką priežiūrą.

Jeigu išmaniojoje funkcijoje atsirastų aukštos rizikos elementų, gamintojai (pvz., Apple, Samsung, Huawei, Garmin) turėtų gauti CE ženklinimą, atitikties deklaracijas ir nepriklausomą vertinimą.

5. Poveikis vartotojams Lietuvoje

Paprastam Lietuvos vartotojui pagrindinės išmaniojo telefono ir laikrodžio funkcijos (atrakinimas, širdies ritmo matuoklis ir pan.) veiks įprastai. Tačiau gali pasikeisti:

• didesnis skaidrumas – aiškesni pranešimai apie DI naudojimą;
• leidimų valdymas – nauji nustatymai, leidžiantys valdyti biometrinių ir sveikatos duomenų naudojimą;
• techninės korekcijos – galimi ribojimai naujoms, neaiškioms stebėjimo funkcijoms;
• galimybė kreiptis į Valstybinę duomenų apsaugos inspekciją (VDI) dėl galimų pažeidimų.

Išvados

• ES DI aktas nustato aiškius rizikos lygius DI sistemoms;
• tradicinės biometrinės funkcijos išmaniųjų įrenginių autentifikacijai nėra priskiriamos aukštos rizikos kategorijai;
• aukštos rizikos funkcijoms taikomi griežti dokumentavimo, sertifikavimo ir priežiūros reikalavimai;
• vartotojai Lietuvoje gaus daugiau skaidrumo ir galimybių valdyti savo duomenis;
• gamintojai turi atnaujinti programinę įrangą ir privatumo politiką, kad atitiktų naujus reikalavimus.

Nuorodos

European Commission. (2024, August 1). AI Act enters into force. European Commission News.

European Commission. (2024). Shaping Europe’s digital future: AI Act – New rules for artificial intelligence.

European Union. (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 on artificial intelligence (Artificial Intelligence Act) (Official Journal L OJ L 282, 12.7.2024).