Augsta riska mākslīgā intelekta sistēmas ir Eiropas Mākslīgā intelekta regulas ( Regula (ES) 2024/1689 ), ko parasti dēvē par Mākslīgā intelekta likumu, centrālais punkts, ar kuru tiek ieviests uz risku balstīts satvars mākslīgā intelekta (MI) sistēmu izstrādei, piegādei un izmantošanai. Jo lielāks ir risks veselībai, drošībai un pamattiesībām, jo smagāki ir pienākumi.
Tāpēc organizācijām atbilstība nesākas ar tehniskās dokumentācijas izstrādi, bet gan ar pareizu klasifikāciju. Vispirms nosakiet, kuras mākslīgā intelekta sistēmas tiek izstrādātas, iegādātas vai izmantotas organizācijā. Pēc tam novērtējiet, vai sistēma ir aizliegta , augsta riska, pakļauta pārredzamības saistībām vai neietilpst kādās konkrētās saistībās.
Šajā rakstā ir izklāstīts, kad mākslīgā intelekta sistēma var tikt kvalificēta kā augsta riska sistēma, kādi pienākumi attiecas uz pakalpojumu sniedzējiem un ieviesējiem, un kādus pasākumus organizācijas var veikt jau tagad. Tajā ir aplūkots arī pašreizējais laika grafiks, tostarp izmaiņas saskaņā ar Digital Omnibus procesu. Šī raksta atsauces datums ir 2026. gada 25. jūlijs.
Kad mākslīgā intelekta sistēma ir augsta riska?
Augsta riska mākslīgā intelekta sistēmu novērtējums galvenokārt tiek veikts saskaņā ar Mākslīgā intelekta likuma 6. pantu un I un III pielikumu. Ir divi veidi.
Pirmais ceļš attiecas uz mākslīgā intelekta sistēmām, kas ir daļa no produktiem, uz kuriem attiecas I pielikumā uzskaitītie Eiropas produktu tiesību akti un kuriem ir nepieciešama trešās puses atbilstības novērtēšana. Piemēram, noteiktas medicīnas ierīces, mašīnas, lifti un rotaļlietas. Attiecībā uz šīm sistēmām Mākslīgā intelekta likums balstās uz esošo atbilstības novērtēšanas procedūru.
Otrais ceļš attiecas uz mākslīgā intelekta sistēmām, ko izmanto III pielikumā uzskaitītajās jomās: biometrija, kritiskā infrastruktūra, izglītība un profesionālā apmācība, nodarbinātība un darbaspēka pārvaldība, piekļuve būtiskiem privātajiem un publiskajiem pakalpojumiem, tiesībaizsardzība, migrācija, patvērums un robežkontrole, kā arī tiesu spriešana un demokrātiskie procesi. Ne katrs lietojums šādā jomā automātiski nozīmē klasifikāciju starp augsta riska mākslīgā intelekta sistēmām: ir jāizvērtē arī sistēmas konkrētā funkcija un 6. panta nosacījumi.
Izņēmums 6. panta 3. punktā
Sistēma, kas ietilpst III pielikuma jomā, netiek automātiski pieskaitīta augsta riska mākslīgā intelekta sistēmām: šī klasifikācija tiek izslēgta, ja tā nerada būtisku risku personu veselībai, drošībai vai pamattiesībām un būtiski neietekmē lēmumu pieņemšanas rezultātu. Tas var būt gadījumā, ja sistēma veic tikai šauru procedūras uzdevumu, tikai uzlabo cilvēka jau veiktu darbību, tikai atzīmē novirzes no iepriekšējās cilvēka lēmumu pieņemšanas, neaizstājot šo novērtējumu, vai veic tikai sagatavošanās uzdevumu.
Šī izņēmuma izmantošana ir rūpīgi jāpamato un jādokumentē. Organizācija dokumentē ne tikai secinājumu, bet arī faktus un novērtējumu, uz kura šis secinājums ir balstīts. Pakalpojumu sniedzējam, kas uzskata, ka III pielikuma sistēma nepieder pie augsta riska mākslīgā intelekta sistēmām, šis novērtējums ir jādokumentē pirms sistēmas laišanas tirgū vai nodošanas ekspluatācijā, un uz to papildus attiecas 49. panta 2. punktā noteiktais reģistrācijas pienākums.
Vienā punktā Regula ir absolūta. 6. panta 3. punktā ir noteikts, ka III pielikumā minēta mākslīgā intelekta sistēma vienmēr tiek uzskatīta par augsta riska mākslīgā intelekta sistēmu, ja tā veic fizisku personu profilēšanu. Šādā gadījumā izņēmumu nevar izmantot.
Kāda ir jūsu organizācijas loma?
Mākslīgā intelekta likums ķēdē izšķir vairākas lomas. Divas no tām ir svarīgas lielākajai daļai organizāciju. Puse, kas izstrādā mākslīgā intelekta sistēmu vai laiž to tirgū ar savu vārdu vai preču zīmi, kvalificējas kā pakalpojumu sniedzējs. Puse, kas izmanto mākslīgā intelekta sistēmu savas uzņēmējdarbības ietvaros, to neizstrādājot, parasti kvalificējas kā ieviesējs.
Šī lomu sadale nav statiska. Organizācija, kas būtiski modificē iegādātu sistēmu, piegādā to tālāk ar savu nosaukumu vai preču zīmi vai maina tās paredzēto mērķi, joprojām var tikt uzskatīta par pakalpojumu sniedzēju un tādējādi tai var būt stingrākas saistības. Katrai sistēmai nosakiet, kuru lomu jūs pildāt, un reģistrējiet šo novērtējumu.
Galvenie pienākumi
Augsta riska mākslīgā intelekta sistēmu nodrošinātājiem ir jāievēro pienākumi, tostarp 8.–17., 43. un 47.–49. pantā minētie:
- riska pārvaldības sistēma, kas aptver visu dzīves ciklu
- datu pārvaldība, tostarp neobjektivitātes atklāšana un labošana izmantotajos datos, tostarp apmācības, validācijas un testēšanas datos
- tehniskā dokumentācija saskaņā ar IV pielikumu un notikumu reģistrēšana
- skaidras lietošanas instrukcijas izvietotājiem
- dizains, kas nodrošina efektīvu cilvēka uzraudzību
- prasības attiecībā uz precizitāti, noturību un kiberdrošību
- kvalitātes vadības sistēma, atbilstības novērtējums, ES atbilstības deklarācija, CE marķējums un reģistrācija ES datubāzē
Attiecībā uz augsta riska mākslīgā intelekta sistēmām, ko izmanto attālinātai biometriskai identifikācijai, kā minēts III pielikuma 1. punkta a) apakšpunktā, 14. panta 5. punktā ir noteikta papildu prasība attiecībā uz cilvēka uzraudzību: uz identifikācijas pamata nedrīkst veikt nekādas darbības vai pieņemt lēmumus, ja vien to nav atsevišķi pārbaudījušas un apstiprinājušas vismaz divas fiziskas personas ar nepieciešamo kompetenci, apmācību un pilnvarām. To sauc par četru acu principu.
Izvietotājiem ir jāievēro vieglāki, bet ne mazāk svarīgi 26. un 27. panta pienākumi: lietošana saskaņā ar lietošanas instrukcijām, kompetenta cilvēka uzraudzība, sistēmas darbības uzraudzība, risku un nopietnu incidentu ziņošana un žurnālu glabāšana vismaz sešus mēnešus. Darbinieki, kas strādās ar sistēmu, un personas, kurām tā tiks piemērota, ir jāinformē iepriekš.
Dažiem ieviesējiem ir jāveic arī pamattiesību ietekmes novērtējums — pamattiesību ietekmes novērtējums saskaņā ar 27. pantu. Tas jebkurā gadījumā attiecas uz publisko tiesību subjektiem, privātiem sabiedrisko pakalpojumu sniedzējiem un ieviesējiem, kas izmanto kredītreitinga sistēmas vai apdrošināšanas risku novērtēšanas sistēmas dzīvības un veselības apdrošināšanā.
Laika grafiks un pašreizējais statuss
Mākslīgā intelekta likums stājās spēkā 2024. gada 1. augustā un tiek piemērots pakāpeniski. Praksē ir svarīgi nošķirt jau spēkā esošās saistības, saistības ar nākotnes piemērošanas datumu un paziņotos grozījumus, kuru oficiālā spēkā stāšanās vēl nav pabeigta.
Aizliegtās darbības (5. pants): piemērojams kopš 2025. gada 2. februāra
Mākslīgā intelekta lietotprasme (4. pants): piemērojama kopš 2025. gada 2. februāra
Vispārējas nozīmes mākslīgā intelekta modeļi: piemērojami kopš 2025. gada 2. augusta
Pārredzamības pienākumi (50. pants): piemērojami no 2026. gada 2. augusta; nav atlikti
Augsts risks, izmantojot III pielikumu: formāli joprojām 2026. gada 2. augusts; pēc Omnibus stāšanās spēkā, ne vēlāk kā 2027. gada 2. decembris
Augsts risks, izmantojot I pielikumu: formāli joprojām 2027. gada 2. augusts; pēc Omnibusa stāšanās spēkā, ne vēlāk kā 2028. gada 2. augusts
2025. gada 19. novembrī Eiropas Komisija publicēja digitālo kopuzņēmuma paketi, ierosinot atlikt pienākumu piemērošanu augsta riska mākslīgā intelekta sistēmām. Provizoriska politiska vienošanās tika panākta 2026. gada 7. maijā. Eiropas Parlaments savu atbalstu sniedza 2026. gada 16. jūnijā, un Padome savu galīgo apstiprinājumu sniedza 2026. gada 29. jūnijā.
Tomēr šī raksta atsauces datumā publikācija Eiropas Savienības Oficiālajā Vēstnesī vēl nav pabeigta. Grozījums stājas spēkā trešajā dienā pēc publicēšanas. Līdz tam laikam piemērojams ir sākotnējais Mākslīgā intelekta likuma laika grafiks, un III pielikumā minēto augsta riska pienākumu piemērošanas datums ir 2026. gada 2. augusts. Publikācija pirms šī datuma ir plaši gaidīta, taču tā vēl nav apstiprināta.
Turklāt atlikšana ir strukturēta nosacīti. Augsta riska mākslīgā intelekta sistēmu pienākumu piemērošana ir saistīta ar Komisijas lēmumu, ar kuru tiek noteikts, ka ir pieejami nepieciešamie saskaņotie standarti un atbalsta instrumenti, kam seko pārejas periods. 2027. gada 2. decembris un 2028. gada 2. augusts kalpo kā pagaidu pasākumi, nevis vienkārša atlikšana.
Divi punkti ir pelnījuši atsevišķu uzmanību. Pirmkārt, 50. pantā noteiktie pārredzamības pienākumi un 4. pantā noteiktais mākslīgā intelekta lietotprasmes pienākums nav atlikti: tie paliek spēkā sākotnējā termiņā. Otrkārt, pakete 5. pantam pievieno jaunu aizliegumu, kas attiecas uz mākslīgā intelekta lietojumprogrammām, kas ģenerē intīmus attēlus bez piekrišanas, un uz mākslīgā intelekta ģenerētiem bērnu seksuālas izmantošanas materiāliem.
Organizācijām tas nozīmē, ka plānošana līdz 2027. gada decembrim ir saprātīga, taču šī uzskaite pagaidām būtu jāorganizē tā, it kā 2026. gada augusts joprojām būtu saistošs, līdz Oficiālajā Vēstnesī tiks paziņots citādi.
Uzraudzība un sodi
Nīderlandē šī raksta atsauces datumā joprojām trūkst Mākslīgā intelekta likuma īstenošanas tiesību aktu. Paredzams, ka Nīderlandes Digitālās infrastruktūras iestāde un Nīderlandes Datu aizsardzības iestāde uzņemsies centrālu koordinējošu lomu, savukārt nozaru uzraudzītāji saglabās atbildību savās jomās. Tomēr precīzs pilnvaru sadalījums un tā juridiskais pamats ir jānosaka, pamatojoties uz galīgajiem Nīderlandes īstenošanas tiesību aktiem.
Mākslīgā intelekta likuma 99. pantā ir paredzētas vairākas maksimālās sodu kategorijas. Līmenis ir atkarīgs no pārkāpuma rakstura un attiecīgā gadījumā no uzņēmuma gada apgrozījuma pasaulē. Augstākais maksimālais sods attiecas uz 5. pantā minēto aizliegto prakšu pārkāpumiem; zemākais maksimālais sods attiecas uz citu pienākumu pārkāpumiem, tostarp augsta riska mākslīgā intelekta sistēmu nodrošinātājiem un ieviestājiem; un zemākais sods attiecas uz nepareizas, nepilnīgas vai maldinošas informācijas sniegšanu iestādēm. Labvēlīgāks režīms attiecas uz maziem un vidējiem uzņēmumiem (MVU), tostarp jaunuzņēmumiem. Faktiskais sods tiek noteikts, ņemot vērā piemērojamos noteikumus par sodiem un lietas apstākļus.
Praktisks ceļvedis
- Inventarizēt visas mākslīgā intelekta sistēmas, ko jūsu organizācija izstrādā, iegādājas vai izmanto.
- Katrai sistēmai nosakiet, kādu lomu jūs pildāt: pakalpojumu sniedzēja vai ieviesēja.
- Nosakiet katras sistēmas riska kategoriju un dokumentējiet šo novērtējumu, tostarp jebkādu atsaukšanos uz 6. panta 3. punktā noteikto izņēmumu.
- Izveidot mākslīgā intelekta pārvaldību un iecelt atbildīgo amatpersonu.
- Nodrošināt ar šīm sistēmām strādājošo darbinieku mākslīgā intelekta lietotprasmi; šis pienākums jau ir spēkā.
- Sagatavot 50. pantā paredzētos pārredzamības pasākumus līdz 2026. gada 2. augustam.
- Laikus sākt tehniskās dokumentācijas izstrādi un, ja nepieciešams, ietekmes uz pamattiesībām novērtējumu.
- Pārskatīt piegādātāju līgumus par lomu sadalījumu, informācijas sniegšanu un audita tiesībām.
- Uzraudzīt Omnibus paketes publicēšanu Oficiālajā Vēstnesī un attiecīgi pielāgot savu plānošanu.
Secinājumi
Mākslīgā intelekta likums būtiski ietekmē to, kā organizācijas izstrādā, iegādājas un izmanto mākslīgo intelektu. Paziņotā augsta riska pienākumu atlikšana sniedz papildu laiku, taču tā vēl nav piemērojams likums, un saistības, kas jau ir piemērojamas vai stājas spēkā 2026. gada 2. augustā, tas neietekmē. Tāpēc piesardzīga pieeja ir plānot, ņemot vērā jaunos datumus, vienlaikus sagatavojoties vecajiem. Plašāku pārskatu par regulējumu skatiet mūsu pilnīgajā ES Mākslīgā intelekta likuma ceļvedī , kas papildina šī raksta uzmanību augsta riska mākslīgā intelekta sistēmām.
Law & More palīdz organizācijām inventarizēt un klasificēt savas mākslīgā intelekta sistēmas, noteikt to lomu kā pakalpojumu sniedzēju vai ieviesēju, pārskatīt un izstrādāt līgumus ar mākslīgā intelekta piegādātājiem un izveidot mākslīgā intelekta pārvaldību. Vai vēlaties uzzināt, kādi pienākumi pašlaik attiecas uz jūsu organizāciju un kuriem soļiem vajadzētu piešķirt prioritāti? Lūdzu, sazinieties ar mums, lai apspriestu šo jautājumu bez saistībām.
Biežāk uzdotie jautājumi
Zemāk mēs atbildēsim uz jautājumiem, kas mums tiek uzdoti visbiežāk par šo tēmu.
Kas ir Mākslīgā intelekta likums?
Eiropas Mākslīgā intelekta regula (Regula (ES) 2024/1689). Tā stājās spēkā 2024. gada 1. augustā un kļūst piemērojama pakāpeniski, un pienākumi kļūst arvien smagāki, pieaugot mākslīgā intelekta sistēmas radītajam riskam.
Kad mākslīgā intelekta sistēma ir augsta riska?
Pa diviem ceļiem: kā daļa no produkta, uz kuru attiecas I pielikumā uzskaitītie produktu tiesību akti, vai izmantojot to vienā no III pielikumā uzskaitītajām jomām. Pēdējā gadījumā tikai joma nav noteicošā; tiek ņemta vērā arī konkrētā funkcija un 6. panta nosacījumi.
Vai III pielikuma sistēma tomēr var neietilpt augsta riska kategorijā?
Jā, ja tā nerada būtisku risku un būtiski neietekmē lēmumu pieņemšanu, piemēram, ja tā veic šauru procedūras vai tīri sagatavošanās uzdevumu. Šis novērtējums ir jādokumentē. Ja sistēma veic fizisku personu profilēšanu, izņēmums nekad netiek piemērots.
Vai esmu pakalpojumu sniedzējs vai izvietotājs?
Jūs esat pakalpojumu sniedzējs, ja izstrādājat sistēmu vai laižat to tirgū ar savu vārdu vai preču zīmi, un parasti esat ieviesējs, ja izmantojat iegādātu sistēmu. Ja jūs būtiski modificējat iegādātu sistēmu vai piegādājat to tālāk ar savu vārdu, jūs joprojām varat kļūt par pakalpojumu sniedzēju.
Kādi pienākumi attiecas uz pakalpojumu sniedzējiem?
Cita starpā riska pārvaldība, datu pārvaldība, tehniskā dokumentācija, reģistrēšana, lietošanas instrukcijas, cilvēka uzraudzība, prasības attiecībā uz precizitāti un kiberdrošību, kvalitātes vadības sistēma, atbilstības novērtēšana, CE marķējums un reģistrācija ES datubāzē.
Kādi pienākumi attiecas uz ieviesējiem?
Lietošana saskaņā ar instrukcijām, kompetenta cilvēka uzraudzība, uzraudzība, risku un nopietnu incidentu ziņošana un žurnālu saglabāšana vismaz sešus mēnešus. Iesaistītie darbinieki un personas, kurām sistēma tiek piemērota, ir jāinformē iepriekš.
Kad ir jāveic pamattiesību ietekmes novērtējums?
27. pantā tas ir noteikts, cita starpā, publisko tiesību subjektiem, privātiem sabiedrisko pakalpojumu sniedzējiem un ieviesējiem, kas izmanto kredītreitinga noteikšanas vai apdrošināšanas risku novērtēšanas sistēmas dzīvības un veselības apdrošināšanā.
Vai augsta riska saistības ir atliktas?
Pieņemtais grozījums atliek III pielikuma piemērošanu ne vēlāk kā līdz 2027. gada 2. decembrim un I pielikuma piemērošanu ne vēlāk kā līdz 2028. gada 2. augustam. Šī panta atsauces datumā minētais grozījums vēl nav publicēts Oficiālajā Vēstnesī, tāpēc formāli joprojām ir spēkā sākotnējais datums — 2026. gada 2. augusts.
Kas jau ir spēkā šodien?
5. pantā minētā aizliegtā prakse un mākslīgā intelekta lietotprasmes pienākums kopš 2025. gada 2. februāra, kā arī noteikumi par vispārējas nozīmes mākslīgā intelekta modeļiem kopš 2025. gada 2. augusta. 50. pantā noteiktie pārredzamības pienākumi stājas spēkā 2026. gada 2. augustā un nav atlikti.
Kas Nīderlandē uzrauga Mākslīgā intelekta likumu?
Joprojām trūkst īstenošanas tiesību aktu. Paredzams, ka Nīderlandes Digitālās infrastruktūras iestāde un Nīderlandes Datu aizsardzības iestāde uzņemsies centrālu koordinējošu lomu līdzās nozaru uzraudzības iestādēm. Pilnvaru galīgā sadale noteiks Nīderlandes īstenošanas tiesību aktus.
Kas manai organizācijai tagad būtu jādara?
Sāciet ar visu jūsu izstrādāto, iegādāto vai izmantoto mākslīgā intelekta sistēmu inventarizāciju. Katrai sistēmai reģistrējiet savu lomu, piemērojamo riska kategoriju un izrietošos pienākumus. Izveidojiet arī mākslīgā intelekta pārvaldību, nodrošiniet mākslīgā intelekta lietotprasmi un pārskatiet piegādātāju līgumus par lomu sadalījumu, informācijas sniegšanu un audita tiesībām.
