Augsta riska mākslīgā intelekta sistēmas: ko Mākslīgā intelekta likums pieprasa no jūsu organizācijas

Augsta riska mākslīgā intelekta sistēmas ir Eiropas Mākslīgā intelekta regulas ( Regula (ES) 2024/1689 ), ko parasti dēvē par Mākslīgā intelekta likumu, centrālais punkts, ar kuru tiek ieviests uz risku balstīts satvars mākslīgā intelekta (MI) sistēmu izstrādei, piegādei un izmantošanai. Jo lielāks ir risks veselībai, drošībai un pamattiesībām, jo ​​smagāki ir pienākumi.

Tāpēc organizācijām atbilstība nesākas ar tehniskās dokumentācijas izstrādi, bet gan ar pareizu klasifikāciju. Vispirms nosakiet, kuras mākslīgā intelekta sistēmas tiek izstrādātas, iegādātas vai izmantotas organizācijā. Pēc tam novērtējiet, vai sistēma ir aizliegta , augsta riska, pakļauta pārredzamības saistībām vai neietilpst kādās konkrētās saistībās.

Šajā rakstā ir izklāstīts, kad mākslīgā intelekta sistēma var tikt kvalificēta kā augsta riska sistēma, kādi pienākumi attiecas uz pakalpojumu sniedzējiem un ieviesējiem, un kādus pasākumus organizācijas var veikt jau tagad. Tajā ir arī izklāstīts pašreizējais laika grafiks pēc augsta riska pienākumu atlikšanas saskaņā ar Digital Omnibus.

Kad mākslīgā intelekta sistēma ir augsta riska?

Augsta riska mākslīgā intelekta sistēmu novērtējums galvenokārt tiek veikts saskaņā ar Mākslīgā intelekta likuma 6. pantu un I un III pielikumu. Ir divi veidi.

Pirmais ceļš attiecas uz mākslīgā intelekta sistēmām, kas ir daļa no produktiem, uz kuriem attiecas I pielikumā uzskaitītie Eiropas produktu tiesību akti un kuriem ir nepieciešama trešās puses atbilstības novērtēšana. Piemēram, noteiktas medicīnas ierīces, mašīnas, lifti un rotaļlietas. Attiecībā uz šīm sistēmām Mākslīgā intelekta likums balstās uz esošo atbilstības novērtēšanas procedūru.

Otrais ceļš attiecas uz mākslīgā intelekta sistēmām, ko izmanto III pielikumā uzskaitītajās jomās: biometrija, kritiskā infrastruktūra, izglītība un profesionālā apmācība, nodarbinātība un darbaspēka pārvaldība, piekļuve būtiskiem privātajiem un publiskajiem pakalpojumiem, tiesībaizsardzība, migrācija, patvērums un robežkontrole, kā arī tiesu spriešana un demokrātiskie procesi. Ne katrs lietojums šādā jomā automātiski nozīmē klasifikāciju starp augsta riska mākslīgā intelekta sistēmām: ir jāizvērtē arī sistēmas konkrētā funkcija un 6. panta nosacījumi.

Izņēmums 6. panta 3. punktā

Sistēma, kas ietilpst III pielikuma jomā, netiek automātiski pieskaitīta augsta riska mākslīgā intelekta sistēmām: šī klasifikācija tiek izslēgta, ja tā nerada būtisku risku personu veselībai, drošībai vai pamattiesībām un būtiski neietekmē lēmumu pieņemšanas rezultātu. Tas var būt gadījumā, ja sistēma veic tikai šauru procedūras uzdevumu, tikai uzlabo cilvēka jau veiktu darbību, tikai atzīmē novirzes no iepriekšējās cilvēka lēmumu pieņemšanas, neaizstājot šo novērtējumu, vai veic tikai sagatavošanās uzdevumu.

Šī izņēmuma izmantošana ir rūpīgi jāpamato un jādokumentē. Organizācija dokumentē ne tikai secinājumu, bet arī faktus un novērtējumu, uz kura šis secinājums ir balstīts. Pakalpojumu sniedzējam, kas uzskata, ka III pielikuma sistēma nepieder pie augsta riska mākslīgā intelekta sistēmām, šis novērtējums ir jādokumentē pirms sistēmas laišanas tirgū vai nodošanas ekspluatācijā, un uz to papildus attiecas 49. panta 2. punktā noteiktais reģistrācijas pienākums.

Vienā punktā Regula ir absolūta. 6. panta 3. punktā ir noteikts, ka III pielikumā minēta mākslīgā intelekta sistēma vienmēr tiek uzskatīta par augsta riska mākslīgā intelekta sistēmu, ja tā veic fizisku personu profilēšanu. Šādā gadījumā izņēmumu nevar izmantot.

Kāda ir jūsu organizācijas loma?

Mākslīgā intelekta likums ķēdē izšķir vairākas lomas. Divas no tām ir svarīgas lielākajai daļai organizāciju. Puse, kas izstrādā mākslīgā intelekta sistēmu vai laiž to tirgū ar savu vārdu vai preču zīmi, kvalificējas kā pakalpojumu sniedzējs. Puse, kas izmanto mākslīgā intelekta sistēmu savas uzņēmējdarbības ietvaros, to neizstrādājot, parasti kvalificējas kā ieviesējs.

Šī lomu sadale nav statiska. Organizācija, kas būtiski modificē iegādātu sistēmu, piegādā to tālāk ar savu nosaukumu vai preču zīmi vai maina tās paredzēto mērķi, joprojām var tikt uzskatīta par pakalpojumu sniedzēju un tādējādi tai var būt stingrākas saistības. Katrai sistēmai nosakiet, kuru lomu jūs pildāt, un reģistrējiet šo novērtējumu.

Galvenie pienākumi

Augsta riska mākslīgā intelekta sistēmu nodrošinātājiem ir jāievēro pienākumi, tostarp 8.–17., 43. un 47.–49. pantā minētie:

• riska pārvaldības sistēma, kas aptver visu dzīves ciklu
• datu pārvaldība, tostarp neobjektivitātes atklāšana un labošana izmantotajos datos, tostarp apmācības, validācijas un testēšanas datos
• tehniskā dokumentācija saskaņā ar IV pielikumu un notikumu reģistrēšana
• skaidras lietošanas instrukcijas izvietotājiem
• dizains, kas nodrošina efektīvu cilvēka uzraudzību
• prasības attiecībā uz precizitāti, noturību un kiberdrošību
• kvalitātes vadības sistēma, atbilstības novērtējums, ES atbilstības deklarācija, CE marķējums un reģistrācija ES datubāzē

Attiecībā uz augsta riska mākslīgā intelekta sistēmām, ko izmanto attālinātai biometriskai identifikācijai, kā minēts III pielikuma 1. punkta a) apakšpunktā, 14. panta 5. punktā ir noteikta papildu prasība attiecībā uz cilvēka uzraudzību: uz identifikācijas pamata nedrīkst veikt nekādas darbības vai pieņemt lēmumus, ja vien to nav atsevišķi pārbaudījušas un apstiprinājušas vismaz divas fiziskas personas ar nepieciešamo kompetenci, apmācību un pilnvarām. To sauc par četru acu principu.

Izvietotājiem ir jāievēro vieglāki, bet ne mazāk svarīgi 26. un 27. panta pienākumi: lietošana saskaņā ar lietošanas instrukcijām, kompetenta cilvēka uzraudzība, sistēmas darbības uzraudzība, risku un nopietnu incidentu ziņošana un žurnālu glabāšana vismaz sešus mēnešus. Darbinieki, kas strādās ar sistēmu, un personas, kurām tā tiks piemērota, ir jāinformē iepriekš.

Dažiem ieviesējiem ir jāveic arī pamattiesību ietekmes novērtējums — pamattiesību ietekmes novērtējums saskaņā ar 27. pantu. Tas jebkurā gadījumā attiecas uz publisko tiesību subjektiem, privātiem sabiedrisko pakalpojumu sniedzējiem un ieviesējiem, kas izmanto kredītreitinga sistēmas vai apdrošināšanas risku novērtēšanas sistēmas dzīvības un veselības apdrošināšanā.

Laika grafiks un pašreizējais statuss

Mākslīgā intelekta likums stājās spēkā 2024. gada 1. augustā un tiek piemērots pakāpeniski. Praksē ir svarīgi nošķirt jau spēkā esošās saistības, saistības ar nākotnes piemērošanas datumu un paziņotos grozījumus, kuru oficiālā spēkā stāšanās vēl nav pabeigta.

Aizliegtās darbības (5. pants): piemērojams kopš 2025. gada 2. februāra

Mākslīgā intelekta lietotprasme (4. pants): piemērojama kopš 2025. gada 2. februāra

Vispārējas nozīmes mākslīgā intelekta modeļi: piemērojami kopš 2025. gada 2. augusta

Pārredzamības pienākumi (50. pants): piemērojami kopš 2026. gada 2. augusta; nav atlikti

Augsts risks saskaņā ar III pielikumu: piemērojams no 2027. gada 2. decembra pēc atlikšanas

Augsts risks saskaņā ar I pielikumu: piemērojams no 2028. gada 2. augusta pēc tās pašas atlikšanas.

Šī atlikšana ir noteikts tiesību akts. Eiropas Komisija 2025. gada 19. novembrī iesniedza digitālo kopregulējumu ar priekšlikumu atlikt pienākumus attiecībā uz augsta riska mākslīgā intelekta sistēmām. Grozījumu regula, Regula (ES) 2026/1744, tika publicēta Oficiālajā Vēstnesī 2026. gada 24. jūlijā un stājās spēkā 2026. gada 27. jūlijā.

Mainīts tika tikai augsta riska režīms. III nodaļas saistības sistēmām, kas klasificētas, izmantojot III pielikumu, tagad ir spēkā no 2027. gada 2. decembra, bet sistēmām, kas klasificētas, izmantojot I pielikumu, – no 2028. gada 2. augusta. Visiem pārējiem saglabājās sākotnējais datums, tāpēc atlikšana neradīja vispārēju pauzi Mākslīgā intelekta likumā.

Atlikšana nav beznosacījumu, kā tas būtu vienkārša datuma maiņa. Augsta riska saistību piemērošana ir saistīta ar saskaņoto standartu un to ievērošanai nepieciešamo atbalsta instrumentu pieejamību, un jaunie datumi kalpo kā šīs kārtības galējais ierobežojums, nevis kā mērķis, kas vēl var tikt nobīdīts. Tāpēc plānošana, pieņemot, ka tiks veikts vēl viens pagarinājums, nav prātīga.

Divi punkti ir pelnījuši atsevišķu uzmanību. Pirmkārt, 50. pantā noteiktie pārredzamības pienākumi un 4. pantā noteiktais mākslīgā intelekta lietotprasmes pienākums netika atlikti: 50. pants ir piemērojams kopš 2026. gada 2. augusta, bet 4. pants – kopš 2025. gada 2. februāra. Otrkārt, pakete 5. pantam pievieno jaunu aizliegumu, kas attiecas uz mākslīgā intelekta lietojumprogrammām, kas ģenerē bez piekrišanas intīmus attēlus, un uz mākslīgā intelekta ģenerētiem bērnu seksuālas izmantošanas materiāliem.

Organizācijām tas nozīmē, ka 2027. gada decembris ir datums, kad plānot augsta riska dokumentāciju, savukārt pārredzamības, lasītprasmes un vispārējas nozīmes saistības ir drīzāk pašreizējās atbilstības, nevis sagatavošanās jautājumi.

Uzraudzība un sodi

Nīderlandē Mākslīgā intelekta likuma īstenošanas akts vēl nav spēkā. Akta projekts tika nodots publiskai apspriešanai 2026. gada 20. aprīlī. Tas piešķir Nīderlandes Datu aizsardzības iestādei (Autoriteit Persoonsgegevens) uzraudzītāja lomu jomās, kurās nav norīkota nozares uzraudzītāja, ar īpašu Mākslīgā intelekta nodaļu, un piešķir Nīderlandes Digitālās infrastruktūras iestādei (RDI) koordinatora lomu, savukārt nozares uzraudzītāji saglabā savas jomas. Kamēr šis akts nav pieņemts un stājies spēkā, precīzs pilnvaru sadalījums un valsts sodu režīms nav noteikts.

Mākslīgā intelekta likuma 99. pantā ir paredzētas vairākas maksimālās sodu kategorijas. Līmenis ir atkarīgs no pārkāpuma rakstura un attiecīgā gadījumā no uzņēmuma gada apgrozījuma pasaulē. Augstākais maksimālais sods attiecas uz 5. pantā minēto aizliegto prakšu pārkāpumiem; zemākais maksimālais sods attiecas uz citu pienākumu pārkāpumiem, tostarp augsta riska mākslīgā intelekta sistēmu nodrošinātājiem un ieviestājiem; un zemākais sods attiecas uz nepareizas, nepilnīgas vai maldinošas informācijas sniegšanu iestādēm. Labvēlīgāks režīms attiecas uz maziem un vidējiem uzņēmumiem (MVU), tostarp jaunuzņēmumiem. Faktiskais sods tiek noteikts, ņemot vērā piemērojamos noteikumus par sodiem un lietas apstākļus.

Praktisks ceļvedis

• Inventarizēt visas mākslīgā intelekta sistēmas, ko jūsu organizācija izstrādā, iegādājas vai izmanto.
• Katrai sistēmai nosakiet, kādu lomu jūs pildāt: pakalpojumu sniedzēja vai ieviesēja.
• Nosakiet katras sistēmas riska kategoriju un dokumentējiet šo novērtējumu, tostarp jebkādu atsaukšanos uz 6. panta 3. punktā noteikto izņēmumu.
• Izveidot mākslīgā intelekta pārvaldību un iecelt atbildīgo amatpersonu.
• Nodrošināt ar šīm sistēmām strādājošo darbinieku mākslīgā intelekta lietotprasmi; šis pienākums jau ir spēkā.
• Īstenot 50. pantā paredzētos pārredzamības pasākumus; tie ir piemērojami kopš 2026. gada 2. augusta.
• Laikus sākt tehniskās dokumentācijas izstrādi un, ja nepieciešams, ietekmes uz pamattiesībām novērtējumu.
• Pārskatīt piegādātāju līgumus par lomu sadalījumu, informācijas sniegšanu un audita tiesībām.
• Plānot augsta riska dokumentāciju līdz 2027. gada 2. decembrim III pielikuma sistēmām un 2028. gada 2. augustam I pielikuma sistēmām.

Ko Mākslīgā intelekta likums pieprasa jūsu organizācijai

Mākslīgā intelekta likums būtiski ietekmē to, kā organizācijas izstrādā, iegādājas un izmanto mākslīgo intelektu. Augsta riska pienākumu atlikšana dod laiku režīma svarīgākajai daļai, bet visu pārējo atstāj spēkā: 5. panta aizliegumi, mākslīgā intelekta lietotprasmes pienākums, vispārējas nozīmes mākslīgā intelekta modeļu noteikumi un 50. panta pārredzamības pienākumi — tie visi ir spēkā jau šodien. Iegūto laiku vislabāk ir izmantot klasifikācijai un dokumentēšanai, jo šīs ir darbības, kuras vēlāk nevar saīsināt. Plašāku regulējuma pārskatu skatiet mūsu pilnīgajā ES mākslīgā intelekta likuma rokasgrāmatā , kas papildina šī raksta uzmanību augsta riska mākslīgā intelekta sistēmām.

Law & More palīdz organizācijām inventarizēt un klasificēt savas mākslīgā intelekta sistēmas, noteikt to lomu kā pakalpojumu sniedzēju vai ieviesēju, pārskatīt un izstrādāt līgumus ar mākslīgā intelekta piegādātājiem un izveidot mākslīgā intelekta pārvaldību. Ja vēlaties uzzināt, kādi pienākumi pašlaik attiecas uz jūsu organizāciju un kuriem soļiem jābūt prioritāriem, lūdzu, sazinieties ar mums.

Biežāk uzdotie jautājumi

Zemāk mēs atbildēsim uz jautājumiem, kas mums tiek uzdoti visbiežāk par šo tēmu.