Algoritmiskā vadība: vai algoritms var novērtēt jūsu sniegumu?

Algoritmiskā vadība, proti, mākslīgā intelekta sistēmu izmantošana darbinieku uzraudzībai, vērtēšanai un vadīšanai, Nīderlandē ir atļauta, taču tikai noteiktās robežās. Algoritms var atbalstīt snieguma novērtējumu; tas var nebūt vienīgais pamats lēmumam, kam ir būtiska ietekme uz jums, piemēram, atlaišanai, pazemināšanai amatā vai prēmijas atteikumam, jo ​​GDPR 22. pants paredz, ka šos lēmumus var pieņemt cilvēks, kurš tos patiešām pārskata. Turklāt ES Mākslīgā intelekta likums klasificē sistēmas, ko izmanto darbinieku uzraudzībai un novērtēšanai, kā augsta riska sistēmas, un tas pilnībā aizliedz mākslīgā intelekta izmantošanu, lai secinātu par darbinieku emocijām darba vietā.

Kas īsti ir algoritmiskā pārvaldība

Algoritmiskā vadība ir situācija, kurā novērošanu, mērīšanu un bieži vien arī vērtēšanu veic programmatūra, nevis vadītājs. Tā parādās noliktavās un izplatīšanas centros, klientu kontaktu centros, platformu darbā un arvien biežāk arī parastās biroja lomās, kur produktivitātes rīki ir iebūvēti sistēmās, kuras cilvēki jau izmanto. Darba devējam nav jāiegādājas produkts, ko sauc par mākslīgā intelekta pārvaldnieku, lai rastos juridiskie jautājumi; pietiek ar informācijas paneli, kas vērtē darbiniekus, pamatojoties uz automātiski apkopotajiem datiem.

Šāda sistēma labi veic skaitīšanu. Tā reģistrē izpildītos uzdevumus, apstrādes laikus, atbildes laikus, skripta ievērošanu, lietojumprogrammā pavadītās stundas. Tā nespēj saprast, kāpēc skaitlis ir mainījies. Darbinieks, kura darba sniegums samazinās tāpēc, ka viņa trīs nedēļas apmācīja jaunu kolēģi, tāpēc, ka viņš strādāja ar vienīgo klientu, kuru neviens cits nevarēja pārvaldīt, vai tāpēc, ka darbs šajā periodā bija neparasti sarežģīts, datos izskatās tāpat kā darbinieks, kurš vienkārši paveica mazāk. Šī atšķirība starp mērījumu un nozīmi ir gandrīz katra juridiskā strīda avots šajā jomā.

Ne jau tas ir svarīgi, ka snieguma mērīšana ir nelikumīga. Darba devējiem ir tiesības zināt, kā darbs norit, un saprātīga uzraudzība ir normāla uzņēmuma darbības sastāvdaļa. Svarīgi ir tas, ka Nīderlandes un Eiropas tiesību akti paredz nosacījumus mērīšanas veikšanas veidam un, galvenokārt, tās rezultātu izmantošanas veidam.

Kā šīs sistēmas vērtē jūsu sniegumu

Ir svarīgi izprast mehāniku, jo jūsu tiesības attiecas uz konkrētiem procesa posmiem. Kopumā notiek trīs lietas: dati tiek apkopoti, modelis pārvērš šos datus spriedumā, un kāds vai kaut kas rīkojas, pamatojoties uz tiem.

Ko sistēma apkopo

Datu vākšana parasti ir neredzama un nepārtraukta. Klientu kontaktu vidē sistēma var reģistrēt apstrādāto kontaktu skaitu, vidējo apstrādes laiku, pirmreizējo atrisināšanu, dīkstāves laiku starp zvaniem un noteiktā scenārija ievērošanu. Tā var iet tālāk un analizēt saturu: dabiskās valodas apstrāde, kas tiek piemērota e-pasta un zvanu transkriptiem, atslēgvārdu noteikšana un klienta puses noskaņojuma vērtēšana sarunā. Loģistikā tie būs skenēšanas ātrumi un komplektēšanas ātrums; biroja darbā - aktivitāte sadarbības rīkos.

Katrs no šiem datu punktiem ir jūsu personas dati, un katram no tiem ir jābūt pamatotam. Saskaņā ar GDPR darba devējs nedrīkst apkopot visu, ko sistēma spēj apkopot; apstrādei ir jābūt nepieciešamai konkrētam mērķim un samērīgai ar to. Sistēmu, kas reģistrē taustiņsitienus vai periodiski veic ekrānuzņēmumus, lai noteiktu, kas smagi strādā, ir ļoti grūti aizstāvēt kā samērīgu, un Autoriteit Persoonsgegevens (Nīderlandes Datu aizsardzības iestāde) ir pastāvīgi kritizējusi šāda veida visaptverošu uzraudzību.

No noteikumiem līdz modeļiem un melnajai kastei

Vienkāršākās sistēmas ir balstītas uz noteikumiem. Ja vidējais apstrādes laiks pārsniedz noteiktu slieksni vairāk nekā noteiktu reižu skaitu nedēļā, darbiniekam tiek piešķirts karodziņš. Šāda sistēma ir neelastīga un neievēro kontekstu, taču tai ir viena būtiska priekšrocība: jūs varat izlasīt noteikumu un precīzi redzēt, kāpēc jūsu pieprasījums tika atzīmēts, kas ļauj par to diskutēt.

Mašīnmācīšanās modeļi darbojas citādi. Tie tiek apmācīti, izmantojot vēsturiskus datus par to, kuri ir strādājuši labi un kuri ne, un tie secina modeļus, kas korelē ar šiem rezultātiem. Tas ir spēcīgāk un ievērojami mazāk caurspīdīgi. Modelis var balstīties uz kaut ko tādu, kam nav nekādas pamatotas saistības ar sniegumu, un ne darba devējs, ne dažreiz piegādātājs nevar precīzi pateikt, kāpēc konkrēts rezultāts ir tāds, kāds tas ir.

Šo necaurredzamību parasti sauc par melnās kastes problēmu, un juridiskā kontekstā tā ir drīzāk liktenīga, nevis tikai neērta. Darba devējs, kurš nevar izskaidrot novērtējuma pamatu, nevar izpildīt pienākumu sniegt jēgpilnu informāciju par iesaistīto loģiku, nevar pienācīgi aizstāvēt novērtējumu, ja tas tiek apstrīdēts, un nevar pierādīt, ka tam nav diskriminējošas ietekmes. Praksē, ja to nevar izskaidrot, uz to nevar paļauties.

Ko GDPR pieprasa no mākslīgā intelekta veiktspējas sistēmas

GDPR ir pirmais un joprojām praktiskākais instruments šajā jomā, jo tā attiecas uz ikvienu darba devēju, kas apstrādā darbinieku datus, un tā tiek piemērota jau gadiem ilgi. Četri no tās noteikumiem veic lielāko daļu darba.

22. pants: nav būtisku lēmumu, ko pieņemtu tikai ar mašīnu palīdzību

GDPR 22. pants ikvienai personai piešķir tiesības netikt pakļautai lēmumam, kas balstīts tikai uz automatizētu apstrādi, tostarp profilēšanu, un kas rada tai juridiskas sekas vai līdzīgi būtiski ietekmē to. Atlaišana, līguma nepagarināšana, pazemināšana amatā, prēmijas nepiešķiršana un paaugstinājuma atteikums — tas viss ērti ietilpst šajā aprakstā.

Diviem vārdiem ir svars. Tas nozīmē tikai to, ka cilvēks, kurš tikai apstiprina sistēmas ierosināto, neizņem lēmumu no 22. panta; uzraudzības iestādes jau gadiem ilgi ir skaidri norādījušas, ka zīmoga apstiprināšana nav cilvēka iesaistīšanās. Jēgpilnai iesaistīšanai ir nepieciešams recenzents ar pilnvarām nonākt pie atšķirīga secinājuma, kompetence izvērtēt lietu un laiks, lai to izdarītu. Būtiska ietekme tiek interpretēta plaši, un tai nav nepieciešamas oficiālas juridiskas sekas: vērtēšanas sistēma, kas nosaka, kuras maiņas vai uzdevumi jums tiek piedāvāti, var jūs pietiekami būtiski ietekmēt, lai iesaistītos raksta izstrādē.

Ja piemērojams 22. pants, darba devējam jebkurā gadījumā ir jānodrošina tajā paredzētās garantijas: tiesības pieprasīt cilvēka iejaukšanos, paust savu viedokli un apstrīdēt lēmumu.

Caurspīdīgums, piekļuve un iesaistītā loģika

Darbiniekiem ir jābūt informētiem par sistēmas pastāvēšanu un tās darbību pirms tam. Ja notiek automatizēta lēmumu pieņemšana 22. panta izpratnē, darba devējam ir jāsniedz arī jēgpilna informācija par iesaistīto loģiku, kā arī par apstrādes nozīmīgumu un paredzētajām sekām. To pašu informāciju var pieprasīt vēlāk, iesniedzot piekļuves pieprasījumu, kas arī dod jums tiesības saņemt apstrādāto jūsu personas datu kopiju: vērtējumus, pamatā esošos mērījumus un kategorijas, ko sistēma jums piešķir.

Tas, kas tiek uzskatīts par jēgpilnu, ir noteikts būtības, nevis formalitātes virzienā. Tas nav tehnoloģijas apraksts; tas ir skaidrojums par to, kādi faktori tika izmantoti un kā tie tika ņemti vērā, formulējot tos terminos, ko attiecīgā persona var faktiski saprast un rīkoties.

Juridiskais pamats, piekrišana un datu aizsardzības ietekmes novērtējums

Katrai apstrādes darbībai ir nepieciešams likumīgs pamats. Nodarbinātības kontekstā piekrišana reti ir izmantojama tieši darba devēja un darbinieka atkarības dēļ: piekrišana, ko nevar atteikt bez sekām, nav sniegta brīvprātīgi. Tāpēc darba devēji parasti paļaujas uz apstrādes nepieciešamību darba līguma izpildei, uz juridisku pienākumu vai uz leģitīmām interesēm, un pēdējai no tām ir nepieciešama dokumentēta interešu līdzsvarošana ar darbaspēka privātumu.

Tā kā šāda mēroga snieguma uzraudzība ietver sistemātisku un plašu cilvēku novērtēšanu, pamatojoties uz automatizētu apstrādi, datu aizsardzības ietekmes novērtējums nav neobligāts. Tas ir nepieciešams pirms sistēmas ieviešanas, un tajā ir jāapraksta apstrāde, jāpamato tās nepieciešamība un samērīgums, jāidentificē riski darbiniekiem un jānosaka pasākumi to novēršanai. Darba devēji, kas neveic novērtējumu, parasti problēmas atklāj vēlāk, strīda gadījumā, kad izvēles vairs nevar mierīgi labot.

Cik tālu darba devējs drīkst iet uzraudzības jomā?

Darba snieguma vērtēšanu nevar atdalīt no uzraudzības, kas to nodrošina, un uzraudzībai ir savas robežas. Darbinieks neatsakās no privātās dzīves pie biroja durvīm: Eiropas Cilvēktiesību tiesa lietā Barbulesku pret Rumāniju lēma, ka darbinieka saziņas uzraudzība ietver tiesības uz privātās dzīves un korespondences neaizskaramību saskaņā ar Konvencijas 8. pantu un ka darba devējam iepriekš ir jāinformē darbinieks par uzraudzības raksturu un apmēru, jācenšas sasniegt likumīgu mērķi un jāizvēlas vismazāk uzbāzīgie līdzekļi, kas spēj to sasniegt. Slepena darbaspēka uzraudzība ir izņēmuma gadījums, un tai ir nepieciešamas konkrētas aizdomas, ierobežots ilgums un dokumentēts novērtējums, ko nedarītu neviens vieglāks pasākums.

Pārvēršot to algoritmiskās pārvaldības projektā, tas nozīmē, ka darba devējam ir jāspēj atbildēt uz trim jautājumiem par katru datu plūsmu: kāpēc šie dati ir nepieciešami norādītajam mērķim, kāpēc mazāk uzmācīgs mērījums to nevarētu sasniegt un vai darbinieki tika iepriekš informēti. Nepārtraukta ekrāna ierakstīšana, taustiņsitienu reģistrēšana un atrašanās vietas izsekošana ārpus darba laika lielākajā daļā parasto darba apstākļu uz šiem jautājumiem nesniedz atbildes.

Prombūtnes, slimības un īpašu kategoriju dati

Viena kategorija ir īpaši piesardzīga. Dati, kas atklāj veselību, saskaņā ar GDPR ir īpašas kategorijas dati un principā tos nedrīkst apstrādāt vispār, ievērojot ierobežotus izņēmumus. Nīderlandes noteikumi par slimības prombūtni ir stingri: darba devējs var reģistrēt darbinieka prombūtni un tās ilgumu, bet slimības raksturs, diagnoze un ierobežojumi ir jālemj bedrijfsarts (uzņēmuma ārstam), nevis darba devējam. Veiktspējas sistēma, kas veselības stāvokli secina no prombūtnes modeļiem, rakstīšanas ātruma, pārtraukumiem vai balss toņa, apstrādā veselības datus pēc secinājumiem, un fakts, ka neviens tajā nav ierakstījis diagnozi, neko nemaina.

Tā pati piesardzība attiecas uz sistēmām, kuru rezultātus ietekmē aizsargāta prombūtne, piemēram, grūtniecība, vecāku atvaļinājums vai aprūpes atvaļinājums. Ja modelis šos periodus uzskata par nepietiekamu sniegumu, darba devējs ne tikai apstrādā sensitīvus datus, bet arī pārvērš likumā noteiktās tiesības neizdevīgā situācijā.

Augstākā izpildes pakāpe

Pamatprincipu, apstrādes likumības un datu subjektu tiesību pārkāpumi ietilpst GDPR 83. panta augstākajā soda līmenī, kas ir smagākā kategorija, ko paredz regula. Tikpat svarīgi ikdienas praksē ir tas, ka darba strīdā ir grūti paļauties uz novērtējumu, kas veikts, pārkāpjot šos noteikumus: tiesa, kurai tiek lūgts izbeigt darba līgumu nepietiekamas veiktspējas dēļ, vēlēsies redzēt, kā nepietiekamā veiktspēja tika noteikta.

Ko Mākslīgā intelekta likums sniedz darba devējiem un darba ņēmējiem

ES Mākslīgā intelekta likums ir spēkā un tiek piemērots pakāpeniski, tāpēc jautājums vairs nav par to, vai tas tiks pieņemts, bet gan par to, kuri no tā pienākumiem jau ir spēkā. Šeit ir svarīgi divi tā slāņi.

Pirmais ir aizliegto prakšu saraksts, kas ir spēkā kopš likuma agrākās fāzes. Tajā ir iekļauts noteikums, kas tieši vērsts uz darba vietu: mākslīgā intelekta sistēmas, ko izmanto, lai secinātu fiziskas personas emocijas darba vietā un izglītības iestādēs, ir aizliegtas, ja vien sistēma nav paredzēta ieviešanai vai laišanai tirgū medicīnisku vai drošības apsvērumu dēļ. Tāpēc programmatūra, kas novērtē darbinieku noskaņojumu, stresa līmeni, iesaisti vai sirsnību pēc viņu balss, sejas vai rakstīšanas, nav atbilstības problēma, kas jārisina. Tā nav piemērojama, un šaurais medicīniskais un drošības izņēmums neattiecas uz produktivitātes pārvaldību. Rūpīgi ievērojiet robežu: klienta teiktā noskaņojuma analīze ir cits jautājums nekā darbinieka emociju secināšana.

Otrais līmenis ir augsta riska režīms. Mākslīgā intelekta likuma III pielikumā par augsta riska sistēmām cita starpā ir noteiktas mākslīgā intelekta sistēmas, kas paredzētas lēmumu pieņemšanai, kuri ietekmē darba attiecību noteikumus, šādu attiecību veicināšanu vai izbeigšanu, uzdevumu sadali, pamatojoties uz individuālu uzvedību vai personiskajām īpašībām, kā arī darbinieku snieguma un uzvedības uzraudzību un novērtēšanu. Mākslīgā intelekta snieguma novērtēšanas rīks pilnībā atbilst šim aprakstam. Saskaņā ar digitālo omnibusa paketi III pielikuma sistēmu augsta riska pienākumu piemērošanas datumi tika atlikti, tāpēc darba devējiem ir vairāk laika sagatavoties; aizliegumi, noteikumi par vispārējas nozīmes mākslīgā intelekta modeļiem un 50. pantā noteiktie pārredzamības pienākumi jau ir spēkā.

Viens pienākums ir atsevišķi jāpiemin, jo darba devēji to regulāri ignorē. Ieviesējiem, kas ir darba devēji, pirms augsta riska mākslīgā intelekta sistēmas nodošanas ekspluatācijā darba vietā ir jāinformē darbinieku pārstāvji un skartie darbinieki saskaņā ar piemērojamajiem noteikumiem par informēšanu un konsultēšanos. Šis ir informēšanas pienākums, kas ir līdztekus GDPR pārredzamības pienākumiem un darba padomes tiesībām saskaņā ar Nīderlandes tiesību aktiem, bet neaizstāj tos. Pilnīgāku likuma un tā laika grafika izklāstu skatiet mūsu rakstā par mākslīgā intelekta juridisko pusi un ES Mākslīgā intelekta likumu.

Kurš uzņemas atbildību: piegādātājs vai darba devējs?

Darba devēji bieži pieņem, ka, tā kā programmatūra ir iegādāta no specializēta piegādātāja, piegādātājs uzņemas juridisko risku. Neviens no šiem regulējumiem nesadala atbildību šādā veidā.

Saskaņā ar GDPR darba devējs izlemj, kāpēc un kā tiek apstrādāti darbinieku dati, un tāpēc ir pārzinis. Piegādātājs, kas pēc darba devēja norādījumiem pārvalda sistēmu, ir apstrādātājs, un attiecības ir jānosaka apstrādes līgumā, taču tieši darba devējam ir pienākums nodrošināt pārredzamību, likumību un cilvēka uzraudzību pret saviem darbiniekiem, un tieši darba devējs ir atbildīgs Autoriteit Persoonsgegevens un pašiem darbiniekiem.

Mākslīgā intelekta likums novelk salīdzināmu robežu starp pakalpojumu sniedzēju, kas izstrādā mākslīgā intelekta sistēmu un laiž to tirgū, un ieviesēju, kas to izmanto pēc savas pilnvaras. Darba devējs, kas izmanto iegādātu rīku, parasti ir ieviesējs un uzņemas ieviesēja pienākumus, tostarp sistēmas izmantošanu saskaņā ar instrukcijām, atbilstoša līmeņa cilvēku uzraudzības nodrošināšanu, ko veic personas ar nepieciešamo kompetenci un pilnvarām, tās darbības uzraudzību un darbinieku informēšanu. Darba devējs, kas pats piešķir sistēmai savu nosaukumu vai to būtiski modificē, vai maina tās paredzēto mērķi, var kļūt par pakalpojumu sniedzēju un uzņemties daudz smagākas saistības, kas saistītas ar šo lomu.

Praktiskā ietekme uz iepirkumiem ir tāda, ka līgums ir jālasa, ņemot vērā šīs lomas. Darba devējam ir nepieciešams, lai piegādātājs sniegtu informāciju, kas ļauj nodrošināt atbilstību, un tam vajadzētu būt skeptiskam pret jebkuru produktu, kas nevar izskaidrot savu produkciju, jo pienākums paskaidrot būs darba devējam neatkarīgi no tā, kas teikts licencē.

Platformu darbs: papildu noteikumu slānis

Cilvēkiem, kas strādā, izmantojot digitālās darba platformas, ir ceļā uz vēl vienu instrumentu. Direktīva (ES) 2024/2831 par darba apstākļu uzlabošanu platformu darbā ir veltījusi veselu nodaļu algoritmiskai pārvaldībai. Tā uzliek platformām pienākumu informēt darbiniekus par automatizētām uzraudzības un lēmumu pieņemšanas sistēmām, kas būtiski ietekmē viņu darba apstākļus, ierobežo noteiktu datu kategoriju apstrādi, tostarp datu par emocionālo un psiholoģisko stāvokli un datu par privātām sarunām, pieprasa cilvēka uzraudzību pār šo sistēmu ietekmi un dod darbiniekiem tiesības uz skaidrojumu un cilvēka pārskatīšanu par svarīgiem lēmumiem, piemēram, konta ierobežošanu vai apturēšanu. Jāatzīmē, ka vairāki no šiem drošības pasākumiem attiecas uz personām, kas veic platformu darbu, neatkarīgi no tā, vai viņi atbilst darbinieku statusam.

Dalībvalstīm direktīva jātransponē līdz 2026. gada 2. decembrim. Līdz brīdim, kad stāsies spēkā valsts īstenošanas tiesību akti, spēkā esošie noteikumi ir GDPR un Mākslīgā intelekta likums, un to prasības jau aptver lielu daļu no tā paša pamata.

Nīderlandes darba likums: algoritms nevar izbeigt jūsu līgumu

Sistēmas darbību regulē Eiropas datu aizsardzības un mākslīgā intelekta noteikumi. Nīderlandes darba tiesības regulē to, ko darba devējs drīkst darīt ar savu rezultātu, un tās ir ievērojami stingrākas, nekā pieņem lielākā daļa algoritmiskās pārvaldības projektu.

Darba devējs Nīderlandē nevar vienkārši izbeigt darba līgumu. Atlaišanai ir nepieciešams pamatots iemesls, kas uzskaitīts Nīderlandes Civilkodeksa 7:669. pantā, un tai ir nepieciešama iepriekšēja UWV atļauja vai kantonrechter (apakšrajona tiesas) lēmums atkarībā no iemesla. Nepietiekama darba snieguma dēļ ir jāpierāda, ka darbinieks nav piemērots amatam, ka darbinieks par to tika laikus informēts un ka viņam tika piedāvāta reāla iespēja uzlabot savu sniegumu, attiecīgā gadījumā sniedzot atbalstu. Informācijas paneļa lasīšana nav uzlabošanas process, un tiesa jautās, kas, kad un kāda palīdzība tika sniegta. Mūsu Nīderlandes darba tiesību ceļvedī ir sīkāk izklāstīta atlaišanas sistēma.

Diskriminācijas likums attiecas uz rezultātu, nevis uz nodomu. Ja sistēma nostāda darbiniekus neizdevīgā situācijā tādu iemeslu dēļ kā dzimums, rase, vecums, reliģija, invaliditāte vai hroniska slimība, tā ir nelikumīga saskaņā ar Algemene wet gelijke behandeling (Vispārējo vienlīdzīgas attieksmes likumu) un īpašajiem vienlīdzīgas attieksmes likumiem attiecībā uz vecumu un invaliditāti neatkarīgi no tā, vai kāds ir paredzējis šādu rezultātu. Vēsturiskie apmācību dati parasti ir vaininieks: modelis, kas apmācīts, pamatojoties uz to, kas iepriekš tika paaugstināts amatā, atveidos pagātnes vēlmes. Sistēmas, kas laika gaitā mēra neapstrādātu pieejamību vai ražīgumu, mēdz arī sodīt darbiniekus, kuri ir paņēmuši vecāku atvaļinājumu, strādājuši samazinātu darba laiku vai bijuši prombūtnē slimības dēļ, un tieši darbinieka sodīšana par likumā noteiktu tiesību izmantošanu ir tas, ko aizliedz vienlīdzīgas attieksmes likums.

Darba padomei ir jāpiekrīt

Uzņēmumā, kurā darbojas darba padome, darba devējam ir nepieciešams vairāk nekā tikai labi nodomi. Darba padomju likuma (Wet op de ondernemingsraden) 27. pants paredz, ka darba padomes (ondernemingsraad) piekrišana ir nepieciešama, lai pieņemtu, grozītu vai atsauktu vienošanās, tostarp vienošanās par personāla novērtēšanu, darbinieku personas datu apstrādi un aizsardzību, kā arī par iekārtām, kas paredzētas vai ir piemērotas darbinieku klātbūtnes, uzvedības vai snieguma novērošanai vai uzraudzībai. Mākslīgā intelekta veiktspējas sistēma iesaista visus trīs vienlaikus.

Piekrišana šeit nav formalitāte. Lēmumu, kas pieņemts bez nepieciešamās piekrišanas, darba padome var atzīt par spēkā neesošu, un darba devējam pēc tam var liegt to piemērot. Darbiniekiem, kuri uzskata, ka sistēma viņiem ir uzspiesta, darba padome bieži vien ir ātrākais un efektīvākais veids, kā mainīt situāciju, krietni pirms kāds domā par tiesvedību.

Ko tiesas līdz šim ir lēmušas

Judikatūra vēl attīstās, taču divi Nīderlandes spriedumi jau nosaka virzību, un abi tiek citēti krietni ārpus Nīderlandes robežām.

Spriedumi lietās Uber un Ola

2023. gada 4. aprīlī Gerechtshof Amsterdam (Amsterdam Apelācijas tiesa) pieņēma lēmumu virknē lietu, ko vadītāji bija iesnieguši pret Uber un Ola. Vadītāji vēlējās uzzināt, kāpēc viņu konti tika deaktivizēti un kā viņiem tika piešķirts darbs un cenas. Tiesa lielākoties lēma par labu viņiem informācijas punktos. Vadītājus, kuri zaudēja piekļuvi platformai un līdz ar to arī savus ienākumus, būtiski ietekmēja automatizēta lēmumu pieņemšana, un uzņēmumi nevarēja slēpt paskaidrojumu, atsaucoties uz komercnoslēpumiem vai manipulācijas risku, nepamatojot šo iebildumu.

Tiesa pieprasīja konkrētu informāciju: nevis vispārīgu tehnoloģijas aprakstu, bet gan informāciju par izmantotajiem faktoriem un tiem piešķirto svaru, lai attiecīgā persona varētu saprast un apstrīdēt rezultātu. Šis ir standarts, kas darba devējiem būtu jāpieņem un attiecas arī uz veiktspējas algoritmu. Ja jūsu atbilde uz jautājumu, kāpēc man tika piešķirts slikts rezultāts, ir tāda, ka to noteica modelis, jūs neesat izpildījis standartu.

Spriedums lietā SyRI

Otrā lieta nebija strīds par darbu, taču tās argumentācija sniedzas līdz darba vietai. Savā 2020. gada 5. februāra spriedumā (ECLI:NL:RBDHA:2020:865) Rechtbank Den Haag (Hāgas apgabaltiesa) lēma, ka tiesību akti, kas ir SyRI, valdības riska indikācijas sistēmas, ko izmanto pabalstu un nodokļu krāpšanas atklāšanai, pamatā, neatbilst Eiropas Cilvēktiesību konvencijas 8. panta pārbaudei. Sistēma nebija pietiekami pārredzama un pārbaudāma: neviens no ārpuses nevarēja noteikt, kā persona tika atzīmēta, kas padarīja neiespējamu aizstāvību pret to.

Princips ir vispārīgs. Sistēmu, kuras darbību nevar pārbaudīt, nevar apstrīdēt, un lēmums, ko nevar apstrīdēt, nav taisnīgs lēmums. Darba devējs, kurš vēlas balstīt novērtējumus uz modeli, ko ne darbinieks, ne darba devējs nevar izskaidrot, balstās uz to pašu pamatu, kas attiecīgajā gadījumā neizdevās. Šie jautājumi par atbildību par automatizētu rīcību sniedzas tālāk par darba tiesībām vien, kā liecina mūsu raksts par mākslīgo intelektu un krimināltiesībām.

Jūsu tiesības, ja jūs vērtē algoritms

Ja jūs novērtē ar mākslīgā intelekta sistēmas palīdzību, jums ir konkrētas un īstenojamas tiesības, un jums nav jāpierāda, ka sistēma ir kļūdaina, pirms varat tās izmantot.

Jūs varat jautāt, kādi dati par jums tiek glabāti, un saņemt to kopiju, tostarp mērījumus, kas izmantoti novērtējuma pamatā, un no tiem iegūtos rezultātus. Jūs varat lūgt jēgpilnu informāciju par sistēmas loģiku, faktoriem, kas ir svarīgi, un to svērumu. Ja lēmums ar būtisku ietekmi ir pieņemts automatizēti, jūs varat pieprasīt cilvēka iejaukšanos, paust savu viedokli un apstrīdēt lēmumu. Jūs varat panākt neprecīzu datu labošanu, kas ir svarīgāk, nekā izklausās: liela daļa no tā, ko šīs sistēmas reģistrē, ir vienkārši nepareizi, sākot no nepareizi reģistrētām prombūtnēm līdz darbam, kas attiecināts uz nepareizo personu.

Kā praksē apstrīdēt automatizētu novērtējumu

Sāciet ar sava viedokļa dokumentēšanu, pirms to izvirzāt. Pievērsiet uzmanību konkrētajam darbam, kas tiek ignorēts novērtējumā, periodiem, kuros apstākļi bija neparasti, un jebkādai prombūtnei, atvaļinājumam vai pārcelšanai amatā, kas varētu samazināt skaitļus iemeslu dēļ, kuriem nav nekāda sakara ar jūsu sniegumu. Vienlaikus veiktās piezīmes ir daudz vērtīgākas nekā rekonstrukcija sešus mēnešus vēlāk.

Pēc tam iesniedziet rakstisku pieprasījumu savam darba devējam, norādot, ka izmantojat savas tiesības saskaņā ar GDPR, pieprasot datus, kas izmantoti jūsu novērtējumā, un loģikas skaidrojumu, kā arī pieprasot cilvēka veiktu pārskatīšanu, ko veic persona, kurai ir tiesības nonākt pie cita secinājuma. Nosakiet saprātīgu termiņu; GDPR nosaka, ka darba devējam ir jāatbild viena mēneša laikā, ko sarežģītos gadījumos var pagarināt. Saglabājiet faktoloģisku toni, jo šī sarakste parasti kļūst par pierādījumu.

Ja darba devējs nereaģē atbilstoši, varat iesniegt sūdzību Autoriteit Persoonsgegevens un vērsties tiesā. Ja novērtējums tiek izmantots atlaišanas vai darba līguma noteikumu maiņas pamatošanai, nodarbinātības ceļš parasti ir efektīvāks, un tam ir īsi termiņi, tāpēc savlaicīgi konsultējieties ar ārstu. Mūsu rakstā par datu privātumu saskaņā ar GDPR mākslīgā intelekta un lielo datu laikmetā ir paskaidrots pamatā esošais regulējums.

Kas darba devējam jādara pirms sistēmas ieslēgšanas

Darba devējiem atbilstība šajā jomā galvenokārt ir secības jautājums. Gandrīz katra nopietna problēma rodas tāpēc, ka vispirms tika iegādāta un ieviesta sistēma, un juridiskie jautājumi tika uzdoti tikai pēc tam.

Sāciet ar mērķi. Pierakstiet, ko organizācija faktiski cenšas sasniegt un kādus lēmumus sistēma ietekmēs, jo viss pārējais izriet no tā: dati, kurus var pamatot, juridiskais pamats, riska novērtējums un nepieciešamais cilvēka uzraudzības līmenis. Sistēma, kas iegādāta, lai uzlabotu grafiku, un pēc tam nemanāmi izmantota, lai izveidotu atlaišanas failu, ir klasisks ceļš uz nelikumīgu apstrādes darbību.

Veikt datu aizsardzības ietekmes novērtējumu pirms ieviešanas, nevis kā vēlāk sagatavotu dokumentu, lai pamatotu jau pieņemtu lēmumu, un reģistrēt rezultātu. Noteikt un dokumentēt juridisko pamatu, paturot prātā, ka darbinieku piekrišana reti kad būs spēkā. Noteikt, vai sistēma ietilpst Mākslīgā intelekta likuma augsta riska kategorijā, un, ja tā ir, kartēt ieviestājam noteiktās saistības, tostarp pienākumu informēt darbinieku pārstāvjus un skartos darbiniekus. Iegūt darba padomes piekrišanu, ja piemērojams Darba padomju likuma 27. pants, un iesaistīt to pietiekami agri, lai tās ieguldījums varētu kaut ko mainīt.

Pēc tam izstrādājiet 22. pantā noteikto uzraudzību un pārbaudiet, vai tā ir reāla. Pajautājiet, kas pārskata rezultātus, vai šī persona var tos noraidīt, nepamatojot novirzi priekšniekam, vai viņiem ir konteksts, lai spriestu, un vai viņiem ir laiks. Ja godīgā atbilde ir tāda, ka pārskatītājs apstrādā simts lietu pēcpusdienā, organizācijā nav cilvēka uzraudzības; tai ir paraksts.

Visbeidzot, pārbaudiet rezultātus, nevis nodomus. Veiciet sistēmas rezultātu auditu pēc aizsargātajām īpašībām un darba modeļa, īpaši pievēršoties darbiniekiem, kuri strādā nepilnu slodzi, kuri ir devušies atvaļinājumā vai kuri ir slimojuši. Sniedziet darbiniekiem skaidru ceļu, lai apšaubītu novērtējumu, un reģistrējiet, kas notiek ar šīm problēmām. Saglabājiet dokumentāciju, jo atbilstības pierādīšanas pienākums gulstas uz darba devēju, un strīda gadījumā lieta ir aizstāvība.

Kur tas jūs atstāj

Algoritmiskā vadība nav aizliegta, un tā nekur nepazudīs. Likums novelk robežu starp mērīšanu un spriedumu. Sistēmas var skaitīt, salīdzināt un signalizēt; cilvēkiem ir jāpieņem lēmumi, jāpaskaidro un jāuzņemas atbildība. Darbiniekiem ir tiesības zināt, ka viņus novērtē šāda sistēma, saprast, ko tā mēra, un uz to, lai cilvēks vēlreiz pārskatītu jebkuru lēmumu, kas viņus būtiski ietekmē. Darba devēji, kas pieņem šādu darba dalīšanu, var droši izmantot šos rīkus. Tie, kas ļauj informācijas panelim izlemt, atklās, ka ne Autoriteit Persoonsgegevens, ne kantonrechter nepieņem rezultātu kā pienācīga novērtējuma aizstājēju.

Law & More konsultē darba devējus par mākslīgā intelekta ieviešanu darba snieguma vadībā, sākot no ietekmes novērtējuma un darba padomes procedūras līdz cilvēka uzraudzības izstrādei, un konsultē darbiniekus, kuri saskaras ar automatizētu novērtējumu, ko viņi uzskata par negodīgu. Ja jūsu vai jūsu darbinieku darba novērtēšanai tiek izmantots algoritms, mēs labprāt pārskatīsim šo amatu kopā ar jums.

Bieži uzdotie jautājumi par mākslīgā intelekta veiktspējas pārskatiem