Pengurusan algoritma: bolehkah algoritma menilai prestasi anda?

Pengurusan algoritma, iaitu penggunaan sistem AI untuk memantau, memberi skor dan mengemudi pekerja, dibenarkan di Belanda tetapi hanya dalam had firma. Algoritma mungkin menyokong penilaian prestasi; ia mungkin bukan satu-satunya asas untuk keputusan yang memberi kesan yang ketara kepada anda, seperti pemecatan, penurunan pangkat atau penolakan bonus, kerana artikel 22 GDPR menyimpan keputusan tersebut untuk manusia yang benar-benar menyemaknya. Selain itu, Akta AI EU mengklasifikasikan sistem yang digunakan untuk memantau dan menilai pekerja sebagai berisiko tinggi, dan ia melarang sepenuhnya penggunaan AI untuk membuat kesimpulan emosi pekerja di tempat kerja.

Apakah sebenarnya pengurusan algoritma itu

Pengurusan algoritma ialah situasi di mana perisian, bukannya penyelia, melakukan pemerhatian, pengukuran dan selalunya penilaian. Ia muncul di gudang dan pusat pengedaran, di pusat hubungan pelanggan, dalam kerja platform dan semakin banyak dalam peranan pejabat biasa di mana perkakasan produktiviti dibina ke dalam sistem yang telah digunakan oleh orang ramai. Majikan tidak perlu membeli produk yang dipanggil pengurus AI untuk persoalan undang-undang timbul; papan pemuka yang memberi skor kepada kakitangan berdasarkan data yang dikumpul secara automatik sudah memadai.

Apa yang dilakukan dengan baik oleh sistem sedemikian ialah mengira. Ia mendaftarkan tugasan yang telah diselesaikan, masa pengendalian, masa tindak balas, pematuhan kepada skrip, jam yang direkodkan dalam aplikasi. Apa yang tidak dapat dilakukannya ialah memahami mengapa nombor itu dipindahkan. Seorang pekerja yang outputnya menurun kerana dia menghabiskan tiga minggu melatih rakan sekerja baharu, kerana dia mengendalikan satu klien yang tidak dapat diuruskan oleh orang lain, atau kerana kerja dalam tempoh itu luar biasa kompleks, kelihatan sama dalam data seperti seorang pekerja yang hanya melakukan kurang. Jurang antara pengukuran dan makna adalah punca hampir setiap pertikaian undang-undang dalam bidang ini.

Intinya bukanlah mengukur prestasi adalah menyalahi undang-undang. Majikan berhak untuk mengetahui bagaimana kerja berjalan, dan pemantauan yang munasabah adalah bahagian normal dalam menjalankan perniagaan. Intinya ialah undang-undang Belanda dan Eropah mengenakan syarat pada cara pengukuran dijalankan dan, yang paling penting, pada cara outputnya digunakan.

Bagaimana sistem ini menilai prestasi anda

Memahami mekanik adalah penting, kerana hak anda berkaitan dengan peringkat proses tertentu. Secara amnya, tiga perkara berlaku: data dikumpulkan, model mengubah data tersebut menjadi pertimbangan, dan seseorang atau sesuatu bertindak ke atasnya.

Apa yang dikumpulkan oleh sistem

Pengumpulan biasanya tidak kelihatan dan berterusan. Dalam persekitaran hubungan pelanggan, sistem mungkin mendaftarkan bilangan kenalan yang dikendalikan, purata masa pengendalian, penyelesaian kali pertama, masa melahu antara panggilan dan pematuhan kepada skrip yang ditetapkan. Ia mungkin menganalisis kandungan lebih lanjut: pemprosesan bahasa semula jadi yang digunakan pada e-mel dan transkrip panggilan, pengesanan kata kunci dan pemarkahan sentimen di bahagian pelanggan perbualan. Dalam logistik, ia akan menjadi kadar imbasan dan kelajuan pemilihan; dalam kerja pejabat, aktiviti dalam alat kerjasama.

Setiap titik data ini adalah data peribadi tentang anda, dan setiap satunya perlu dijustifikasikan. Di bawah GDPR, majikan tidak boleh mengumpul semua yang sistem mampu kumpulkan; pemprosesan mestilah perlu untuk tujuan tertentu dan berkadar dengannya. Sistem yang merakam ketukan kekunci atau mengambil tangkapan skrin berkala untuk menentukan siapa yang bekerja keras adalah sangat sukar untuk dipertahankan sebagai berkadar, dan Autoriteit Persoonsgegevens (Pihak Berkuasa Perlindungan Data Belanda) sentiasa mengkritik pemantauan menyeluruh seperti itu.

Daripada peraturan kepada model, dan kotak hitam

Sistem yang paling mudah adalah berasaskan peraturan. Jika purata masa pengendalian melebihi ambang yang ditetapkan lebih daripada bilangan kali yang ditetapkan dalam seminggu, pekerja tersebut akan ditandai. Sistem sedemikian adalah kaku dan buta terhadap konteks, tetapi ia mempunyai satu kebaikan yang ketara: anda boleh membaca peraturan dan melihat dengan tepat mengapa anda ditandai, yang membolehkan perdebatan mengenainya.

Model pembelajaran mesin berfungsi secara berbeza. Ia dilatih berdasarkan data sejarah tentang siapa yang berprestasi baik dan siapa yang tidak, dan ia menyimpulkan corak yang berkaitan dengan hasil tersebut. Ini lebih berkesan dan jauh kurang telus. Model ini mungkin menekankan sesuatu yang langsung tidak mempunyai hubungan yang boleh dipertahankan dengan prestasi, dan majikan mahupun pembekal kadangkala tidak dapat menyatakan dengan tepat mengapa skor tertentu dikeluarkan sedemikian.

Kelegapan itulah yang biasanya dipanggil masalah kotak hitam, dan dalam suasana perundangan, ia membawa maut dan bukannya sekadar menyusahkan. Majikan yang tidak dapat menjelaskan asas penilaian tidak dapat mematuhi kewajipan untuk memberikan maklumat yang bermakna tentang logik yang terlibat, tidak dapat mempertahankan penilaian dengan betul jika ia dicabar, dan tidak dapat menunjukkan bahawa ia bebas daripada kesan diskriminasi. Dalam praktiknya, jika anda tidak dapat menjelaskannya, anda tidak boleh bergantung padanya.

Apa yang diperlukan oleh GDPR daripada sistem prestasi AI

GDPR merupakan instrumen pertama dan masih paling praktikal dalam bidang ini, kerana ia terpakai kepada setiap majikan yang memproses data pekerja dan telah dikuatkuasakan selama bertahun-tahun. Empat daripada peraturannya melakukan sebahagian besar kerja.

Perkara 22: tiada keputusan penting oleh mesin sahaja

Perkara 22 GDPR memberikan setiap orang hak untuk tidak tertakluk kepada keputusan yang hanya berdasarkan pemprosesan automatik, termasuk pemprofilan, yang menghasilkan kesan undang-undang terhadap mereka atau yang serupa memberi kesan yang ketara kepada mereka. Pemecatan, tidak memperbaharui kontrak, penurunan pangkat, penahanan bonus dan penolakan kenaikan pangkat semuanya termasuk dalam perihalan itu.

Dua perkataan membawa maksud yang sama. Ia bermaksud bahawa manusia yang hanya mengesahkan apa yang dicadangkan oleh sistem tidak akan mengeluarkan keputusan daripada artikel 22; pihak berkuasa penyeliaan telah menjelaskan selama bertahun-tahun bahawa tindakan 'rubber-stamping' bukanlah penglibatan manusia. Penglibatan yang bermakna memerlukan seorang penilai yang mempunyai kuasa untuk mencapai kesimpulan yang berbeza, kecekapan untuk menilai kes tersebut, dan masa untuk melakukannya. Memberi kesan yang ketara dibaca secara meluas, dan ia tidak memerlukan akibat undang-undang formal: sistem pemarkahan yang menentukan syif atau tugasan yang ditawarkan kepada anda boleh memberi kesan yang cukup ketara kepada anda untuk melibatkan artikel tersebut.

Jika perkara 22 terpakai, majikan mesti dalam apa jua keadaan menyediakan perlindungan yang ditetapkannya: hak untuk mendapatkan campur tangan manusia, untuk menyatakan pandangan anda dan untuk mempertikaikan keputusan tersebut.

Ketelusan, akses dan logik yang terlibat

Pekerja mesti dimaklumkan, sebelum fakta berlaku, bahawa sistem itu wujud dan apa yang dilakukannya. Sekiranya pembuatan keputusan automatik dalam erti kata artikel 22 berlaku, majikan juga mesti memberikan maklumat yang bermakna tentang logik yang terlibat dan tentang kepentingan dan akibat yang dijangkakan daripada pemprosesan tersebut. Maklumat yang sama boleh diminta selepas itu melalui permintaan akses subjek, yang juga melayakkan anda mendapat salinan data peribadi yang sedang diproses tentang anda: skor, ukuran asas dan kategori yang diberikan oleh sistem kepada anda.

Apa yang dianggap bermakna telah ditetapkan ke arah substansi dan bukannya formaliti. Ia bukanlah penerangan tentang teknologi; ia adalah penjelasan tentang faktor mana yang digunakan dan bagaimana ia ditimbang, dinyatakan dalam istilah yang benar-benar boleh difahami dan diambil tindakan oleh orang yang berkenaan.

Asas undang-undang, persetujuan dan DPIA

Setiap operasi pemprosesan memerlukan asas yang sah. Dalam konteks pekerjaan, persetujuan jarang sekali boleh digunakan, kerana pergantungan antara majikan dan pekerja: persetujuan yang tidak boleh ditolak tanpa akibat tidak diberikan secara bebas. Oleh itu, majikan secara amnya bergantung pada keperluan pemprosesan untuk pelaksanaan kontrak pekerjaan, pada kewajipan undang-undang, atau pada kepentingan yang sah, dan yang terakhir memerlukan pengimbangan yang didokumenkan antara kepentingan yang dikejar dengan privasi tenaga kerja.

Oleh kerana pemantauan prestasi pada skala ini melibatkan penilaian sistematik dan meluas terhadap orang ramai berdasarkan pemprosesan automatik, penilaian impak perlindungan data bukanlah pilihan. Ia diperlukan sebelum sistem beroperasi, dan ia mesti menerangkan pemprosesan, mewajarkan keperluan dan perkadarannya, mengenal pasti risiko kepada pekerja dan menetapkan langkah-langkah yang menanganinya. Majikan yang melangkau penilaian biasanya menemui masalah kemudian, dalam pertikaian, apabila pilihan tidak lagi boleh diperbetulkan secara senyap.

Sejauh manakah majikan boleh memantau?

Pemarkahan prestasi tidak boleh dipisahkan daripada pemantauan yang menyaranya, dan pemantauan mempunyai hadnya sendiri. Seorang pekerja tidak menyerahkan kehidupan peribadi di pintu pejabat: Mahkamah Hak Asasi Manusia Eropah memutuskan dalam kes Barbulescu lwn Romania bahawa pemantauan komunikasi pekerja melibatkan hak untuk menghormati kehidupan peribadi dan surat-menyurat di bawah artikel 8 Konvensyen, dan majikan mesti memaklumkan pekerja terlebih dahulu tentang sifat dan tahap pemantauan, mesti mencapai matlamat yang sah, dan mesti memilih cara yang paling kurang mengganggu yang mampu mencapainya. Pemantauan rahsia terhadap tenaga kerja adalah luar biasa dan memerlukan syak wasangka yang konkrit, tempoh yang terhad dan penilaian yang didokumenkan yang tidak akan dilakukan oleh langkah yang lebih ringan.

Diterjemahkan ke dalam projek pengurusan algoritma, ini bermakna majikan perlu berupaya menjawab tiga soalan tentang setiap aliran data: mengapa data ini diperlukan untuk tujuan yang dinyatakan, mengapa pengukuran yang kurang mengganggu tidak akan mencapainya, dan sama ada pekerja telah diberitahu terlebih dahulu. Rakaman skrin berterusan, pengelogan kekunci dan penjejakan lokasi di luar waktu bekerja gagal menjawab soalan-soalan tersebut dalam kebanyakan tetapan pekerjaan biasa.

Data ketidakhadiran, penyakit dan kategori khas

Satu kategori perlu diberi perhatian khusus. Data yang mendedahkan kesihatan adalah data kategori khas di bawah GDPR dan pada prinsipnya tidak boleh diproses sama sekali, tertakluk kepada pengecualian yang sempit. Peraturan Belanda mengenai ketidakhadiran sakit adalah ketat: majikan boleh mendaftarkan bahawa pekerja tidak hadir dan berapa lama, tetapi sifat penyakit, diagnosis dan batasannya adalah milik bedrijfsarts (doktor syarikat), bukan majikan. Sistem prestasi yang menyimpulkan keadaan kesihatan daripada corak ketidakhadiran, kelajuan menaip, jeda atau nada suara memproses data kesihatan melalui inferens, dan hakikat bahawa tiada siapa yang menaip diagnosis ke dalamnya tidak memberi perbezaan.

Amaran yang sama terpakai kepada sistem yang skornya terjejas oleh ketidakhadiran yang dilindungi seperti kehamilan, cuti ibu bapa atau cuti penjagaan. Jika model tersebut menganggap tempoh tersebut sebagai prestasi yang kurang baik, majikan bukan sahaja memproses data sensitif tetapi juga menukar hak berkanun menjadi satu kelemahan.

Peringkat penguatkuasaan atasan

Pelanggaran prinsip teras, kesahan pemprosesan dan hak subjek data termasuk dalam peringkat denda atas artikel 83 GDPR, kategori paling berat yang diperuntukkan oleh peraturan tersebut. Sama pentingnya untuk amalan harian, penilaian yang dihasilkan melanggar peraturan ini sukar untuk diandalkan dalam pertikaian pekerjaan: mahkamah yang diminta untuk menamatkan kontrak pekerjaan berdasarkan prestasi yang rendah ingin melihat bagaimana prestasi yang rendah itu diwujudkan.

Apa yang ditambah oleh Akta AI untuk majikan dan pekerja

Akta AI EU berkuat kuasa dan terpakai secara berperingkat, jadi persoalannya bukan lagi sama ada ia akan datang tetapi yang mana satu antara kewajipannya sudah memihak. Dua lapisannya penting di sini.

Yang pertama ialah senarai amalan yang dilarang, yang telah diguna pakai sejak fasa terawal Akta tersebut. Ia merangkumi peraturan yang ditujukan terus kepada tempat kerja: Sistem AI yang digunakan untuk membuat kesimpulan emosi seseorang individu di kawasan tempat kerja dan institusi pendidikan adalah dilarang, melainkan sistem tersebut bertujuan untuk dilaksanakan atau dipasarkan atas sebab perubatan atau keselamatan. Perisian yang menilai mood, tahap tekanan, penglibatan atau keikhlasan pekerja daripada suara, wajah atau tulisan mereka bukanlah masalah pematuhan yang perlu diuruskan. Ia tidak boleh dipertimbangkan, dan pengecualian perubatan dan keselamatan yang sempit tidak meliputi pengurusan produktiviti. Perhatikan sempadannya dengan teliti: analisis sentimen tentang apa yang dikatakan oleh pelanggan adalah soalan yang berbeza daripada membuat kesimpulan emosi pekerja.

Lapisan kedua ialah rejim berisiko tinggi. Lampiran III Akta AI menetapkan sistem AI berisiko tinggi, antara lain, yang bertujuan untuk digunakan bagi membuat keputusan yang mempengaruhi terma hubungan berkaitan kerja, promosi atau penamatan hubungan tersebut, peruntukan tugas berdasarkan tingkah laku individu atau sifat peribadi, dan pemantauan dan penilaian prestasi serta tingkah laku pekerja. Alat penilaian prestasi AI adalah tepat dalam perihalan tersebut. Di bawah pakej omnibus digital, tarikh permohonan kewajipan berisiko tinggi untuk sistem Lampiran III telah ditangguhkan, jadi majikan mempunyai lebih banyak masa untuk membuat persediaan; larangan, peraturan untuk model AI tujuan umum dan tugas ketelusan artikel 50 sudah terpakai.

Satu kewajipan perlu disebut secara berasingan kerana majikan kerap mengabaikannya. Pelaksana yang merupakan majikan mesti memaklumkan wakil pekerja dan pekerja yang terjejas sebelum menggunakan sistem AI berisiko tinggi di tempat kerja, selaras dengan peraturan maklumat dan perundingan yang terpakai. Ini adalah kewajipan maklumat yang selaras dengan, dan tidak menggantikan, kewajipan ketelusan GDPR dan hak majlis kerja di bawah undang-undang Belanda. Untuk maklumat lanjut tentang Akta dan jadual waktunya, lihat artikel kami mengenai aspek perundangan kecerdasan buatan dan Akta AI EU.

Siapakah yang bertanggungjawab: pembekal atau majikan?

Majikan sering menganggap bahawa kerana perisian itu dibeli daripada pembekal pakar, pembekal menanggung risiko undang-undang. Itu bukanlah cara mana-mana rangka kerja memperuntukkan tanggungjawab.

Di bawah GDPR, majikan menentukan mengapa dan bagaimana data pekerja diproses dan oleh itu merupakan pengawal. Pembekal yang menjalankan sistem atas arahan majikan ialah pemproses, dan hubungan tersebut perlu ditetapkan dalam perjanjian pemprosesan, tetapi majikanlah yang bertanggungjawab atas ketelusan, kesahan dan pengawasan manusia kepada kakitangannya sendiri, dan majikanlah yang bertanggungjawab kepada Autoriteit Persoonsgegevens dan kepada pekerja itu sendiri.

Akta AI melukis garisan yang setanding antara penyedia, yang membangunkan sistem AI dan meletakkannya di pasaran, dan pengerahkan, yang menggunakannya di bawah kuasanya sendiri. Majikan yang menggunakan alat yang dibeli biasanya merupakan pengerahkan dan memikul kewajipan pengerahkan, termasuk menggunakan sistem mengikut arahan, memastikan tahap pengawasan manusia yang sesuai oleh orang yang mempunyai kecekapan dan kuasa yang diperlukan, memantau operasinya, dan memaklumkan pekerja. Majikan yang meletakkan namanya sendiri pada sistem, atau mengubahnya dengan ketara atau mengubah tujuan yang dimaksudkan, boleh menjadi penyedia dan memikul kewajipan yang jauh lebih berat yang berkaitan dengan peranan itu.

Akibat praktikal untuk perolehan ialah kontrak perlu dibaca dengan mengambil kira peranan ini. Majikan memerlukan pembekal untuk menyampaikan maklumat yang membolehkan pematuhan, dan ia harus ragu-ragu terhadap mana-mana produk yang tidak dapat menjelaskan outputnya sendiri, kerana kewajipan untuk menjelaskan akan jatuh ke atas majikan tanpa mengira apa yang dinyatakan dalam lesen.

Kerja platform: lapisan peraturan tambahan

Bagi mereka yang bekerja melalui platform buruh digital, satu lagi instrumen sedang dalam proses pengeluaran. Arahan (EU) 2024/2831 mengenai penambahbaikan keadaan kerja dalam kerja platform memperuntukkan satu bab penuh kepada pengurusan algoritma. Ia mewajibkan platform untuk memaklumkan pekerja tentang sistem pemantauan dan pembuatan keputusan automatik yang memberi kesan ketara kepada keadaan kerja mereka, menyekat pemprosesan kategori data tertentu, termasuk data tentang keadaan emosi dan psikologi serta data tentang perbualan peribadi, memerlukan pengawasan manusia terhadap kesan sistem ini, dan memberi pekerja hak untuk mendapatkan penjelasan dan semakan manusia terhadap keputusan penting seperti sekatan atau penggantungan akaun. Terutamanya, beberapa perlindungan tersebut terpakai kepada mereka yang menjalankan kerja platform sama ada mereka layak sebagai pekerja atau tidak.

Negara anggota mesti mengubah arahan tersebut menjelang 2 Disember 2026. Sehingga undang-undang pelaksana kebangsaan berkuat kuasa, GDPR dan Akta AI kekal sebagai peraturan operasi, dan keperluannya sudah merangkumi sebahagian besar perkara yang sama.

Undang-undang pekerjaan Belanda: algoritma tidak boleh menamatkan kontrak anda

Peraturan perlindungan data dan AI Eropah mengawal cara sistem berfungsi. Undang-undang pekerjaan Belanda mengawal apa yang boleh dilakukan oleh majikan dengan outputnya, dan ia jauh lebih ketat daripada yang diandaikan oleh kebanyakan projek pengurusan algoritma.

Majikan di Belanda tidak boleh menamatkan kontrak pekerjaan sewenang-wenangnya. Pemecatan memerlukan alasan yang munasabah yang disenaraikan dalam artikel 7:669 Kanun Sivil Belanda, dan ia memerlukan kebenaran terlebih dahulu daripada UWV atau keputusan kantonrechter (mahkamah daerah kecil), bergantung pada alasannya. Prestasi yang rendah adalah salah satu alasan tersebut, dan ia adalah alasan yang mendesak. Majikan mesti menunjukkan bahawa pekerja tidak sesuai untuk peranan tersebut, bahawa pekerja telah dimaklumkan tentang perkara ini tepat pada masanya, dan bahawa peluang tulen untuk menambah baik telah ditawarkan, dengan sokongan jika sesuai. Bacaan papan pemuka bukanlah proses penambahbaikan, dan mahkamah akan bertanya apa yang telah dibincangkan, bila, dan bantuan apa yang diberikan. Panduan kami untuk undang-undang pekerjaan Belanda menetapkan rangka kerja pemecatan dengan lebih terperinci.

Undang-undang diskriminasi terpakai kepada hasilnya, bukan kepada niatnya. Jika sesebuah sistem merugikan pekerja atas sebab-sebab seperti jantina, bangsa, umur, agama, kecacatan atau penyakit kronik, ia adalah menyalahi undang-undang di bawah Algemene wet gelijke behandeling (Akta Layanan Saksama Am) dan statut layanan saksama khusus mengenai umur dan kecacatan, tanpa mengira sama ada sesiapa yang berhasrat untuk mendapatkan hasil tersebut. Data latihan sejarah adalah punca biasa: model yang dilatih tentang siapa yang dinaikkan pangkat pada masa lalu akan menghasilkan semula pilihan masa lalu. Sistem yang mengukur ketersediaan mentah atau output dari semasa ke semasa juga cenderung untuk menghukum pekerja yang mengambil cuti ibu bapa, bekerja kurang waktu atau tidak hadir kerana sakit, dan menghukum pekerja kerana melaksanakan hak berkanun adalah apa yang dilarang oleh undang-undang layanan sama rata.

Majlis kerja raya perlu bersetuju

Dalam syarikat yang mempunyai majlis kerja, majikan memerlukan lebih daripada sekadar niat yang baik. Perkara 27 Wet op de ondernemingsraden (Akta Majlis Kerja) memerlukan persetujuan ondernemingsraad (majlis kerja) untuk penerimaan, pindaan atau penarikan balik aturan termasuk aturan mengenai penilaian kakitangan, pemprosesan dan perlindungan data peribadi pekerja, dan kemudahan yang bertujuan atau sesuai untuk memerhati atau memantau kehadiran, tingkah laku atau prestasi kakitangan. Sistem prestasi AI melibatkan ketiga-tiganya sekaligus.

Persetujuan di sini bukanlah satu formaliti. Keputusan yang diambil tanpa persetujuan yang diperlukan boleh diisytiharkan sebagai terbatal oleh majlis kerja, dan majikan kemudiannya boleh dihalang daripada menggunakannya. Bagi pekerja yang merasakan bahawa satu sistem telah dikenakan ke atas mereka, majlis kerja selalunya merupakan laluan terpantas dan paling berkesan untuk berubah, jauh sebelum sesiapa pun memikirkan tentang litigasi.

Apa yang telah diputuskan oleh mahkamah setakat ini

Kes perundangan masih dalam perkembangan, tetapi dua penghakiman Belanda telah menetapkan hala tuju perjalanan dan kedua-duanya disebut jauh di luar Belanda.

Penghakiman Uber dan Ola

Pada 4 April 2023 Gerechtshof Amsterdam (Amsterdam Mahkamah Rayuan) telah memutuskan dalam beberapa siri kes yang dibawa oleh pemandu terhadap Uber dan Ola. Para pemandu ingin tahu mengapa akaun mereka telah dinyahaktifkan dan bagaimana kerja serta harga diperuntukkan kepada mereka. Mahkamah mendapati sebahagian besarnya memihak kepada mereka berdasarkan maklumat yang diberikan. Pemandu yang kehilangan akses kepada platform tersebut, dan bersamanya pendapatan mereka, terjejas dengan ketara oleh proses membuat keputusan automatik, dan syarikat-syarikat tersebut tidak dapat menahan penjelasan dengan menunjukkan rahsia perdagangan atau risiko manipulasi tanpa membuktikan bantahan tersebut.

Apa yang dikehendaki oleh mahkamah adalah konkrit: bukan penerangan umum tentang teknologi, tetapi maklumat tentang faktor yang digunakan dan pemberat yang diberikan kepadanya, supaya orang yang berkenaan dapat memahami dan mempertikaikan hasilnya. Itulah standard yang harus dianggap oleh majikan juga terpakai pada algoritma prestasi. Jika jawapan anda kepada mengapa saya mendapat markah buruk adalah bahawa model yang menentukannya, anda tidak memenuhi standard tersebut.

Penghakiman SyRI

Kes kedua bukanlah pertikaian pekerjaan, tetapi penaakulannya menjangkau ke tempat kerja. Dalam penghakimannya pada 5 Februari 2020 (ECLI:NL:RBDHA:2020:865), Rechtbank Den Haag (Mahkamah Daerah The Hague) memutuskan bahawa undang-undang yang mendasari SyRI, sistem petunjuk risiko kerajaan yang digunakan untuk mengesan penipuan faedah dan cukai, gagal dalam ujian artikel 8 Konvensyen Eropah mengenai Hak Asasi Manusia. Sistem ini tidak cukup telus dan tidak dapat disahkan: tiada siapa di luar yang dapat menentukan bagaimana seseorang boleh ditandai, yang menjadikannya mustahil untuk dipertahankan.

Prinsipnya adalah umum. Sistem yang cara kerjanya tidak dapat diperiksa tidak dapat dicabar, dan keputusan yang tidak dapat dicabar bukanlah keputusan yang adil. Majikan yang ingin mendasarkan penilaian pada model yang tidak dapat dijelaskan oleh pekerja mahupun majikan sedang membina landasan yang sama yang gagal dalam kes itu. Persoalan tanggungjawab untuk kelakuan automatik ini melangkaui undang-undang pekerjaan sahaja, seperti yang ditunjukkan oleh artikel kami tentang AI dan undang-undang jenayah.

Hak anda jika algoritma memberi anda skor

Jika anda dinilai dengan bantuan sistem AI, anda mempunyai hak yang konkrit dan boleh dikuatkuasakan, dan anda tidak perlu membuktikan bahawa sistem tersebut salah sebelum anda boleh menggunakannya.

Anda boleh bertanya data apa yang disimpan tentang anda dan mendapatkan salinannya, termasuk ukuran yang memberi makan penilaian dan skor yang diperoleh daripadanya. Anda boleh meminta maklumat yang bermakna tentang logik sistem, faktor yang dikira dan pemberatnya. Jika keputusan dengan kesan yang ketara telah diambil melalui cara automatik, anda boleh memerlukan campur tangan manusia, mengemukakan pandangan anda sendiri, dan mempertikaikan keputusan tersebut. Anda boleh membetulkan data yang tidak tepat, yang lebih penting daripada yang disangka: sebahagian besar daripada apa yang direkodkan oleh sistem ini adalah salah, daripada ketidakhadiran yang salah kepada kerja yang dikaitkan dengan orang yang salah.

Cara mencabar penilaian automatik dalam amalan

Mulakan dengan mendokumentasikan kedudukan anda sendiri sebelum anda membangkitkannya. Perhatikan kerja khusus yang diabaikan oleh penilaian, tempoh di mana keadaan luar biasa, dan sebarang ketidakhadiran, cuti atau penugasan semula yang akan menurunkan angka atas sebab-sebab yang tidak ada kaitan dengan prestasi anda. Nota semasa jauh lebih bernilai daripada pembinaan semula enam bulan kemudian.

Kemudian, ajukan permintaan tersebut secara bertulis kepada majikan anda, dengan menyatakan bahawa anda sedang melaksanakan hak anda di bawah GDPR, meminta data yang digunakan dalam penilaian anda dan penjelasan logiknya, dan meminta semakan manusia oleh seseorang yang mempunyai kuasa untuk mencapai kesimpulan yang berbeza. Tetapkan tarikh akhir yang munasabah; GDPR menghendaki majikan memberi maklum balas dalam tempoh satu bulan, yang boleh dilanjutkan dalam kes yang rumit. Pastikan nadanya faktual, kerana surat-menyurat ini cenderung berakhir sebagai bukti.

Jika majikan tidak memberi respons yang secukupnya, anda boleh membuat aduan kepada Autoriteit Persoonsgegevens, dan anda boleh membawa pertikaian tersebut ke mahkamah. Jika penilaian digunakan untuk menyokong pemecatan atau perubahan dalam terma anda, laluan pekerjaan biasanya lebih berkesan dan ia mempunyai tarikh akhir yang singkat, jadi dapatkan nasihat awal. Artikel kami tentang privasi data di bawah GDPR pada zaman AI dan data raya menerangkan rangka kerja yang mendasarinya.

Apa yang perlu dilakukan oleh majikan sebelum menghidupkan sistem

Bagi majikan, pematuhan dalam bidang ini kebanyakannya bergantung kepada urutan. Hampir setiap masalah serius timbul kerana sistem diperoleh dan digunakan terlebih dahulu, dan soalan perundangan ditanya selepas itu.

Mulakan dengan tujuan. Tuliskan apa yang sebenarnya cuba dicapai oleh organisasi dan keputusan yang akan dipengaruhi oleh sistem, kerana semua perkara lain akan menyusul daripadanya: data yang boleh dijustifikasikan, asas perundangan, penilaian risiko dan tahap pengawasan manusia yang diperlukan. Sistem yang dibeli untuk menambah baik penjadualan dan kemudian digunakan secara senyap untuk membina fail pemecatan adalah laluan klasik kepada operasi pemprosesan yang menyalahi undang-undang.

Jalankan penilaian impak perlindungan data sebelum penggunaan, bukan sebagai dokumen yang dikeluarkan kemudian untuk mewajarkan keputusan yang telah diambil, dan rekodkan hasilnya. Tetapkan dan dokumentasikan asas yang sah, dengan mengambil kira bahawa persetujuan pekerja jarang sekali sah. Tentukan sama ada sistem tersebut termasuk dalam kategori berisiko tinggi Akta AI dan, jika ya, petakan kewajipan yang dikenakan kepada pengerahkan, termasuk kewajipan untuk memaklumkan wakil pekerja dan pekerja yang terjejas. Dapatkan persetujuan majlis kerja di mana artikel 27 Akta Majlis Kerja terpakai, dan libatkannya cukup awal untuk inputnya mengubah sesuatu.

Kemudian reka bentuk pengawasan yang dikehendaki oleh artikel 22, dan uji sama ada ia benar. Tanya siapa yang menyemak output, sama ada orang itu boleh menolaknya tanpa perlu mewajarkan penyimpangan itu kepada pihak atasan, sama ada mereka mempunyai konteks untuk menilai, dan sama ada mereka mempunyai masa. Jika jawapan yang jujur ​​ialah penilai memproses seratus kes setiap petang, organisasi itu tidak mempunyai pengawasan manusia; ia mempunyai tandatangan.

Akhir sekali, uji hasil dan bukannya niat. Audit hasil sistem mengikut ciri yang dilindungi dan corak kerja, dan lihat secara khusus pekerja yang bekerja sambilan, yang telah mengambil cuti atau yang sakit. Berikan pekerja laluan yang jelas untuk mempersoalkan penilaian dan rekodkan apa yang berlaku kepada cabaran tersebut. Simpan dokumentasi, kerana beban menunjukkan pematuhan terletak pada majikan, dan dalam pertikaian, fail tersebut adalah pembelaan.

Di mana ini meninggalkan anda

Pengurusan algoritma tidak dilarang, dan ia tidak akan dihapuskan. Apa yang dilakukan oleh undang-undang adalah melukis garis antara pengukuran dan pertimbangan. Sistem boleh mengira, membandingkan dan memberi isyarat; orang ramai mesti membuat keputusan, menjelaskan dan bertanggungjawab. Pekerja berhak untuk mengetahui bahawa mereka sedang dinilai oleh sistem sedemikian, untuk memahami apa yang diukurnya, dan untuk meminta manusia melihat semula sebarang keputusan yang memberi kesan material kepada mereka. Majikan yang menerima pembahagian kerja itu boleh menggunakan alat ini dengan yakin. Mereka yang membiarkan papan pemuka membuat keputusan akan mendapati bahawa Autoriteit Persoonsgegevens mahupun kantonrechter tidak menerima output sebagai pengganti penilaian yang betul.

Law & More Menasihati majikan tentang penggunaan AI dalam pengurusan prestasi, daripada penilaian impak dan prosedur majlis kerja hinggalah kepada reka bentuk pengawasan manusia, dan menasihati pekerja yang berhadapan dengan penilaian automatik yang mereka anggap tidak adil. Jika algoritma digunakan untuk menilai kerja anda atau kerja kakitangan anda, kami dengan senang hati akan menyemak jawatan tersebut bersama anda.

Soalan lazim tentang ulasan prestasi AI

Cara Law & More boleh membantu anda dengan ini dijelaskan di laman web kami peguam pekerjaan .