Universitas Stanford, dalam penelitian lapangan algoritma perekrutan berbasis AI terbesar sejauh ini yang berfokus pada manusia melalui Stanford HAI (Stanford HAI), melaporkan pada bulan Juni hingga kini, menemukan bahwa sistem penyaringan AI pada posisi yang dilamar menunjukkan diskriminasi yang sesuai dengan definisi “aturan empat perlima” (four-fifths rule) Komisi Kesempatan Kerja Setara AS (EEOC) terhadap kelompok ras yang bersangkutan pada 26% pelamar kulit hitam dan 15% pelamar keturunan Asia; kelompok yang paling disukai biasanya adalah pelamar kulit putih.
Penelitian melacak 3,4 juta pelamar, 4 juta lamaran, mencakup 150 perusahaan di 11 industri
Penelitian mencakup 3,4 juta pelamar, 4 juta lamaran, 1.700 posisi, 150 perusahaan, dan 11 industri, menjadikannya studi lapangan algoritma perekrutan berbasis AI terbesar di dunia saat ini. Kelompok pembanding terdiri dari 108 perusahaan Fortune 500 dengan 83.000 lamaran; perusahaan-perusahaan ini tidak menggunakan penyaringan AI, dan fenomena penolakan menyeluruh secara sistematis hampir tidak ada pada kelompok pembanding.
Aturan empat perlima EEOC menyatakan bahwa jika tingkat rekomendasi perekrutan suatu kelompok lebih rendah dari 80% tingkat rekomendasi kelompok dengan tingkat tertinggi, itu memenuhi ambang batas hukum “dampak merugikan”. Penelitian berdasarkan standar ini menunjukkan bahwa jika merekomendasikan pelamar kulit hitam dan keturunan Asia dengan rasio yang adil, sekitar 40.000 lamaran tambahan dapat lolos ke tahap peninjauan oleh manusia.
Penelitian juga mengungkap “mekanisme penyamaran angka” dari diskriminasi: jika semua tingkat rekomendasi untuk berbagai posisi dihitung rata-rata secara campuran, diskriminasi secara angka hampir menghilang—misalnya, suatu sistem AI cenderung merekomendasikan pelamar kulit hitam untuk pekerjaan logistik pergudangan tetapi tidak merekomendasikan untuk posisi di bidang keuangan; setelah dijumlah dan dirata-ratakan, nilainya mendekati standar yang adil. Diskriminasi baru terlihat ketika dianalisis per posisi dan per kelompok secara terpisah.
Masalah yang terpusat pada algoritma: 90% pemberi kerja AS memakai penyaringan AI, Workday menghadapi gugatan kelompok
Di antara 4 perusahaan yang memakai pemasok AI yang sama, 10% pelamar mengajukan lamaran ke keempat perusahaan tersebut tetapi semuanya ditolak; sedangkan pada kelompok pembanding yang tidak memakai penyaringan AI, fenomena ini hampir tidak ada. Peneliti mengaitkannya dengan “budaya algoritma yang tunggal”: bias dari algoritma yang sama dideploy bersamaan di ratusan perusahaan, sehingga pelamar dari kelompok tertentu secara sistematis dikecualikan di seluruh pasar kerja, dan pelamar umumnya tidak menyadarinya.
Peneliti mengidentifikasi tiga karakteristik berisiko tinggi yang sudah ada pada alat penyaringan AI berikut:
Diadopsi secara luas (Pervasively Adopted): sekitar 90% pemberi kerja di AS telah memakai dalam proses perekrutan
Konsekuensi yang sangat besar (Highly Consequential): secara langsung menentukan apakah pelamar dapat masuk ke tahap peninjauan oleh manusia
Tidak transparan bagi publik (Opaque): pelamar tidak dapat mengetahui apakah mereka disaring oleh algoritma, dan pemberi kerja juga belum tentu memahami performa aktual alat tersebut di berbagai kategori posisi
Alat penyaringan AI milik Workday saat ini menghadapi gugatan kelompok, dengan tuduhan meliputi diskriminasi ras, usia, dan disabilitas.
Colorado AI Act mulai berlaku pada bulan Juni, standar “perawatan yang wajar” belum jelas
Colorado AI Act mulai berlaku secara resmi pada Juni 2026, menjadi salah satu dari sedikit legislasi tingkat negara bagian AS yang secara tegas memiliki persyaratan kepatuhan untuk alat perekrutan berbasis AI. Aturan ini mengharuskan pengembang mengambil langkah “perawatan yang wajar” untuk mencegah diskriminasi. Namun, rincian “perawatan yang wajar” dan mekanisme pelaksanaannya masih perlu dibentuk.
Tim peneliti menyatakan bahwa prasyarat untuk penelitian semacam ini adalah akses terhadap data, sementara data perekrutan sering dikuasai oleh pemasok dan pemberi kerja. Penelitian juga menyoroti bahwa lulusan tahun 2026 menghadapi lingkungan kerja paling sulit dalam beberapa tahun terakhir: jumlah lamaran untuk lowongan entry-level perusahaan adalah 3 kali lipat dibanding 2022, dan proporsi penggunaan alat penyaringan AI meningkat seiring.
Pertanyaan yang sering diajukan
Apa itu aturan empat perlima EEOC, dan bagaimana penelitian ini menetapkan diskriminasi berdasarkan itu?
Aturan empat perlima menyatakan bahwa jika tingkat rekomendasi perekrutan suatu kelompok lebih rendah dari 80% tingkat rekomendasi kelompok dengan tingkat tertinggi, itu mencapai ambang batas hukum “dampak merugikan”. Penelitian Stanford HAI menggunakan standar ini untuk membedah data penyaringan AI per posisi dan per kelompok, menemukan bahwa pada posisi yang dilamar oleh 26% pelamar kulit hitam dan 15% pelamar keturunan Asia, sistem AI menunjukkan diskriminasi yang sesuai dengan definisi di atas terhadap kelompok ras yang dimiliki.
Mengapa diskriminasi rekrutmen berbasis AI sebelumnya sulit diidentifikasi?
“Lenyapnya” diskriminasi secara statistik adalah penyebab utama. Ketika tingkat rekomendasi untuk semua posisi dihitung dengan rata-rata campuran, tingkat rekomendasi yang terlalu tinggi pada jenis posisi tertentu oleh AI dan tingkat rekomendasi yang terlalu rendah pada jenis posisi lain saling meniadakan, sehingga nilai rata-rata keseluruhan mendekati standar yang adil. Penelitian Stanford HAI membuat diskriminasi muncul dari angka melalui analisis terperinci per posisi dan per kelompok.
Apa ketentuan spesifik Colorado AI Act untuk alat perekrutan AI?
Colorado AI Act telah mulai berlaku pada Juni 2026, mewajibkan pengembang alat perekrutan AI mengambil langkah “perawatan yang wajar” untuk mencegah diskriminasi; ini adalah salah satu yang sedikit dari legislasi perekrutan berbasis AI tingkat negara bagian di AS yang sudah mulai berlaku. Standar spesifik “perawatan yang wajar” dalam undang-undang dan mekanisme pelaksanaan terkait saat ini masih menunggu penetapan lebih lanjut oleh otoritas pengawas.
