Trường Đại học Stanford (Stanford HAI) công bố vào tháng 6 đến nay nghiên cứu thực địa quy mô lớn nhất về thuật toán tuyển dụng AI, phát hiện 26% ứng viên người da đen và 15% ứng viên người châu Á nộp đơn vào những vị trí mà hệ thống lọc AI của họ thể hiện sự phân biệt đối xử theo định nghĩa “quy tắc 4/5” của Ủy ban Cơ hội Việc làm Bình đẳng Hoa Kỳ (EEOC), với nhóm được ưu tiên nhất thường là các ứng viên da trắng.
Theo dõi 3,4 triệu người tìm việc, 4 triệu đơn ứng tuyển, bao phủ 150 nhà tuyển dụng và 11 ngành
Nghiên cứu bao gồm 3,4 triệu người tìm việc, 4 triệu đơn ứng tuyển, 1.700 vị trí, 150 nhà tuyển dụng và 11 ngành, là nghiên cứu thực địa có quy mô lớn nhất trên thế giới hiện nay về thuật toán tuyển dụng AI. Nhóm đối chứng gồm 108 doanh nghiệp trong danh sách Fortune 500 và 83.000 đơn ứng tuyển; các doanh nghiệp này đều không sử dụng lọc AI, hiện tượng bị từ chối hàng loạt một cách có hệ thống gần như không tồn tại trong nhóm đối chứng.
Quy định “quy tắc 4/5” của EEOC nêu rằng nếu tỷ lệ đề xuất tuyển dụng của một nhóm dân tộc thấp hơn 80% so với nhóm có tỷ lệ đề xuất cao nhất, thì sẽ cấu thành ngưỡng pháp lý của “tác động bất lợi”. Nghiên cứu dựa trên chuẩn mực này chỉ ra rằng nếu đề xuất theo tỷ lệ công bằng đối với người da đen và người châu Á, sẽ có thêm hơn 40.000 đơn ứng tuyển được đưa vào giai đoạn xem xét thủ công.
Nghiên cứu cũng vạch ra cơ chế “che giấu bằng số liệu” của sự phân biệt đối xử: nếu trộn và tính trung bình tỷ lệ đề xuất trên tất cả các vị trí, thì sự phân biệt đối xử gần như biến mất về mặt số học — ví dụ, một hệ thống AI ưu tiên đề xuất người da đen làm công việc logistics kho bãi nhưng không đề xuất cho các vị trí tài chính; khi cộng dồn và lấy trung bình, giá trị xấp xỉ chuẩn công bằng. Chỉ khi phân tích tách riêng theo từng vị trí và theo từng nhóm dân tộc, sự phân biệt đối xử mới lộ diện.
Vấn đề tập trung của thuật toán: 90% nhà tuyển dụng Mỹ dùng lọc AI, Workday đối mặt vụ kiện tập thể
Trong 4 doanh nghiệp sử dụng cùng một nhà cung cấp AI, có 10% người tìm việc nộp đơn vào cả 4 công ty nhưng bị từ chối toàn bộ; trong khi ở nhóm đối chứng không dùng lọc AI, hiện tượng này gần như không xảy ra. Các nhà nghiên cứu quy kết cho “văn hóa đơn nhất của thuật toán”: việc cùng một bộ thuật toán có định kiến được triển khai đồng thời tại hàng trăm doanh nghiệp khiến một số nhóm ứng viên bị loại trừ có hệ thống trên toàn thị trường việc làm, và người tìm việc thường hoàn toàn không hề biết.
Các nhà nghiên cứu xác định 3 nhóm đặc tính rủi ro cao đã có sẵn của các công cụ lọc AI:
Phổ biến rộng rãi (Pervasively Adopted): khoảng 90% nhà tuyển dụng ở Mỹ đã sử dụng trong quy trình tuyển dụng
Hệ quả cao (Highly Consequential): quyết định trực tiếp liệu ứng viên có được vào giai đoạn xem xét thủ công hay không
Không minh bạch với công chúng (Opaque): người tìm việc không thể biết liệu họ có bị thuật toán loại khỏi diện hay không, và nhà tuyển dụng cũng không chắc nắm được hiệu suất thực tế của công cụ theo từng nhóm loại vị trí
Công cụ lọc AI của Workday hiện đang đối mặt vụ kiện tập thể, cáo buộc liên quan đến phân biệt đối xử về chủng tộc, độ tuổi và tình trạng khuyết tật.
Đạo luật AI của Colorado có hiệu lực vào tháng 6, tiêu chuẩn “chăm sóc hợp lý” vẫn chưa rõ ràng
Đạo luật AI của bang Colorado chính thức có hiệu lực vào tháng 6 năm 2026. Đây là một trong số ít văn bản lập pháp cấp bang ở Mỹ có quy định yêu cầu tuân thủ rõ ràng đối với công cụ tuyển dụng AI, yêu cầu nhà phát triển thực hiện các biện pháp “chăm sóc hợp lý” để ngăn ngừa phân biệt đối xử. Tuy nhiên, nội dung cụ thể của “chăm sóc hợp lý” và cơ chế thực thi vẫn cần được xây dựng.
Nhóm nghiên cứu cho biết tiền đề để các nghiên cứu như vậy hình thành là việc có được dữ liệu, trong khi dữ liệu tuyển dụng thường do nhà cung cấp và nhà tuyển dụng nắm giữ. Nhóm cũng cho biết, sinh viên sắp tốt nghiệp năm 2026 đang phải đối mặt với một môi trường việc làm khó khăn nhất trong các năm gần đây: lượng nộp đơn cho các vị trí mới vào nghề của doanh nghiệp là gấp 3 lần năm 2022, và tỷ lệ sử dụng công cụ lọc AI tăng theo cùng nhịp.
Các câu hỏi thường gặp
Quy tắc 4/5 của EEOC là gì, và nghiên cứu này xác định phân biệt đối xử như thế nào?
Quy tắc 4/5 quy định rằng nếu tỷ lệ đề xuất tuyển dụng của một nhóm thấp hơn 80% so với nhóm có tỷ lệ đề xuất cao nhất, thì đạt ngưỡng pháp lý của “tác động bất lợi”. Nghiên cứu của Stanford HAI áp dụng chuẩn mực này để phân tích dữ liệu lọc AI theo từng vị trí và theo từng nhóm dân tộc, phát hiện trong 26% vị trí mà người da đen nộp đơn và 15% vị trí mà người châu Á nộp đơn, hệ thống AI đối xử theo cách phù hợp với định nghĩa nói trên đối với nhóm dân tộc của họ.
Vì sao phân biệt đối xử trong tuyển dụng AI trước đây khó nhận diện?
Nguyên nhân cốt lõi là sự “biến mất” về mặt thống kê. Khi trộn và tính trung bình tỷ lệ đề xuất trên tất cả các vị trí, thì tỷ lệ đề xuất cao ở một loại vị trí và tỷ lệ đề xuất thấp ở một loại vị trí khác có thể triệt tiêu lẫn nhau, khiến giá trị trung bình tổng thể tiệm cận chuẩn công bằng. Nghiên cứu của Stanford HAI, thông qua phân tích chi tiết theo từng vị trí và từng nhóm dân tộc, mới khiến sự phân biệt đối xử hiện hình từ những con số.
Đạo luật AI của Colorado quy định cụ thể gì đối với công cụ tuyển dụng AI?
Đạo luật AI của Colorado đã có hiệu lực vào tháng 6 năm 2026, yêu cầu nhà phát triển công cụ tuyển dụng AI thực hiện các biện pháp “chăm sóc hợp lý” để ngăn ngừa phân biệt đối xử. Đây là một trong số ít các đạo luật tuyển dụng AI cấp bang tại Mỹ đã bắt đầu có hiệu lực. Hiện tại, tiêu chuẩn cụ thể về “chăm sóc hợp lý” trong dự luật và cơ chế thực thi tương ứng vẫn đang chờ cơ quan quản lý làm rõ thêm.
