GLAAD đã công bố một báo cáo vào hôm thứ Tư, cảnh báo rằng các hệ thống trí tuệ nhân tạo đang khuếch đại định kiến chống LGBTQ, thông tin sai lệch và sự phân biệt đối xử trên các lĩnh vực y tế, việc làm, nhà ở và cho vay. Báo cáo, có tiêu đề “Build for Everyone: A Framework for LGBTQ Representation and Safety in AI”, lập luận rằng AI được huấn luyện trên dữ liệu thiên lệch hoặc không đầy đủ sẽ củng cố các định kiến và tạo ra kết quả mang tính phân biệt đối xử khi công nghệ ngày càng được nhúng sâu vào đời sống hằng ngày. Chủ tịch kiêm CEO của GLAAD Sarah Kate Ellis cho biết trong báo cáo rằng “AI là một vấn đề về quyền dân sự” và kêu gọi các nhà lãnh đạo công nghệ chủ động tạo ra các sản phẩm an toàn, cảnh báo rằng “tính trung lập” không còn là lựa chọn trong phát triển AI có trách nhiệm.
Báo cáo của GLAAD nêu bật các rủi ro cốt lõi về định kiến AI đối với người dùng LGBTQ
Báo cáo xác định các mối lo ngại bao gồm dữ liệu huấn luyện thiên lệch, thông tin sai lệch chống LGBTQ, kết quả phân biệt đối xử trong các hệ thống AI dự đoán, thất bại trong kiểm duyệt nội dung và rủi ro về quyền riêng tư. GLAAD cho rằng các hệ thống AI được huấn luyện bằng thông tin không đầy đủ hoặc không chính xác về người LGBTQ có thể củng cố định kiến và dập tắt tiếng nói của cộng đồng LGBTQ. Nghiên cứu nêu rằng việc không tính đến trải nghiệm của người LGBTQ trong dữ liệu huấn luyện, thiết kế sản phẩm và quản trị có thể gây hại cho các cộng đồng bị gạt ra ngoài lề và tạo ra các sản phẩm không chính xác, chất lượng thấp hơn, từ đó có thể làm suy giảm niềm tin của người dùng.
Sức mua của cộng đồng LGBTQ đạt 4,7 nghìn tỷ USD theo nghiên cứu năm 2023
Ellis cho rằng trong báo cáo, AI có trách nhiệm là một yêu cầu kinh doanh để “đảm bảo tương lai” cho các công ty AI, đồng thời lưu ý rằng hơn 20% Gen Z là LGBTQ. Theo một nghiên cứu năm 2023 của công ty tư vấn và đầu tư LGBT Capital, sức mua toàn cầu của người LGBTQ là 4,7 nghìn tỷ USD, và con số này được dự ước sẽ đạt 33 nghìn tỷ USD vào năm 2030. Ellis viết rằng nếu người LGBTQ là một quốc gia, họ sẽ chiếm nền kinh tế lớn thứ 4 trên thế giới, đồng thời cho biết những cá nhân này là lực lượng nhân viên và người tiêu dùng trong tương lai.
Các vụ việc gần đây về định kiến AI gồm kiện tụng xAI và cuộc chiến quản lý tại Colorado
Báo cáo được đưa ra trong bối cảnh tranh luận đang diễn ra về định kiến AI. Tháng 5 vừa qua, các nhà nghiên cứu phát hiện các mô hình AI hàng đầu thường xuyên ưu tiên Công giáo khi phản hồi ít tích cực hơn đối với Nhân chứng Giê-hô-va, chủ nghĩa vô thần và chủ nghĩa bất khả tri. Đầu tháng này, một cựu kỹ sư xAI là Devin Kim đã kiện xAI và SpaceX, cáo buộc rằng anh bị sa thải sau khi cảnh báo Grok thiếu các biện pháp bảo vệ đầy đủ trước thông tin sai lệch và định kiến. xAI đang chống lại một cuộc chiến pháp lý với Colorado liên quan đến một đạo luật của bang yêu cầu các công ty đánh giá và giảm rủi ro phân biệt đối xử trong các hệ thống AI được dùng cho các quyết định liên quan đến nhà ở, việc làm và cho vay.
Các tác nhân AI tự chủ có thể tự động hóa các kết quả phân biệt đối xử
GLAAD cảnh báo rằng các mối lo ngại sẽ trở nên nghiêm trọng hơn khi các công ty thúc đẩy các tác nhân AI có khả năng thực hiện tác vụ với giám sát của con người ở mức hạn chế. Nghiên cứu cho biết các tác nhân tự chủ có thể kế thừa các định kiến sẵn có và tự động hóa các kết quả phân biệt đối xử, chẳng hạn như loại trừ các nhà cung cấp dịch vụ y tế khẳng định LGBTQ khỏi kết quả tìm kiếm hoặc đưa ra các giả định sai về danh tính của người dùng. Báo cáo cũng ghi nhận rằng mặc dù không nhắm riêng vào người LGBTQ, các thách thức mới nổi gồm ảo giác mô hình hoặc hành vi nịnh bợ, tạo ra thông tin sai lệch về các chủ đề quan trọng như sức khỏe hoặc bầu cử.
GLAAD kêu gọi dữ liệu huấn luyện tốt hơn và tăng cường giám sát quy định
Để ngăn các rủi ro tiếp tục được nhúng sâu vào các hệ thống AI, GLAAD kêu gọi các nhà phát triển cải thiện mức độ thể hiện người LGBTQ trong dữ liệu huấn luyện, tăng cường các biện pháp bảo vệ quyền riêng tư, duy trì giám sát của con người đối với các hệ thống kiểm duyệt, và làm việc chặt chẽ hơn với các nhóm vận động. Báo cáo cũng kêu gọi tăng cường trách nhiệm giải trình của ngành và giám sát theo quy định. Ellis viết rằng để xây dựng AI có đạo đức, hòa nhập và có trách nhiệm, các nhà lãnh đạo công nghệ phải chủ động tiếp nhận các thực hành có chủ đích nhằm tạo ra các sản phẩm an toàn.
Câu hỏi thường gặp (FAQ)
GLAAD đã cảnh báo điều gì về các hệ thống AI vào hôm thứ Tư?
GLAAD đã công bố một báo cáo vào hôm thứ Tư, cảnh báo rằng các hệ thống AI đang khuếch đại định kiến chống LGBTQ, thông tin sai lệch và sự phân biệt đối xử trên các lĩnh vực y tế, việc làm, nhà ở và cho vay. Báo cáo lập luận rằng AI được huấn luyện trên dữ liệu thiên lệch hoặc không đầy đủ sẽ củng cố định kiến và tạo ra kết quả mang tính phân biệt đối xử.
Sức mua toàn cầu của người LGBTQ theo nghiên cứu năm 2023 là bao nhiêu?
Theo một nghiên cứu năm 2023 của LGBT Capital, sức mua toàn cầu của người LGBTQ là 4,7 nghìn tỷ USD, và con số này được dự ước sẽ đạt 33 nghìn tỷ USD vào năm 2030. Hơn 20% Gen Z là LGBTQ, đại diện cho lực lượng nhân viên và người tiêu dùng trong tương lai.
Vụ kiện nào đã được nộp chống lại xAI vào đầu tháng này?
Đầu tháng này, cựu kỹ sư xAI Devin Kim đã kiện xAI và SpaceX, cáo buộc rằng anh bị sa thải sau khi cảnh báo Grok thiếu các biện pháp bảo vệ đầy đủ trước thông tin sai lệch và định kiến. xAI cũng đang tham gia một cuộc chiến pháp lý với Colorado liên quan đến một đạo luật của bang yêu cầu các công ty đánh giá và giảm rủi ro phân biệt đối xử trong các hệ thống AI.
