FSB kêu gọi kiểm soát AI tác nhân trong lĩnh vực tài chính giữa làn sóng áp dụng tăng vọt

Hội đồng Ổn định Tài chính (FSB) đã công bố một báo cáo vào thứ Tư, ngày 10 tháng 6, kêu gọi siết chặt kiểm soát đối với các hệ thống AI tác nhân (agentic AI) trong lĩnh vực tài chính. FSB nêu rõ các rủi ro từ AI tự chủ có thể xảy ra với tốc độ rất nhanh, bao gồm hành động trái phép, rò rỉ dữ liệu và làm gián đoạn các hệ thống được kết nối. Hướng dẫn này đáp ứng việc áp dụng nhanh chóng các AI có khả năng lập kế hoạch, suy luận và thực thi tác vụ với mức giám sát của con người hạn chế trong nhiều lĩnh vực như phát hiện gian lận, chăm sóc khách hàng và các chức năng hậu trường.

Báo cáo lĩnh vực tài chính: 52% đang áp dụng AI tác nhân

Theo khảo sát của Cambridge Centre for Alternative Finance, 52% số người tham gia trong lĩnh vực tài chính cho biết họ đang áp dụng AI tác nhân. Trong đó, 23% đang mở rộng hoặc chuyển đổi hoạt động, trong khi 29% đang thử nghiệm các chức năng của AI tác nhân. AI tác nhân được hiểu là các hệ thống có khả năng lập kế hoạch, suy luận và thực thi tác vụ với mức giám sát của con người hạn chế.

Các cơ quan quản lý và các tổ chức đặt chuẩn toàn cầu đã gia tăng cảnh báo về rủi ro của AI kể từ khi Anthropic phát hành Mythos, mà các chuyên gia cho rằng đặt ra thách thức an ninh mạng đáng kể đối với ngành ngân hàng.

FSB xác định rủi ro về tốc độ và tính tự chủ trong các hệ thống AI

Trong báo cáo, FSB cho biết AI tự chủ tạo ra các rủi ro có thể “xảy ra với tốc độ rất nhanh”. Tổ chức đặt chuẩn cảnh báo rằng các tác nhân AI có thể theo đuổi những hành động đi chệch ý định của doanh nghiệp mà không có nhân sự nhận biết hoặc can thiệp kịp thời. Báo cáo cũng nêu: “Các tác nhân AI đặt ra một thách thức riêng biệt đối với sự giám sát của con người”.

Các rủi ro được nêu gồm khả năng thực hiện các hành động trái phép hoặc bất hợp pháp, rò rỉ dữ liệu và gây gián đoạn các hệ thống được kết nối.

Các biện pháp bảo đảm được đề xuất gồm ngưỡng phê duyệt của con người và hạn chót phản hồi

FSB đưa ra một loạt “thực hành tốt” dự kiến trong các hướng dẫn không mang tính ràng buộc, mở để lấy ý kiến cho đến ngày 22 tháng 7. Các khuyến nghị thúc giục các doanh nghiệp tài chính xác định ranh giới rõ ràng về việc sử dụng AI và tích hợp các biện pháp bảo đảm.

Các biện pháp được đề xuất bao gồm việc đặt ranh giới về những gì các tác nhân AI có thể làm và yêu cầu phê duyệt của con người đối với các hành động rủi ro cao, như các giao dịch tài chính vượt qua một số ngưỡng nhất định. FSB cũng gợi ý các doanh nghiệp cân nhắc điều chỉnh các cơ chế và quy trình nhân sự để áp dụng cho các tác nhân AI theo cách coi chúng như “nhân viên tổng hợp”.

FAQ

FSB đã công bố gì vào ngày 10 tháng 6?

Hội đồng Ổn định Tài chính (FSB) đã công bố một báo cáo vào thứ Tư, ngày 10 tháng 6, kêu gọi siết chặt kiểm soát đối với các hệ thống AI tác nhân trong lĩnh vực tài chính. Báo cáo nêu các “thực hành tốt” dự kiến, bao gồm ranh giới đối với hành động của các tác nhân AI và yêu cầu phê duyệt của con người đối với các tác vụ rủi ro cao.

AI tác nhân được áp dụng rộng rãi như thế nào trong lĩnh vực tài chính?

Theo khảo sát của Cambridge Centre for Alternative Finance, 52% số người tham gia trong lĩnh vực tài chính cho biết họ đang áp dụng AI tác nhân. Trong đó, 23% đang mở rộng hoặc chuyển đổi hoạt động, trong khi 29% đang thử nghiệm các chức năng của AI tác nhân. AI tác nhân được sử dụng cho phát hiện gian lận, chăm sóc khách hàng và các chức năng hậu trường.