Giám đốc điều hành Anthropic, Dario Amodei, đã công bố một bài luận chính sách vào ngày 10 tháng 6, kêu gọi bắt buộc kiểm thử bên thứ ba đối với các mô hình AI “frontier”, đồng thời trao quyền cho chính phủ để chặn các hệ thống không vượt qua các cuộc kiểm toán an toàn. Bài luận có tiêu đề “Policy on the AI Exponential” (Chính sách về AI hàm mũ) đến một ngày sau khi Anthropic ra mắt Claude Fable 5 và đi kèm một đề xuất lập pháp về kiểm thử mô hình cùng khung hỗ trợ chuyển dịch việc làm. Amodei cho biết chỉ tăng tính minh bạch không còn phù hợp với các rủi ro do công nghệ AI đang tiến triển nhanh chóng gây ra. Anthropic đã ủng hộ các dự luật dựa trên yêu cầu công bố trong năm 2025, bao gồm SB 53 ở California, RAISE Act ở New York và SB 315 của Illinois, nhưng hiện Amodei đề xuất một cơ chế theo mô hình của Cơ quan Hàng không Liên bang Mỹ (FAA), yêu cầu các mô hình vượt ngưỡng tính toán nhất định phải trải qua các cuộc kiểm toán bắt buộc ở bốn lĩnh vực: an ninh mạng, vũ khí sinh học, mất kiểm soát và nghiên cứu AI tự động.
Amodei Đề Xuất Bắt Buộc Kiểm Toán AI Bởi Bên Thứ Ba
Đề xuất của Amodei yêu cầu các mô hình AI “frontier” vượt ngưỡng tính toán phải chịu các cuộc kiểm toán bắt buộc bởi bên thứ ba trong bốn lĩnh vực: an ninh mạng, vũ khí sinh học, mất kiểm soát và nghiên cứu AI tự động. “Các mô hình AI ‘frontier’, giống như máy bay, phải được yêu cầu kiểm thử kỹ thuật và kiểm toán, và việc phát hành của chúng nên bị chặn hoặc đảo ngược như một mối đe dọa đối với an toàn công cộng nếu chúng không đáp ứng các tiêu chuẩn an toàn cao”, Amodei viết trong bài luận. Kế hoạch này đi xa hơn Sắc lệnh Hành pháp về AI của Nhà Trắng vào tháng 6 mà Amodei hoan nghênh như một bước tiến mang tính gia tăng. Đề xuất cũng bao gồm báo cáo sự cố về an toàn khi dùng prompt và cơ chế bảo vệ nghiêm ngặt đối với trọng số mô hình.
Claude Mythos Preview Giải Quyết 73% Thách Thức Cyber Dành Cho Chuyên Gia
Amodei xác định an ninh mạng là rủi ro đầu tiên “đã bắt đầu hiện thực hóa đầy đủ”, dẫn tới Claude Mythos Preview, hệ thống đã giải quyết 73% các thách thức cyber cấp chuyên gia mà trước đó chưa có AI nào vượt qua. Bài luận cảnh báo các mô hình “frontier” có thể làm gián đoạn lĩnh vực tài chính và hạ tầng trọng yếu. Anthropic ra mắt mô hình Claude Fable 5 vào ngày 9 tháng 6 với các biện pháp bảo vệ chặn các yêu cầu rủi ro cao về cyber và sinh học. Amodei cho biết các giới hạn tự nguyện như vậy không thể thay thế cho các quy định mang tính bắt buộc trên toàn ngành. Dữ liệu nội bộ của Anthropic cho thấy AI đang tạo ra AI tốt hơn, khi Claude viết phần lớn mã nguồn tại các phòng thí nghiệm AI lớn.
Anthropic Đề Xuất Bảo Hiểm Lương và Trợ Cấp Đào Tạo Lực Lượng Lao Động
Bài luận đề xuất bảo hiểm lương, ưu đãi thuế cho việc giữ chân lao động và các khoản trợ cấp đào tạo lực lượng lao động để xử lý tình trạng dịch chuyển kinh tế. Nếu tình trạng dịch chuyển được chứng minh là kéo dài, Amodei cho biết thu nhập cơ bản phổ quát có thể được tài trợ thông qua thuế doanh nghiệp hoặc thuế lãi vốn. Về quyền tự do dân sự, Amodei kêu gọi cấm vũ khí hoàn toàn tự động trong thực thi pháp luật nội địa và thúc giục Quốc hội đóng “lỗ hổng của nhà môi giới dữ liệu” giúp cho việc mua sắm giám sát quy mô lớn. Về mặt địa chính trị, ông kêu gọi hình thành liên minh các nền dân chủ để kiểm soát chip và thiết bị sản xuất chất bán dẫn, dẫn ví dụ các dự luật của Mỹ MATCH và OVERWATCH đang chờ phê duyệt như những bước đi đầu tiên hướng tới việc siết chặt và phối hợp kiểm soát xuất khẩu.
FAQ
Dario Amodei đã đề xuất gì vào ngày 10?
Dario Amodei đã công bố một bài luận có tiêu đề “Policy on the AI Exponential” vào ngày 10 tháng 6, đề xuất kiểm thử bắt buộc bởi bên thứ ba đối với các mô hình AI “frontier”, kèm quyền của chính phủ để chặn các hệ thống không vượt qua các cuộc kiểm toán an toàn ở bốn lĩnh vực: an ninh mạng, vũ khí sinh học, mất kiểm soát và nghiên cứu AI tự động.
Vì sao Amodei cho rằng an ninh mạng là rủi ro đầu tiên hiện thực hóa đầy đủ?
Amodei dẫn tới Claude Mythos Preview, mô hình đã giải quyết 73% các thách thức cyber cấp chuyên gia mà trước đó chưa có AI nào vượt qua, đồng thời cảnh báo các mô hình “frontier” có thể làm gián đoạn lĩnh vực tài chính và hạ tầng trọng yếu.
Bài luận đã đề xuất các biện pháp kinh tế nào?
Anthropic đề xuất bảo hiểm lương, ưu đãi thuế giữ chân và các khoản trợ cấp đào tạo lực lượng lao động để giải quyết dịch chuyển việc làm, với thu nhập cơ bản phổ quát được tài trợ bằng thuế doanh nghiệp hoặc thuế lãi vốn nếu tình trạng dịch chuyển được chứng minh là kéo dài.
