Altman công bố năm nguyên tắc của OpenAI, dự báo tương lai có thể hạn chế khả năng của mô hình để đảm bảo an toàn

Theo giám sát Beating, Giám đốc điều hành OpenAI Sam Altman đã công bố năm nguyên tắc vận hành của công ty dưới dạng chữ ký cá nhân, lần lượt là dân chủ hóa, trao quyền, thịnh vượng phổ quát, bền bỉ và thích nghi. Altman trong phần «Thích nghi» đã dự báo rằng trong tương lai, trong một số giai đoạn nhất định, OpenAI có thể sẽ thắt chặt khả năng truy cập mô hình của người dùng vì lý do an toàn, câu nói nguyên văn là có thể tưởng tượng ra «cần hy sinh một phần quyền lực để đổi lấy sự bền bỉ mạnh mẽ hơn».

«Dân chủ hóa» yêu cầu các quyết định quan trọng về AI được đưa ra thông qua quy trình dân chủ, không chỉ do các phòng thí nghiệm AI quyết định. «Trao quyền» nhấn mạnh việc cung cấp cho người dùng quyền sử dụng tối đa có thể, nhưng trong trường hợp không chắc chắn thì ưu tiên thận trọng. «Thịnh vượng phổ quát» bảo vệ việc OpenAI gần đây mua sắm quy mô lớn năng lực tính toán, xây dựng trung tâm dữ liệu toàn cầu, Altman nói mục tiêu là giảm chi phí AI xuống mức ai cũng có thể dùng được, chính phủ có thể cần khám phá các mô hình kinh tế mới để đảm bảo chia sẻ giá trị. «Bền bỉ» đề cập đến một kịch bản rủi ro cụ thể: các mô hình cực kỳ mạnh mẽ có thể làm giảm ngưỡng tạo ra các loại mầm bệnh mới, cần toàn xã hội cùng ứng phó.

Altman đã nhìn lại sự do dự của mình khi quyết định mở khóa trọng số GPT-2 vào năm đó, nói rằng sau này xem ra là quá lo lắng, nhưng đã thúc đẩy OpenAI duy trì chiến lược triển khai lặp lại cho đến nay.