Tôi vừa đọc được điều gì đó khiến tôi khá lo lắng về những gì đang thực sự diễn ra tại OpenAI. Hóa ra gần đây The New York Times đã đăng một cuộc điều tra trong đó các nhà báo như Ronan Farrow phỏng vấn hơn 100 người và thu thập các tài liệu nội bộ chưa từng được tiết lộ trước đây. Câu chuyện xuất phát từ đó còn tối tăm hơn nhiều so với những gì công chúng biết.

Chi tiết đáng chú ý nhất: Ilya Sutskever, nhà khoa học chính của OpenAI, đã viết một bản ghi nhớ dài 70 trang cách đây vài năm, trong đó cơ bản ghi lại một mô hình nhất quán. Kết luận ban đầu của ông là trực tiếp: Sam thể hiện hành vi nói dối có hệ thống với các giám đốc điều hành và hội đồng quản trị. Không phải là suy đoán, đó là các trường hợp cụ thể. Ví dụ, vào tháng 12 năm 2022, Sam đã đảm bảo trong cuộc họp hội đồng rằng các chức năng của GPT-4 đã vượt qua kiểm tra an toàn. Khi họ yêu cầu xem các tài liệu, họ phát hiện ra rằng hai trong số các tính năng gây tranh cãi nhất chưa từng được phê duyệt bởi ban an toàn.

Nhưng điều khiến tôi chú ý nhất là những gì họ tìm thấy trong các ghi chú riêng của Dario Amodei, người sáng lập của Anthropic từng làm việc tại OpenAI. Hơn 200 trang ghi lại cách công ty từng bước lùi lại dưới áp lực thương mại. Amodei phát hiện ra rằng Microsoft đã chèn vào một điều khoản phủ quyết, về cơ bản đã vô hiệu hóa cam kết an toàn mà họ coi là quan trọng nhất trong toàn bộ thương vụ. Từ ngày ký kết, nó trở thành giấy lộn.

Có một chi tiết khác khiến tóc gáy dựng đứng. OpenAI đã công bố công khai rằng sẽ dành 20% khả năng tính toán của mình cho một nhóm siêu liên kết, với giá trị tiềm năng vượt quá một tỷ đô la. Thông báo này cực kỳ nghiêm trọng, nói về các rủi ro tồn tại đối với nhân loại. Thực tế theo bốn người từng làm việc trong nhóm đó: công suất tính toán thực tế chỉ khoảng 1% đến 2%, và đó là phần cứng cũ nhất. Sau đó, nhóm này bị giải thể mà không hoàn thành nhiệm vụ của mình.

Điều vô lý là khi các nhà báo yêu cầu phỏng vấn nhân viên phụ trách nghiên cứu về an toàn tồn tại, phản hồi từ bộ phận truyền thông là điều đó thực sự không tồn tại trong OpenAI.

Và điều này xảy ra đúng vào thời điểm xuất hiện thông tin CFO Sarah Friar có mâu thuẫn nghiêm trọng với Sam. Friar tin rằng OpenAI chưa sẵn sàng để ra mắt cổ phiếu trong năm nay, nhưng Sam muốn thúc đẩy IPO. Điều kỳ lạ nhất là Friar đã không còn báo cáo trực tiếp cho Sam nữa mà chuyển sang một giám đốc điều hành khác đang nghỉ phép vì lý do sức khỏe. Một công ty đang chuẩn bị cho IPO với cấu trúc nội bộ như vậy.

Các giám đốc nội bộ của Microsoft đã không thể chịu đựng nổi nữa. Họ nói rằng Sam bóp méo sự thật, thất hứa và liên tục thu hồi các thỏa thuận. Có người còn so sánh ông ta với Bernie Madoff hoặc SBF.

Một cựu thành viên hội đồng mô tả như thế này: Sam có một sự kết hợp cực kỳ hiếm có của các phẩm chất. Trong mỗi cuộc gặp mặt trực tiếp, ông ấy thể hiện mong muốn rất lớn để làm hài lòng, nhưng đồng thời lại thể hiện sự thờ ơ gần như xã hội học trước hậu quả của việc lừa dối người khác. Đối với một người bán hàng, đó là món quà hoàn hảo nhất.

Điều tôi lo ngại là OpenAI không phải là một công ty công nghệ bình thường. Theo chính lời họ, họ đang phát triển có thể là công nghệ mạnh nhất trong lịch sử nhân loại. Họ có thể tái cấu trúc lại nền kinh tế toàn cầu, thị trường lao động, và theo chính tài liệu của họ, còn có thể dùng để tạo ra vũ khí sinh học hoặc tấn công mạng. Tất cả các biện pháp phòng ngừa an toàn đều bị bỏ qua. Sứ mệnh phi lợi nhuận đã nhường chỗ cho cuộc đua IPO.

Cựu nhà khoa học chính và cựu trưởng bộ phận an toàn coi CEO là người không đáng tin cậy. Liệu chúng ta có thực sự cảm thấy an toàn khi để một người quyết định đơn phương khi nào ra mắt các mô hình AI có thể thay đổi số phận nhân loại?

Phản hồi của OpenAI rất ngắn gọn: rằng bài báo nhắc lại các sự kiện đã được báo cáo trước đó bằng các tuyên bố ẩn danh và các câu chuyện chọn lọc. Sam không trả lời các cáo buộc cụ thể, cũng không phủ nhận tính xác thực của bản ghi nhớ, chỉ đặt câu hỏi về động cơ.

Mười năm của OpenAI tóm lại: một nhóm các nhà lý tưởng lo lắng về rủi ro của AI đã thành lập một tổ chức phi lợi nhuận. Họ đạt được những tiến bộ phi thường. Vốn đổ vào ào ạt. Sứ mệnh bắt đầu suy yếu. Nhóm an toàn bị giải thể. Các chỉ trích bị loại bỏ. Cơ cấu phi lợi nhuận biến thành tổ chức vì lợi nhuận. Hội đồng quản trị trước đây có thể đóng cửa công ty giờ đây đầy các đồng minh của CEO. Công ty cam kết dành 20% khả năng tính toán cho an toàn giờ đây chỉ còn truyền thông nói rằng điều đó không tồn tại.

Hơn trăm nhân chứng trực tiếp đều cùng chung nhận định: không dựa trên sự thật. Và sắp tới, họ sẽ đưa công ty này lên sàn IPO với định giá vượt quá 850 tỷ đô la.