Gần đây, tin tức về việc trưởng nhóm đội robot của OpenAI, Catlin Kalinowski, từ chức đã gây chấn động thị trường. Ông đã bày tỏ những lo ngại đạo đức nghiêm trọng về thỏa thuận hợp tác AI với Bộ Quốc phòng, và đây không chỉ là một quyết định cá nhân mà còn là một vấn đề về nguyên tắc.

Kalinowski cho biết AI có thể đóng vai trò quan trọng trong an ninh quốc gia, nhưng cần có các biện pháp giám sát và bảo vệ thích hợp. Những mối lo chính của ông là việc lạm dụng AI cho giám sát trong nước và phát triển các hệ thống vũ khí tự động. Ông nói rằng OpenAI đã không thiết lập đủ các biện pháp quản lý trước khi công bố thỏa thuận này và các quyết định đã được đưa ra quá vội vàng.

Kalinowski gia nhập Meta vào năm 2024, nơi ông đã làm việc trên dự án kính AR. Sự xuất hiện của ông tại OpenAI nhằm định hướng mới cho nhóm, nhưng sau khi công bố hợp tác với Bộ Quốc phòng, tình hình đã thay đổi. Ông vẫn giữ sự tôn trọng đối với Sam Altman và toàn bộ đội ngũ, nhưng không nhượng bộ về vấn đề này.

Phát ngôn viên của OpenAI cho biết rằng hợp tác với Bộ Quốc phòng là một nỗ lực sử dụng AI một cách thận trọng để củng cố an ninh quốc gia, và công ty đã đặt ra các giới hạn rõ ràng. Tuy nhiên, tranh cãi về hợp tác này vẫn tiếp tục trong ngành. Phản ứng của thị trường rất đáng chú ý - sau tin tức, số lượng xóa ChatGPT đã tăng hơn 295%, trong khi ứng dụng Claude của Anthropic đã đạt vị trí đầu tiên trong các ứng dụng miễn phí trên App Store của Mỹ.

Toàn bộ vấn đề này đặt ra một câu hỏi lớn về việc sử dụng đạo đức các công nghệ như dbot, chẳng hạn như AI và các hệ thống tự động khác. Khi các công ty lớn hợp tác với chính phủ, việc minh bạch và các biện pháp bảo vệ là điều cần thiết như thế nào? Nếu bạn đang suy nghĩ về sự phát triển công nghệ và các khía cạnh đạo đức của chúng, theo dõi các cuộc thảo luận trên Gate là một lựa chọn tuyệt vời.