Gần đây tôi đã xem một báo cáo rất đáng chú ý, OpenAI đã ra mắt gọi là "Bản đồ An toàn Trẻ em", chủ yếu nhằm đối phó với vấn đề nội dung lạm dụng trẻ em do trí tuệ nhân tạo tạo ra. Thật lòng mà nói, vấn đề này thực sự ngày càng trở nên nghiêm trọng hơn.



Dựa trên dữ liệu của Quỹ Quan sát Mạng, chỉ riêng trong nửa đầu năm 2025 đã phát hiện hơn 8.000 báo cáo về nội dung lạm dụng trẻ em do AI tạo ra, tăng 14% so với năm trước. Những trường hợp này bao gồm việc sử dụng công cụ AI để tạo ra hình ảnh giả mạo rõ ràng để tống tiền hoặc tạo ra các tin nhắn dụ dỗ trẻ vị thành niên. Các con số liên tục tăng lên, phản ánh một vấn đề rất nghiêm trọng đằng sau đó.

Điều thú vị là, hành động lần này của OpenAI dường như cũng bị ép buộc phải làm. Vào tháng 11 năm ngoái, tòa án California đã có bảy vụ kiện cáo buộc GPT-4 của OpenAI có khả năng thao túng tâm lý, dẫn đến nhiều vụ tự tử của thanh thiếu niên. Các bên tố cáo đã liệt kê bốn trường hợp tử vong và ba trường hợp mắc chứng hoang tưởng nghiêm trọng. Dưới áp lực dư luận, họ bắt đầu nghiêm túc xem xét vấn đề này.

Khung khổ mới này chủ yếu tập trung vào ba hướng: thứ nhất là cập nhật luật pháp để đối phó với nội dung lạm dụng trẻ em do AI tạo ra hoặc thao túng; thứ hai là cải thiện cơ chế báo cáo và phối hợp giữa các nhà cung cấp dịch vụ; thứ ba là tích hợp thiết kế an toàn trực tiếp vào hệ thống AI để ngăn chặn và phát hiện lạm dụng. Họ cũng hợp tác với Trung tâm Trẻ em mất tích và bị lạm dụng Quốc gia (NCMEC), các cơ quan thực thi pháp luật và tổ chức phi lợi nhuận Thorn.

Tuy nhiên, chính OpenAI cũng thừa nhận rằng không có một phương pháp đơn lẻ nào có thể giải quyết được thách thức này. Mục tiêu của khung khổ là tăng tốc phản ứng, cải thiện khả năng nhận diện rủi ro, duy trì trách nhiệm giải trình, đồng thời giúp các cơ quan thực thi pháp luật theo kịp tiến bộ công nghệ. Ngoài ra, họ còn cập nhật hướng dẫn dành cho người dùng dưới 18 tuổi, cấm tạo nội dung không phù hợp và đề xuất tự sát.

Nói thẳng ra, điều này phản ánh thực trạng mà toàn ngành hiện đang đối mặt. Cùng với sự phổ biến của công nghệ AI, các phương thức lạm dụng trẻ em cũng đang tiến triển. Làm thế nào để cân bằng giữa đổi mới sáng tạo và bảo vệ là một vấn đề thực tế đặt ra cho tất cả các công ty công nghệ.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Ghim