Cảnh báo về sự lan tràn của hình ảnh khiêu dâm từ AI tạo sinh

Gần đây, việc lạm dụng dịch vụ AI tạo sinh như Grok để tạo và lan truyền hình ảnh khiêu dâm giả mạo và hình ảnh khiêu dâm trẻ em đã trở thành vấn đề toàn cầu, khiến cộng đồng quốc tế phải hợp tác đối phó.

Ủy ban Bảo vệ Dữ liệu Cá nhân đã tham gia vào việc thông qua 'Tuyên bố chung về nội dung tạo bởi AI và bảo vệ dữ liệu cá nhân' của GPA. Một số nền tảng AI tạo sinh bị chỉ trích vì tạo ra hình ảnh khiêu dâm từ lệnh văn bản hoặc sử dụng ảnh từ mạng xã hội làm dữ liệu học tập. Đặc biệt, việc tiếp cận công nghệ dễ dàng đã khiến nhiều thanh thiếu niên tham gia vào việc tạo deepfake.

Thống kê quốc tế cho thấy số lượng deepfake khiêu dâm tăng mạnh trong 2-3 năm qua, với nhiều nạn nhân là phụ nữ trẻ. Tội phạm hình ảnh khiêu dâm trẻ em cũng gia tăng. Với sự phát triển của AI, hình ảnh và video ngày càng tinh vi, làm tăng tốc độ lan truyền và nguy cơ thiệt hại thứ cấp.

Tuyên bố này đặt mục tiêu phản ứng nhanh chóng và nhất quán với vi phạm quyền riêng tư khi hình ảnh cá nhân bị mô tả và lan truyền mà không có sự đồng ý. Bốn nguyên tắc chính được đưa ra: thực hiện biện pháp an toàn để ngăn chặn lạm dụng dữ liệu cá nhân và tạo nội dung khiêu dâm không có sự đồng ý, đảm bảo minh bạch về phạm vi và giới hạn sử dụng hệ thống AI, thiết lập quy trình báo cáo và xóa hiệu quả, và cung cấp thông tin phù hợp với độ tuổi để bảo vệ trẻ em.

Các cơ quan giám sát quốc gia cam kết chia sẻ kinh nghiệm và tăng cường hợp tác quốc tế để thực hiện giá trị 'đổi mới AI đáng tin cậy'. Các nhiệm vụ chính bao gồm đánh giá rủi ro trước của các nhà cung cấp nền tảng, áp dụng biện pháp an toàn kỹ thuật, và xây dựng hệ thống khắc phục tập trung vào nạn nhân.

Tuyên bố do nhóm công tác hợp tác quốc tế của GPA dẫn đầu, với sự tham gia của 61 cơ quan giám sát dữ liệu cá nhân từ 52 quốc gia, bao gồm Hàn Quốc, Pháp, Anh, Singapore, Canada và các nước EU.

Các quốc gia đang nhanh chóng điều chỉnh quy định. EU đang củng cố trách nhiệm đối với AI nguy cơ cao và nội dung bất hợp pháp, trong khi Mỹ và Anh mở rộng quy định xử phạt deepfake và hình ảnh khiêu dâm trẻ em. Các nước châu Á cũng đang xem xét tăng cường nghĩa vụ xóa và báo cáo minh bạch của nhà cung cấp nền tảng.

Việc thiết lập quy tắc phù hợp với tốc độ phát triển công nghệ, cùng với tự điều chỉnh của doanh nghiệp và giáo dục người dùng, là cần thiết để đảm bảo hiệu quả. Hợp tác quốc tế sẽ được tăng cường để bảo vệ dữ liệu cá nhân và quyền nhân thân khỏi deepfake và tội phạm nhắm vào trẻ em và thanh thiếu niên.

Bà Song Kyung-hee, Chủ tịch Ủy ban Bảo vệ Dữ liệu Cá nhân, cho biết: "Chúng tôi sẽ hợp tác với cộng đồng quốc tế để đối phó với nguy cơ vi phạm dữ liệu cá nhân do lạm dụng công nghệ tạo nội dung AI như deepfake" và "sẽ tiếp tục dẫn đầu trong việc tạo ra môi trường sử dụng AI đáng tin cậy trong và ngoài nước."



* Bài viết này được dịch tự động bằng AI.