Trí tuệ nhân tạo tạo ra những bức ảnh khỏa thân đã trở thành mối đe dọa đối với phụ nữ trên toàn thế giới, nhưng việc ngăn chặn chúng sẽ không dễ dàng.
Vào tháng 9 năm 2023, những bức ảnh khỏa thân giả của hơn 20 nữ sinh được lan truyền ở nhiều trường học ở Tây Ban Nha, gây chấn động xã hội và sau đó được xác định là ảnh AI. Mười lăm bạn cùng lớp của nữ sinh vừa bị kết án một năm quản chế vì sản xuất và phát tán nội dung. Tuy nhiên, theo sự giàu cóVấn đề sâu xa hơn nằm ở các công cụ đằng sau những bức ảnh vẫn còn phổ biến rộng rãi và có thể truy cập dễ dàng trên internet.
Trang này viết: “Họ có thể 'lột bỏ' bất kỳ ai trong bất kỳ bức ảnh nào được tải lên chỉ trong vài giây”.
Những nỗ lực mới của người dân và chính phủ San Francisco, Mỹ, hy vọng sẽ thay đổi được tình trạng này. David Chiu, luật sư đại diện tại đây đã đệ đơn kiện một nhóm website có lượng truy cập cao có trụ sở tại Estonia, Serbia, Vương quốc Anh và những nơi khác chuyên cung cấp các công cụ tạo hình ảnh.
Chiu nói: “Những hình ảnh lan truyền này khai thác số lượng lớn phụ nữ và trẻ em gái trên khắp thế giới. Báo chí liên quan. “Những hình ảnh này được sử dụng để bắt nạt, làm nhục và đe dọa phụ nữ và trẻ em gái. Tác động lên nạn nhân là gây tổn hại đến danh tiếng, sức khỏe tâm thần, mất quyền tự chủ và trong một số trường hợp, khiến một số người có ý định tự tử.”
Hình minh họa máy tính đang phân tích khuôn mặt deepfake. hình ảnh: Tập đoàn phát thanh truyền hình Anh
Những trang web này được ẩn danh để tránh vô tình quảng bá chúng. Các hoạt động của họ bị cáo buộc vi phạm nhiều luật tiểu bang, chẳng hạn như gian lận kinh doanh, nội dung khiêu dâm không có sự đồng thuận và lạm dụng tình dục trẻ em.
Tuy nhiên, theo các nhà quan sát, quá trình xử lý này gặp nhiều thách thức, cho dù chính người tạo ra công cụ, người sử dụng công cụ hay môi trường tạo điều kiện thuận lợi cho việc phổ biến hình ảnh.
Những người đứng đằng sau các công cụ tạo ảnh khỏa thân bằng AI thường ẩn danh và hoạt động xuyên biên giới. Báo chí liên quan cho biết ông đã liên hệ với một dịch vụ như vậy và được thông báo rằng CEO của họ đã “chuyển đến khắp nước Mỹ” nhưng từ chối cung cấp thêm thông tin.
Trong một sự cố ở Tây Ban Nha năm ngoái, cơ quan thực thi pháp luật EU cho biết các ứng dụng được sử dụng để tạo hình ảnh deepfake “dường như không nằm trong phạm vi điều chỉnh của các quy tắc quản lý an toàn trực tuyến mới vì chúng không phải là nền tảng đủ lớn”.
Riana Pfefferkorn, nhà nghiên cứu tại Đại học Stanford, cho biết nếu những người đứng sau trang web phớt lờ vụ kiện, trang web có thể bị đóng cửa. Nếu David Chiu và người dân San Francisco thắng, họ có thể tác động đến các nhà đăng ký tên miền, máy chủ và các trung gian thanh toán để chặn trang web, ngay cả khi chủ sở hữu không xuất hiện trong vụ kiện.
Kết quả của vụ kiện được kỳ vọng sẽ là cột mốc quan trọng cho việc xử lý các công cụ trí tuệ nhân tạo tạo ra ảnh khỏa thân. Emily Slifer, giám đốc chính sách tại Thorn, một tổ chức chuyên chống bóc lột tình dục trẻ em, cho biết vụ kiện ở San Francisco “có khả năng tạo tiền lệ pháp lý trong lĩnh vực này”.
Một đơn vị khác cũng chịu trách nhiệm phát tán ảnh khỏa thân là mạng xã hội. Lấy Tây Ban Nha làm ví dụ, WhatsApp của Meta.
Tiến sĩ Miriam Mendiri nói với chúng tôi: “Đây không chỉ là trách nhiệm của xã hội, phụ huynh và nhà trường mà còn của những gã khổng lồ kỹ thuật số được hưởng lợi từ sự lãng phí này”. sự giàu có.
Lữ Quế
