Người dùng mạng xã hội
Khi gõ tên ngôi sao nhạc pop nổi tiếng vào ô tìm kiếm trên X, người dùng nhận được thông báo: “Xin lỗi, đã xảy ra lỗi”. Tuy nhiên, mạng xã hội không chặn một số cụm từ khác liên quan đến tên Taylor Swift. Ví dụ: các cụm từ “Taylor Swift AI” và “Taylor AI” bị chặn nhưng vẫn có thể tìm kiếm “Swift AI”, “Taylor AI Swift” và “Taylor Swift deepfake”.
Xuất hiện thông báo lỗi khi tìm kiếm Taylor Swift trên X. hình chụp: Hoài Anh
Trang này cho biết: “Việc không tìm ra tên của Taylor Swift cho thấy X có thể không biết phải làm gì với hàng loạt hình ảnh, video sai sự thật trên nền tảng của mình”. Có thể được trộn lẫn và kết hợp xác nhận.
Tin tức NBCs đã liên hệ với X về sáng kiến mới nhưng vẫn chưa nhận được phản hồi.
Trước đó, vào ngày 26/1, nhóm bảo mật X thông báo rằng họ đang tích cực xác định và xóa các tài khoản đăng ảnh, video khiêu dâm sai sự thật và thực hiện các hành động thích hợp.
Ngày 27/1, Nhà Trắng cũng bày tỏ quan ngại sau khi bức ảnh mạo danh Taylor Swift được lan truyền, kêu gọi mạng xã hội thắt chặt kiểm soát nội dung. Thư ký Báo chí Nhà Trắng Karine Jean-Pierre cho biết về sự lan truyền của những bức ảnh deepfake khiêu dâm của Taylor Swift trên mạng xã hội: “Chúng tôi lo ngại về những thông tin đồ họa mới lan truyền trên mạng xã hội. Chúng là những bức ảnh giả mạo là nguyên nhân gây lo ngại”.
Không có quy định liên bang nào ở Hoa Kỳ ngăn chặn hoặc ngăn cản mọi người tạo và chia sẻ ảnh deepfake khiêu dâm mà không được phép. Một số bang đã cấm deepfake, chủ yếu liên quan đến nội dung khiêu dâm và bầu cử, nhưng chưa có quy định rõ ràng về tác động của trí tuệ nhân tạo.
Một hình ảnh deepfake do Taylor Swift đăng trên X đã có tới 47 triệu lượt xem trước khi bị khóa vào ngày 25 tháng 1. X cũng đình chỉ một số tài khoản đăng ảnh giả của nữ ca sĩ. Tuy nhiên, bất chấp mọi nỗ lực ngăn chặn, những bức ảnh vẫn tiếp tục được lan truyền nhanh chóng trên nhiều nền tảng khác. Ben Colman, Giám đốc điều hành của công ty an ninh mạng Reality Defender, xác nhận rằng 90% ảnh giả nói trên được tạo ra bằng mô hình khuếch tán ổn định AI. Nền tảng AI có thể truy cập được thông qua hơn 100.000 ứng dụng và công cụ trực tuyến.
