Sự lan truyền của những bức ảnh khiêu dâm giả mạo của Taylor Swift xuất phát từ thách thức trong việc tạo ra các lệnh có thể vượt qua các bộ lọc do công cụ trí tuệ nhân tạo tạo ra.
Hơn một tuần sau khi deepfake của Taylor Swift tràn ngập mạng xã hội, nguyên nhân đang dần được hé lộ.Theo công ty phân tích mạng xã hội Graphika, tình trạng này bắt nguồn từ 4chanmột diễn đàn lâu đời nổi tiếng với các thuyết âm mưu và nội dung độc hại.
thành viên cộng đồng 4chan Tham gia vào một thử thách với mục tiêu tìm kiếm các từ và cụm từ có thể giúp họ vượt qua các bộ lọc của Microsoft Designer và OpenAI Dall-E, công cụ tạo hình ảnh Bing Image Creator. Trong đó, các thành viên chụp những bức ảnh khiêu dâm hoặc bạo lực của những người nổi tiếng rồi chia sẻ các mẹo và thủ thuật với người khác.
Taylor Swift trong chuyến lưu diễn “Eras Tour”. hình ảnh: Taylor Swift
Theo Graphika, cuộc thi được tổ chức hàng ngày trong vài tuần. Taylor Swift không phải là nạn nhân duy nhất. Một số diễn viên, ca sĩ, chính trị gia thậm chí còn bị nhắc tên trên các diễn đàn nhiều hơn cả nữ ca sĩ.
Hình ảnh khiêu dâm AI đầu tiên của Swift ở trên 4chan Nó xuất hiện vào ngày 6/1 và dần lan rộng trong các cộng đồng nền tảng khác như Telegram và X khoảng 10 ngày sau đó.trước mạng xã hội
Cristina Lopez, nhà phân tích cấp cao của Graphika Reviews, nhận xét: “Cô ấy không phải là nhân vật của công chúng duy nhất bị nhắm tới. Điều này cho thấy bất kỳ ai từ người nổi tiếng đến sinh viên đều có thể trở thành mục tiêu”.
Thời báo New York Microsoft cho biết họ đang “tiếp tục điều tra” và xác nhận đã “tăng cường các hệ thống bảo mật hiện có để ngăn chặn dịch vụ này bị lạm dụng để tạo ra những hình ảnh như vậy”.dựa theo tin tức cbsOpenAI cũng xác nhận ảnh AI của Taylor Swift không được tạo bằng ChatGPT hay giao diện lập trình ứng dụng của nó.
Nội dung sai sự thật về ai đó không phải là vấn đề mới nhưng nó ngày càng trở nên nghiêm trọng với sự ra đời của trí tuệ nhân tạo. Chúng giúp kẻ xấu tạo ra nội dung deepfake ngày càng chân thực.
Deepfake là sự kết hợp giữa “deep learning” và “fake”. Công nghệ này sử dụng trí tuệ nhân tạo để phân tích cử chỉ, nét mặt và giọng nói của một người, sau đó được tái tạo và chỉnh sửa để tạo ra ảnh hoặc video chân thực về người đó, thậm chí bao gồm cả hình ảnh và âm thanh. Các nhà nghiên cứu hiện lo lắng rằng deepfake đang ngày càng trở thành nguồn gốc của thông tin sai lệch lan rộng. Nó cho phép bất cứ ai tạo ra những bức chân dung khỏa thân, đáng xấu hổ của các ứng cử viên chính trị và những người nổi tiếng. AI thậm chí còn được sử dụng để mạo danh Tổng thống Hoa Kỳ Joe Biden trong các cuộc gọi tự động trước cuộc bầu cử sơ bộ ở New Hampshire vào tháng trước.
Lữ Quế
