Deepfake ngày càng khó phân biệt

Ngày 11/8, cựu Tổng thống Mỹ Donald Trump đăng bài viết trên mạng xã hội Truth Social, cáo buộc Phó Tổng thống Kamala Harris sử dụng trí tuệ nhân tạo để chỉnh sửa ảnh. Chưa đầy 10 ngày sau, anh gặp rắc rối vì đăng bài deepfake về ngôi sao nhạc pop Taylor Swift. Trong chiến dịch tranh cử tổng thống Mỹ, một vấn đề khiến nhiều người lo ngại là deepfake ngày càng khó xác định.

Thay vì sử dụng các công cụ thông thường để chỉnh sửa ảnh, các tác phẩm deepfake được tạo ra bằng các thuật toán chuyên dụng được hỗ trợ bởi trí tuệ nhân tạo. Cơn sốt trí tuệ nhân tạo tổng hợp (GenAI) đã thúc đẩy hơn nữa sự xuất hiện của deepfake dưới nhiều hình thức, từ ảnh, video, âm thanh cho đến cuộc gọi thời gian thực. Hai loại deepfake phổ biến nhất là ghép khuôn mặt và tạo nội dung giả dựa trên ảnh, video và giọng nói thật.

Mối nguy hiểm lớn nhất do deepfake gây ra là khả năng phát tán thông tin sai lệch, do người dùng khó phân biệt hoặc vì chúng đến từ các nguồn đáng tin cậy. Trong trường hợp cựu Tổng thống Trump cáo buộc bà Harris sử dụng ảnh deepfake, các chuyên gia kỹ thuật số đã phải sử dụng các mô hình đánh giá ảnh chuyên dụng để kết luận rằng bức ảnh có chứa “dấu vết” của trí tuệ nhân tạo.

Theo báo cáo về mối đe dọa deepfake do Bộ An ninh Nội địa Hoa Kỳ công bố, nhiều công cụ trí tuệ nhân tạo hiện có thể tạo ra nội dung deepfake chỉ trong vài giây. Người dùng thậm chí không cần một hệ thống máy tính lớn để chạy mô hình, họ chỉ cần một chiếc điện thoại thông minh kết nối internet để tạo ra những bức ảnh giả của bất kỳ ai có vô số ý tưởng.

theo Mạng công nghệVới sức mạnh của trí tuệ nhân tạo, cả tội phạm mạng và người dùng thông thường đều có thể tạo ra giọng nói, video và hình ảnh giả mạo đến mức khó tin. Gần như không thể ước tính có bao nhiêu bản deepfake đang lưu hành trên internet vì nội dung quá xác thực đến mức khó xác định nếu không có các công cụ phân tích chuyên sâu. Người dùng trên Facebook cũng có thể sử dụng deepfake để dễ dàng tìm thấy hàng trăm nghìn video quảng cáo. Mặc dù Facebook đã gỡ bỏ nhiều video dựa trên tiêu chuẩn cộng đồng nhưng chúng vẫn được xuất bản và trốn tránh các công cụ kiểm duyệt. YouTube cũng tràn ngập các video giả mạo được gắn nhãn “trực tiếp” để tạo dựng lòng tin.

Công ty phân tích Sensity đã thu thập 2.000 video deepfake lừa đảo và kết luận rằng hầu hết trong số đó đều mạo danh các tỷ phú và nghệ sĩ nổi tiếng như Jeff Bezos, Warren Buffett và Elon Musk. Trong số đó, Elon Musk là người xuất hiện nhiều nhất trong các video deepfake nhằm mục đích lừa người dân đầu tư vào tiền kỹ thuật số.

theo Mục tiêu khoa học và công nghệLỗ hổng dẫn đến sự phát triển của deepfake là luật pháp đi sau công nghệ. Mặc dù deepfake gây ra nhiều mối đe dọa nghiêm trọng cho xã hội nhưng nó chỉ bị coi là bất hợp pháp nếu chứa nội dung khiêu dâm trẻ em, phỉ báng hoặc kích động hận thù.

Ở Mỹ, theo số liệu phương pháp Bloomberg, Năm tiểu bang đã cấm deepfake. Vào năm 2024, 7 bang sẽ xem xét ban hành các luật liên quan và ít nhất 10 bang sẽ xem xét quy định việc sử dụng khuôn mặt của người khác để tạo video hoặc ảnh mà không được phép là bất hợp pháp. Một lý do dẫn đến việc thiếu luật chống deepfake là nhiều người chưa hiểu hết sự nguy hiểm của công nghệ này.

Đối mặt với mối đe dọa ngày càng tăng của deepfake, các nền tảng như Facebook, YouTube và TikTok đang cố gắng phát hiện và gắn cờ nội dung có thể đã bị giả mạo bởi AI. Tuy nhiên, công nghệ làm hàng giả đang phát triển nhanh đến mức các bộ lọc không phải lúc nào cũng hiệu quả trong việc xác định chúng.

Tháng trước, Hiệp hội Thiên văn Hoàng gia đã sử dụng các phương pháp nghiên cứu thiên hà để đo phản xạ trong mắt và phát hiện độ sâu giả. Kevin Pimbblet, giáo sư vật lý thiên văn và giám đốc Trung tâm Dữ liệu, Trí tuệ nhân tạo và Mô hình hóa tại Đại học Hull, giải thích: “Phản xạ nhãn cầu thật là nhất quán, nhưng hình ảnh giả thường vi phạm các quy tắc vật lý thông thường”. chưa hoàn hảo và vẫn còn sai sót nhưng anh tin rằng hướng đi này có tiềm năng lớn trong việc hỗ trợ công nghệ phát hiện Deepfake tự động.

Mặc dù hiện tại chưa có giải pháp hoàn chỉnh nào giúp người dùng tránh nội dung deepfake nhưng các chuyên gia cho rằng kiến ​​thức được nâng cao là bức tường thành tốt nhất. Mọi người đều có thể tự cập nhật những diễn biến mới, cách xác định nội dung sai sự thật và luôn cảnh giác, tránh xa những lời mời đầu tư và kiếm lợi nhuận nhanh chóng.

Giang Ya