Một người phụ nữ bị Elon Musk giả mạo lừa 51.000 USD, hay một hiệu trưởng suýt mất việc vì giả giọng nói. Có thể thấy, bất kỳ ai cũng có thể trở thành nạn nhân của deepfake.
dựa theo sự giàu cóThượng viện Hoa Kỳ sẽ tổ chức các phiên điều trần trong tuần này nhằm tìm cách “bảo vệ giọng nói và hình ảnh của tất cả các cá nhân khỏi sự sao chép trái phép của trí tuệ nhân tạo”. Đây là một phần của dự luật “Không hàng giả”, được Thượng nghị sĩ Chris Coons, Marsha Blackburn, Amy Klobuchar và Thom Tillis đưa ra vào cuối năm ngoái. Dự luật sẽ buộc các cá nhân hoặc công ty phải chịu trách nhiệm tạo ra các bản deepfake bất hợp pháp và buộc các nền tảng phải chịu trách nhiệm về việc cố ý lưu trữ các bản deepfake này.
Deepfake là sự kết hợp giữa “deep learning” và “fake” có thể ghép khuôn mặt, giọng nói… của bất kỳ ai vào bất kỳ nội dung nào để tạo cảm giác chân thực.
hình ảnh: kinh doanh táo bạo
Bắt chước giọng của rapper quá cố
Ngày 19/4, rapper Drake, người từng là “nạn nhân” của AI giả giọng, đã tạo ra tác phẩm deepfake của riêng mình.phiên bản rap Tyler Mader Khi nói đến Taylor Swift, giọng nói do AI tạo ra phải kể đến giọng của Snoop Dogg và cố ca sĩ Tupac Shakur (1971-1996).
Vào cuối tháng 4, luật sư của Shakur đã gọi điện Tyler Mader là một “sự lạm dụng trắng trợn di sản của một trong những nghệ sĩ hip-hop vĩ đại nhất mọi thời đại.” Họ tuyên bố rằng họ không và sẽ không bao giờ chấp thuận việc sử dụng giọng hát của Shakur và yêu cầu Drake xóa bài hát trong vòng 24 giờ. Tyler Mader Đã xóa vào ngày 27 tháng 4.
dựa theo thời gian của luân đôn, một bản rap của Jammable (AI Voicify). AI đã được Hiệp hội Công nghiệp Máy ghi âm Anh (BPI), cơ quan đại diện cho bốn hãng thu âm lớn của Vương quốc Anh và hàng trăm công ty độc lập, khuyến nghị ngừng hoạt động.
Được phát triển bởi sinh viên Đại học Southampton Aditya Bansal vào cuối năm 2022, Jammable có thể “bắt chước” giọng nói của bất kỳ ai chỉ bằng một vài tệp dữ liệu đầu vào.bansal đã nói Thời báo tài chính Năm ngoái, anh đã kiếm được “rất nhiều tiền”, tính phí từ 2,50 USD đến 112 USD cho các bản âm thanh, tùy thuộc vào tính năng.
BPI tin rằng Jammable là một ví dụ điển hình về việc các công ty AI deepfake sử dụng các tác phẩm có bản quyền để làm giàu bất hợp pháp cho chính mình.dựa theo sự giàu cóKhiếu nại của BPI thể hiện sự leo thang đáng kể trong căng thẳng giữa các công ty trí tuệ nhân tạo và những người sáng tạo ngành công nghiệp âm nhạc.
Mất 50.000 USD vì yêu Deepfake Elon Musk
Deepfake về những người nổi tiếng không phải là hiếm nhưng ngày càng có nhiều nạn nhân rơi vào bẫy.dựa theo Hàn QuốcMột phụ nữ Hàn Quốc cho biết cô được “Elon Musk” tiếp cận và gặp gỡ vì “cô ấy thường xuyên liên lạc ngẫu nhiên với người hâm mộ”. Để tạo dựng lòng tin, những kẻ lừa đảo thường thực hiện các cuộc gọi video nhưng thực tế chúng sử dụng hình ảnh deepfake.
Tên trộm sau đó đã đưa cho cô một tài khoản ngân hàng ở Hàn Quốc và khuyến khích cô chuyển quỹ đầu tư vì cô “vui mừng khi thấy người hâm mộ của mình trở nên giàu có”. Các nạn nhân đã chuyển tổng cộng 70 triệu won (50.770 USD) trước khi những kẻ lừa đảo biến mất không dấu vết.
Các chuyên gia cho rằng đây sẽ là một hình thức lừa đảo phổ biến. Trong thời gian tới, khi trí tuệ nhân tạo tạo ra những bức ảnh, video ngày càng tinh vi hơn thì những trường hợp tương tự có thể xuất hiện ngày càng nhiều.
Dùng AI để bẫy hiệu trưởng
dựa theo CNNVào tháng 1, một đoạn ghi âm xuất hiện của Eric Eiswert, hiệu trưởng một trường trung học ở ngoại ô Baltimore, đưa ra những nhận xét phân biệt chủng tộc, làm dấy lên làn sóng phẫn nộ. Bản ghi âm sau đó được gửi đến giới truyền thông và Hiệp hội Quốc gia vì sự tiến bộ của người da màu (NAACP). Ashwalt đã bị đình chỉ.
Cuối tháng 4, Sở cảnh sát hạt Baltimore xác nhận giáo viên thể dục của trường Dazhon Darien có mâu thuẫn với Eiswert nên đã dùng AI ghi âm để trả thù. Người này bị bắt vào ngày 25/4.
“Vụ ghi âm gây hậu quả rất nghiêm trọng, không chỉ khiến hiệu trưởng bị đình chỉ công tác mà còn gây ra làn sóng căm thù trên mạng xã hội”, theo cáo trạng được công bố sau vụ bắt giữ.
Các chuyên gia cho biết vụ việc cho thấy mức độ nguy hiểm của bất kỳ ai có thể tạo ra hình ảnh deepfake và giọng nói giả chỉ với một vài đô la. “Nạn nhân ở đây là một hiệu trưởng có cuộc sống bình thường chứ không phải Taylor Swift, Tổng thống Joe Biden hay Elon Musk. Đó là một vấn đề nghiêm trọng khi trí tuệ nhân tạo trở thành vũ khí chống lại những sai sót của người khác”, Hany Farid, giáo sư Đại học Harvard. UC Berkeley, người đã giúp cảnh sát phân tích các đoạn ghi âm, cho biết NPR.
- Giáo viên Mỹ dùng AI để bẫy hiệu trưởng
- Deepfake Taylor Swift dạy toán trên TikTok
Biên tập lại từ VnExpress
