Hàn QuốcNhiều phụ nữ trở thành nạn nhân của nội dung khiêu dâm deepfake khi hình ảnh của họ được lan truyền trong các phòng chat Telegram.
Những ngày gần đây, hàng loạt phụ nữ Hàn Quốc lên tiếng trên mạng xã hội X về việc họ bị ngược đãi thông qua việc sử dụng công nghệ deepfake và trí tuệ nhân tạo để gán khuôn mặt. Các video nhạy cảm sau đó được gửi đến các nhóm Telegram với hàng nghìn người, chủ yếu là nam giới. Nền tảng này không có cơ chế kiểm duyệt, cho phép chúng ngày càng lan rộng và không ai có thể ngăn chặn chúng.
Logo Telegram hiển thị trên điện thoại thông minh. hình ảnh: thiết bị CNTT
Lời kêu cứu của một nữ sinh
“Chúng tôi không phải gái mại dâm, chúng tôi không tồn tại để thỏa mãn nhu cầu tình dục của ai đó. Chúng tôi là những người có phẩm giá, mỗi người đều có sự nghiệp và ước mơ của riêng mình”, đây là nội dung bức thư mà nữ sinh có biệt danh Ruma dự định gửi đến nhà trường. Tòa án Hàn Quốc và xuất bản năm đất nước hàn quốc Tuần này.
Cô là một trong nhiều nữ sinh viên mới tốt nghiệp Đại học Quốc gia Seoul có khuôn mặt xuất hiện trong các video khiêu dâm deepfake do trí tuệ nhân tạo sản xuất và sau đó được các sinh viên nam cùng trường phát tán qua Telegram.
Vào tháng 7 năm 2021, Ruma nhận được một bức ảnh nhạy cảm về khuôn mặt của cô trên Telegram. Nhưng phải đến tháng 5 ba năm sau, cô mới biết kẻ chủ mưu đằng sau vụ việc là hai bạn nam cũng vừa mới tốt nghiệp. Hai người này đã bị bắt và sẽ bị xét xử.
Sau khi phát hiện, Ruma đã trình báo vụ việc tới 4 đồn cảnh sát khác nhau. Nhưng gần hai năm kể từ đó, cảnh sát vẫn không thể bắt được kẻ sát nhân. Cô không bỏ cuộc và cố gắng thu thập bằng chứng cùng với các nạn nhân khác.
“Thật là một cơn ác mộng mỗi sáng thức dậy và đối mặt với mọi người. Lần đầu tiên kể từ khi sinh ra, tôi cảm thấy mình không muốn tồn tại trên thế giới này nữa. Nhưng tôi có lý do để tiếp tục”: Không ai cần phải giống như tôi đau khổ nhiều như vậy, không ai cần bị coi như một đồ vật chỉ vì họ là phụ nữ, và không ai cần bị coi như một công cụ để xoa dịu mặc cảm tự ti của bệnh nhân,” Ruma viết trong cuốn nhật ký. sách. Bức thư này. “Tôi hy vọng không ai khác phải đối mặt với nỗi đau này.”
Kênh Telegram có khoảng 1.300 thành viên, có phòng trò chuyện riêng của 70 trường cao đẳng và đại học ở Hàn Quốc với tên các trường đại học được in đậm. hình ảnh: đất nước hàn quốc
Trên thực tế, có nhiều báo cáo cho rằng nội dung giả mạo khiêu dâm đang được lan truyền qua một số cộng đồng đại học thông qua các ứng dụng nhắn tin, phổ biến nhất là Telegram. Hình thức điển hình là: kẻ xấu chụp ảnh bạn bè hoặc người quen, sử dụng công cụ trí tuệ nhân tạo để tạo deepfake, đăng lên Telegram cho vui, thậm chí gửi cho nạn nhân như một hình thức bắt nạt.
theo đất nước hàn quốcTrong một nhóm Telegram với hơn 1.300 thành viên được phân loại theo 70 trường đại học Hàn Quốc, các thành viên đăng ảnh những cô gái họ biết, cùng với thông tin cá nhân và chuyên ngành. Những người khác biết những người trong ảnh sẽ phản hồi. Cuối cùng, họ cùng nhau thông qua các phòng trò chuyện riêng tư để tạo ra nội dung khiêu dâm.
Ngay cả khi bị phát hiện, nạn nhân cũng không thể làm gì được vì họ không biết ai đã tạo ra deepfake và cảm thấy quá tội lỗi và xấu hổ khi chia sẻ nó với bất kỳ ai. Trước bức thư của Luma, truyền thông Hàn Quốc hiếm khi đưa tin về nội dung khiêu dâm deepfake. Một số nạn nhân đã buộc phải tự mình giải quyết vấn đề thông qua mạng xã hội. Tuy nhiên, khi những bức thư của Ruma được xuất bản, chúng càng nhận được nhiều sự chú ý hơn. Đặc biệt, các hashtag như #2ndMeToo_SK Giúp được nhiều người biết. Lúc này giới truyền thông cũng vào cuộc.
hành động của chính phủ
Hàn Quốc, quốc gia từng nỗ lực dập tắt cái gọi là “molka” – những video bí mật quay có chứa nội dung khiêu dâm – đang phải vật lộn với làn sóng “deepfake”. Tuy nhiên, trong một thời gian dài, chính phủ nước này không có hành động quyết liệt cho đến khi lá thư của Ruma xuất hiện.
“Các video deepfake nhắm vào các cá nhân không rõ danh tính đang lan truyền nhanh chóng trên mạng xã hội”, Tổng thống Hàn Quốc Yoon Seok-yeol cho biết tại cuộc họp nội các hôm 28/8. “Nhiều nạn nhân là trẻ vị thành niên. Hầu hết thủ phạm cũng được xác định là thanh thiếu niên”.
Ông Yang kêu gọi cơ quan chức năng điều tra kỹ lưỡng và giải quyết tội phạm tình dục kỹ thuật số. “Đây là việc khai thác công nghệ trong khi vẫn dựa vào sự bảo vệ ẩn danh. Đây rõ ràng là một tội ác”, ông nhấn mạnh.
Cùng ngày, hãng thông tấn yonhap Các nguồn tin chính phủ được dẫn lời nói rằng cảnh sát sẽ ráo riết truy lùng những kẻ tạo ra và phát tán nội dung khiêu dâm sâu. Chiến dịch sẽ kéo dài bảy tháng kể từ ngày 28 tháng 8 và tập trung vào những kẻ bóc lột trẻ em và thanh thiếu niên.
Theo Cơ quan Cảnh sát Quốc gia Hàn Quốc, tổng cộng 297 tội phạm deepfake đã được báo cáo trong 7 tháng đầu năm nay, tăng so với 180 vụ vào năm ngoái và tăng gần gấp đôi vào năm 2021, năm đầu tiên thu thập dữ liệu. Trong số 178 người bị buộc tội, có 113 người là thanh thiếu niên.
Tuy nhiên, vấn đề nghiêm trọng hơn dữ liệu chính thức cho thấy. theo người giám hộNhiều hình ảnh deepfake đã được chia sẻ trong phòng chat Telegram, nơi có 220.000 thành viên, chủ yếu là phụ nữ và trẻ em gái. Truyền thông Hàn Quốc cho biết nạn nhân bao gồm sinh viên đại học, giáo viên và binh lính.
Liên đoàn Giáo viên và Nhà giáo dục Hàn Quốc cho biết họ đã quay các video deepfake khiêu dâm liên quan đến học sinh. Đơn vị này cũng đã yêu cầu Bộ Giáo dục Hàn Quốc điều tra.
theo Reuterssự lan truyền của các vấn đề deepfake trên Telegram tiếp tục làm tổn hại đến hình ảnh của nền tảng này. Trước đó, vào năm 2020, cảnh sát Hàn Quốc đã phát hiện một nhóm tống tiền tình dục trực tuyến hoạt động chủ yếu trong các phòng chat của ứng dụng. Khi đó, thủ lĩnh băng nhóm Zhao Chubin bị kết án 40 năm tù vì tội tống tiền ít nhất 74 phụ nữ, trong đó có 16 thanh thiếu niên.
Theo Đạo luật phòng chống bạo lực tình dục và bảo vệ nạn nhân của Hàn Quốc, việc tạo video deepfake chứa nội dung khiêu dâm nhằm mục đích phổ biến sẽ bị phạt 5 năm tù hoặc phạt 50 triệu won (37.500 USD).
Deepfake là sự kết hợp giữa “deep learning” và “fake”. Công nghệ này sử dụng trí tuệ nhân tạo để phân tích cử chỉ, nét mặt và giọng nói của một người, sau đó được tái tạo và chỉnh sửa để tạo ra ảnh hoặc video chân thực về người đó và thậm chí tạo ra giọng nói.
- Lo ngại về trách nhiệm kiểm duyệt mạng xã hội sau vụ bắt giữ CEO Telegram
- Không thể làm gì với công cụ AI tạo ảnh khỏa thân
