Chính sách mới cho phép người dùng yêu cầu YouTube xóa nội dung do trí tuệ nhân tạo tạo ra bắt chước khuôn mặt hoặc giọng nói của chính họ.
Những thay đổi của YouTube là một phần trong quy trình bảo mật được cập nhật nhằm cung cấp cho người dùng nhiều quyền lực hơn để chống gian lận AI. Người bị giả mạo có thể nộp đơn khiếu nại trực tiếp hoặc thay mặt người khác nếu người đó là trẻ vị thành niên, đã qua đời hoặc không có quyền truy cập vào máy tính.
Ảnh AI giả của cựu Tổng thống Mỹ Trump và Tổng thống Pháp Emmanuel Macron, Ảnh: Christine van den Bairat/Bloomberg
Tuy nhiên, YouTube vẫn có tiếng nói cuối cùng về việc liệu một video có bị coi là sai sự thật và bị xóa hay không. Nền tảng video trực tuyến sẽ quyết định dựa trên các yếu tố như nội dung được tạo ra bằng trí tuệ nhân tạo hay được biên soạn từ các video hiện có và liệu nội dung đó có mang tính châm biếm, nhại lại hay có giá trị với công chúng hay không.
Các chuyên gia cho biết một trong những lý do khiến YouTube tràn lan các video AI giả mạo trong năm nay là do cuộc bầu cử tổng thống Mỹ sắp tới. Thống kê cho thấy các video trí tuệ nhân tạo bắt chước giọng nói và hình ảnh của Donald Trump đang gia tăng nhanh chóng trên các nền tảng mạng xã hội. Trong trường hợp cụ thể này, cựu tổng thống Mỹ có thể trực tiếp yêu cầu YouTube xóa video trên. Người tải lên có 48 giờ để giải quyết khiếu nại trước khi video thực sự bị xóa.
Đầu năm 2024 là thời điểm bùng nổ của các mô hình AI tạo video chỉ dựa trên nội dung văn bản. Sora của OpenAI, Lumier của Google và Emu Video của Meta đều rất tuyệt vời trước những video chân thực do hệ thống máy tính tạo ra. Tuy nhiên, điều này cũng gây lo ngại vì chúng có thể được sử dụng để tạo video giả nhằm phát tán tin tức giả nhằm mục đích, ý định xấu.
