OpenAI đã trình diễn công nghệ có thể tái tạo giọng nói của bất kỳ ai chỉ sau 15 giây ghi âm, nhưng thừa nhận sự nguy hiểm của việc giả mạo sâu với AI.
Vào ngày 29 tháng 3, OpenAI đã trình diễn phần mềm công cụ giọng nói sử dụng AI để tạo giọng nói dựa trên các bản ghi âm ngắn và có thể đọc văn bản. Ngay cả khi bản ghi mẫu chỉ bằng tiếng Anh, nó vẫn có thể được sao chép bằng tiếng nước ngoài.
Voice Engine được OpenAI phát triển từ năm 2022 và được thử nghiệm với một nhóm khách hàng vào cuối năm 2023. Đặc biệt, phần mềm đã thể hiện khả năng hỗ trợ đọc, dịch nội dung giữa các ngôn ngữ khác nhau cũng như tạo tiếng nói cho những người bị mất ngôn ngữ. Khả năng nói.
Tuy nhiên, OpenAI cho biết những mối nguy hiểm tiềm tàng của công nghệ giả giọng nói, đặc biệt là trong một năm có cuộc bầu cử tổng thống ở Mỹ, là một phần lý do khiến họ quyết định hạn chế quyền truy cập và không phổ biến rộng rãi công nghệ này.
Giao diện trang web OpenAI. hình ảnh:
Theo công ty sở hữu ChatGPT, việc ra mắt Voice Engine nhằm khuyến khích các cơ quan quản lý và công chúng cảnh giác hơn về việc sử dụng trí tuệ nhân tạo để lừa đảo. Các nhà phát triển cảnh báo tội phạm có thể sử dụng phần mềm mô phỏng giọng nói để đánh cắp thông tin cá nhân hoặc vượt qua các rào cản bảo mật của ngân hàng.
OpenAI cho biết: “Cho dù chúng tôi có phát hành rộng rãi công nghệ này hay không thì điều quan trọng là mọi người phải hiểu công nghệ này sẽ đi về đâu”.
Hồi tháng 1, công nghệ giả giọng nói trí tuệ nhân tạo đã thu hút sự chú ý sau khi đoạn ghi âm bắt chước lời kêu gọi người dân “không tham gia bầu cử sơ bộ của đảng Dân chủ ở New Hampshire” được lan truyền trên mạng xã hội.
Pindrop Security, một công ty chuyên phát hiện lừa đảo bằng giọng nói, sau đó đã phân tích đoạn ghi âm và kết luận rằng đó là một bản deepfake sử dụng công nghệ của ElevenLabs, một công ty khởi nghiệp đang phát triển phần mềm trí tuệ nhân tạo tạo giọng nói bằng hơn 20 ngôn ngữ.
dựa theo sự giàu cóGiọng nói deepfake của Biden đã khiến nhiều chuyên gia và quan chức bầu cử Mỹ lo lắng, gọi đây là “hoạt động can thiệp bầu cử được hỗ trợ bởi trí tuệ nhân tạo”. Một số ý kiến cho rằng điều này không chỉ cho thấy việc phát tán âm thanh deepfake dễ dàng như thế nào mà còn nguy cơ các tác nhân xấu lợi dụng công nghệ này để ngăn cản cử tri bỏ phiếu và ảnh hưởng đến kết quả bầu cử.
