FCC đã đề xuất mức phạt 6 triệu USD đối với kẻ lừa đảo đã sử dụng công nghệ nhân bản giọng nói để mạo danh Tổng thống Biden trong một loạt cuộc gọi tự động bất hợp pháp trong cuộc bầu cử sơ bộ ở New Hampshire. Nó thiên về cuộc gọi tự động hơn là AI, nhưng cơ quan này rõ ràng đang định vị đây là một lời cảnh báo cho những kẻ lừa đảo công nghệ cao khác.
Như bạn có thể nhớ lại, vào tháng 1, nhiều cử tri ở New Hampshire đã nhận được một cuộc gọi với mục đích là tin nhắn từ tổng thống yêu cầu họ không bỏ phiếu trong cuộc bầu cử sơ bộ sắp tới. Tất nhiên, đây là giả mạo – một bản sao giọng nói của Tổng thống Biden sử dụng công nghệ đã trở nên phổ biến rộng rãi trong vài năm qua.
Mặc dù việc tạo giọng nói giả đã có thể thực hiện được từ lâu, nhưng các nền tảng AI tổng hợp đã khiến việc này trở nên tầm thường: Hàng chục dịch vụ cung cấp giọng nói nhân bản với một số hạn chế hoặc sự giám sát. Bạn có thể tạo tiếng nói cho Biden của riêng mình khá dễ dàng với một hoặc hai phút bài phát biểu của anh ấy, những bài phát biểu này đương nhiên có thể dễ dàng tìm thấy trên mạng.
Điều bạn không thể làm, FCC và một số cơ quan thực thi pháp luật đã nói rõ, là sử dụng Biden giả đó để đàn áp cử tri, thông qua các cuộc gọi tự động vốn đã bất hợp pháp.
Giám đốc Cục Thực thi của FCC, Loyaan Egal cho biết: “Chúng tôi sẽ hành động nhanh chóng và dứt khoát để đảm bảo rằng những kẻ xấu không thể sử dụng mạng viễn thông của Hoa Kỳ để tạo điều kiện cho việc lạm dụng công nghệ AI tổng hợp nhằm can thiệp vào các cuộc bầu cử, lừa gạt người tiêu dùng hoặc xâm phạm dữ liệu nhạy cảm”. trong một thông cáo báo chí.
“Nhà tư vấn chính trị” Steve Kramer là thủ phạm chính, mặc dù anh ta đã tranh thủ sự giúp đỡ của Life Corporation mờ ám (trước đây bị buộc tội thực hiện các cuộc gọi tự động bất hợp pháp) và các dịch vụ gọi điện của viễn thông mờ ám Lingo, AKA Americatel, AKA BullsEyeComm, AKA Clear Choice Communications, AKA Excel Viễn thông, AKA Impact Telecom, AKA Matrix Business Technologies, AKA Startec Global Communications, AKA Trinsic Communications, AKA VarTec Telecom.
Kramer “rõ ràng” đã vi phạm một số quy tắc – nhưng vẫn chưa có thủ tục tố tụng hình sự nào chống lại anh ta hoặc cộng tác viên của anh ta. Đây là một hạn chế về quyền lực của FCC: Họ phải làm việc với cơ quan thực thi pháp luật liên bang hoặc địa phương để tạo sức nặng cho các quyết định về trách nhiệm pháp lý của họ với tư cách là một cơ quan chuyên môn.
Khoản tiền phạt 6 triệu USD giống như mức trần hoặc nguyện vọng hơn; cũng như với FTC và các tổ chức khác, số tiền thực tế được trả thường ít hơn nhiều vì nhiều lý do, nhưng ngay cả như vậy, đó cũng là một số tiền đáng kể. Bước tiếp theo là Kramer phản hồi các cáo buộc, mặc dù các hành động riêng biệt đang được thực hiện chống lại Lingo hoặc bất cứ điều gì mà họ tự gọi mình là bây giờ đã bị bắt lại, điều này có thể dẫn đến bị phạt tiền hoặc bị mất giấy phép.
Giọng nói do AI tạo ra đã chính thức bị tuyên bố là bất hợp pháp khi sử dụng trong các cuộc gọi tự động vào tháng 2, sau khi trường hợp trên đặt ra câu hỏi liệu chúng có được tính là “nhân tạo” hay không – và FCC đã quyết định một cách khá hợp lý rằng chúng làm như vậy.
Chúng tôi đang tung ra bản tin AI! Đăng ký đây để bắt đầu nhận nó trong hộp thư đến của bạn vào ngày 5 tháng 6.
