EU cảnh báo Microsoft có thể bị phạt hàng tỷ USD vì thiếu thông tin rủi ro GenAI

EU cảnh báo Microsoft có thể bị phạt hàng tỷ USD vì thiếu thông tin rủi ro GenAI

Liên minh Châu Âu đã cảnh báo Microsoft rằng họ có thể bị phạt tới 1% doanh thu hàng năm trên toàn cầu theo chế độ quản trị trực tuyến của khối, Đạo luật Dịch vụ Kỹ thuật số (DSA), sau khi công ty không đáp ứng yêu cầu thông tin ràng buộc về mặt pháp lý (RFI). ) tập trung vào các công cụ AI tổng quát của nó.

Trở lại vào tháng 3, EU đã yêu cầu Microsoft và một số gã khổng lồ công nghệ khác cung cấp thông tin về các rủi ro hệ thống do các công cụ AI tạo ra. Hôm thứ Sáu, Ủy ban cho biết Microsoft đã không cung cấp một số tài liệu mà họ yêu cầu.

Ủy ban đã cho công ty thời hạn đến ngày 27 tháng 5 để cung cấp dữ liệu được yêu cầu hoặc thực thi rủi ro. Các khoản tiền phạt theo DSA có thể lên tới 6% doanh thu hàng năm trên toàn cầu, nhưng thông tin không chính xác, không đầy đủ hoặc sai lệch được cung cấp theo RFI chính thức có thể dẫn đến mức phạt riêng lẻ là 1%. Trong trường hợp của Microsoft, điều đó có thể dẫn đến mức phạt lên tới vài tỷ đô la – công ty đã báo cáo doanh thu 211,92 tỷ đô la trong năm tài chính kết thúc vào ngày 30 tháng 6 năm 2023.

Nghĩa vụ rủi ro hệ thống của các nền tảng lớn hơn theo DSA được chính Ủy ban giám sát và cảnh báo này nằm trên hộp công cụ gồm các tùy chọn thực thi mạnh mẽ có thể khiến Microsoft tốn kém hơn nhiều so với bất kỳ sự cố danh tiếng nào mà công ty có thể gặp phải do không sản xuất dữ liệu theo yêu cầu.

Ủy ban cho biết họ thiếu thông tin liên quan đến rủi ro xuất phát từ các tính năng AI tổng hợp của công cụ tìm kiếm Bing – đáng chú ý là cơ quan quản lý đã nhấn mạnh trợ lý AI “Copilot in Bing” và công cụ tạo hình ảnh “Image Creator by Designer”.

EU cho biết họ đặc biệt lo ngại về bất kỳ rủi ro nào mà các công cụ này có thể gây ra đối với quá trình tranh luận dân sự và bầu cử.

Ủy ban đã cho Microsoft thời hạn đến ngày 27 tháng 5 để cung cấp thông tin còn thiếu nếu không có nguy cơ bị phạt 1% doanh thu hàng năm. Nếu đến thời điểm đó, công ty không cung cấp được dữ liệu, Ủy ban cũng có thể áp dụng “các hình phạt định kỳ” lên tới 5% thu nhập trung bình hàng ngày hoặc doanh thu hàng năm trên toàn thế giới.

Bing được chỉ định là “công cụ tìm kiếm trực tuyến rất lớn” (VLOSE) theo DSA vào tháng 4 năm 2023, nghĩa là nó phải chịu thêm một lớp nghĩa vụ liên quan đến việc giảm thiểu rủi ro hệ thống như thông tin sai lệch.

Nghĩa vụ của DSA đối với các nền tảng lớn hơn là giảm thiểu thông tin sai lệch đặt các công nghệ AI tổng hợp vào khuôn khổ. Những gã khổng lồ công nghệ đã đi đầu trong việc đưa GenAI vào nền tảng chính thống của họ bất chấp những sai sót rõ ràng như xu hướng các mô hình ngôn ngữ lớn (LLM) chế tạo thông tin trong khi trình bày nó như sự thật.

Các công cụ tạo hình ảnh được hỗ trợ bởi AI cũng đã được chứng minh là tạo ra kết quả phân biệt chủng tộc hoặc có khả năng gây hại, chẳng hạn như các tác phẩm sâu gây hiểu lầm. Trong khi đó, EU sắp tổ chức một cuộc bầu cử vào tháng tới, cuộc bầu cử này đang tập trung tâm trí ở Brussels vào những thông tin chính trị sai lệch do AI thúc đẩy.

“Yêu cầu cung cấp thông tin dựa trên sự nghi ngờ rằng Bing có thể đã vi phạm DSA vì các rủi ro liên quan đến AI tổng hợp, chẳng hạn như cái gọi là 'ảo giác', việc phát tán virus sâu của các tác phẩm giả mạo cũng như việc thao túng tự động các dịch vụ có thể gây hiểu lầm. cử tri,” Ủy ban viết trong một thông cáo báo chí.

“Theo DSA, các dịch vụ được chỉ định, bao gồm Bing, phải thực hiện đánh giá rủi ro đầy đủ và áp dụng các biện pháp giảm thiểu rủi ro tương ứng (Điều 34 và 35 của DSA). AI sáng tạo là một trong những rủi ro được Ủy ban xác định trong hướng dẫn về tính toàn vẹn của các quy trình bầu cử, đặc biệt là đối với cuộc bầu cử sắp tới tại Nghị viện Châu Âu vào tháng 6.”

Microsoft đã không trả lời ngay lập tức yêu cầu bình luận.

EU tăng cường giám sát các nền tảng chính về rủi ro GenAI trước cuộc bầu cử