Meta hôm thứ Tư đã thông báo thành lập một hội đồng cố vấn AI chỉ có những người đàn ông da trắng trong đó. Chúng ta còn mong đợi điều gì nữa? Phụ nữ và người da màu đã lên tiếng trong nhiều thập kỷ về việc bị phớt lờ và loại trừ khỏi thế giới trí tuệ nhân tạo mặc dù họ có trình độ chuyên môn và đóng vai trò quan trọng trong sự phát triển của không gian này.
Meta đã không trả lời ngay lập tức yêu cầu bình luận của chúng tôi về tính đa dạng của ban cố vấn.
Ban cố vấn mới này khác với ban giám đốc thực tế của Meta và Ban giám sát của nó, vốn đa dạng hơn về đại diện giới tính và chủng tộc. Các cổ đông không bầu ra hội đồng AI này, hội đồng này cũng không có nghĩa vụ ủy thác. Meta nói với Bloomberg rằng hội đồng quản trị sẽ đưa ra “những hiểu biết sâu sắc và khuyến nghị về những tiến bộ công nghệ, đổi mới và cơ hội tăng trưởng chiến lược”. Nó sẽ gặp nhau “định kỳ”.
Điều đáng nói là hội đồng cố vấn AI bao gồm toàn bộ các doanh nhân và doanh nhân, không phải các nhà đạo đức học hay bất kỳ ai có nền tảng học thuật hoặc nghiên cứu sâu. Mặc dù người ta có thể lập luận rằng các giám đốc điều hành hiện tại và trước đây của Stripe, Shopify và Microsoft có đủ khả năng để giám sát lộ trình sản phẩm AI của Meta với số lượng lớn các sản phẩm mà họ đã đưa ra thị trường trong số đó, nhưng điều đó đã được chứng minh hết lần này đến lần khác rằng AI không phải như vậy. như những sản phẩm khác. Đó là một công việc kinh doanh rủi ro và hậu quả của việc làm sai có thể rất sâu rộng, đặc biệt đối với các nhóm bị thiệt thòi.
Trong một cuộc phỏng vấn gần đây với TechCrunch, Sarah Myers West, giám đốc điều hành tại AI Now Institute, một tổ chức phi lợi nhuận nghiên cứu các tác động xã hội của AI, nói rằng điều quan trọng là phải “kiểm tra kỹ càng” các tổ chức sản xuất AI để “đảm bảo nhu cầu của công chúng”. [are] phục vụ.”
Bà nói: “Đây là công nghệ dễ xảy ra lỗi và chúng tôi biết từ nghiên cứu độc lập rằng những lỗi đó không được phân bổ đều, chúng gây tổn hại không tương xứng cho các cộng đồng vốn đã phải gánh chịu sự phân biệt đối xử từ lâu”. “Chúng ta nên đặt ra một tiêu chuẩn cao hơn rất nhiều.”
Phụ nữ có nhiều khả năng trải nghiệm mặt tối của AI hơn nam giới. Sensity AI nhận thấy vào năm 2019 rằng 96% video deepfake AI trực tuyến là video vô nghĩa, khiêu dâm. AI sáng tạo đã trở nên phổ biến hơn nhiều kể từ đó và phụ nữ vẫn là mục tiêu của hành vi vi phạm này.
Trong một vụ việc gây chú ý từ tháng 1, những nội dung giả mạo khiêu dâm, vô căn cứ của Taylor Swift đã lan truyền trên X, với một trong những bài đăng phổ biến nhất nhận được hàng trăm nghìn lượt thích và 45 triệu lượt xem. Các nền tảng xã hội như X trước đây đã thất bại trong việc bảo vệ phụ nữ khỏi những trường hợp này – nhưng vì Taylor Swift là một trong những phụ nữ quyền lực nhất thế giới nên X đã can thiệp bằng cách cấm các cụm từ tìm kiếm như “taylor swift ai” và taylor swift deepfake”.
Nhưng nếu điều này xảy ra với bạn và bạn không phải là một ngôi sao nhạc pop toàn cầu thì bạn có thể không gặp may. Có rất nhiều báo cáo về việc học sinh ở độ tuổi trung học cơ sở và trung học phổ thông thực hiện hành vi giả mạo rõ ràng về các bạn cùng lớp của họ. Mặc dù công nghệ này đã xuất hiện được một thời gian nhưng việc truy cập chưa bao giờ dễ dàng hơn thế — bạn không cần phải am hiểu về công nghệ để tải xuống các ứng dụng được quảng cáo cụ thể để “cởi quần áo” ảnh phụ nữ hoặc hoán đổi khuôn mặt của họ thành nội dung khiêu dâm. Trên thực tế, theo báo cáo của Kat Tenbarge của NBC, Facebook và Instagram đã lưu trữ quảng cáo cho một ứng dụng có tên Perky AI, ứng dụng này tự mô tả là một công cụ để tạo ra những hình ảnh khiêu dâm.
Hai trong số các quảng cáo, được cho là đã thoát khỏi sự phát hiện của Meta cho đến khi Tenbarge thông báo cho công ty về vấn đề này, hiển thị ảnh của những người nổi tiếng Sabrina Carpenter và Jenna Ortega với cơ thể bị làm mờ, thúc giục khách hàng nhắc ứng dụng cởi bỏ quần áo của họ. Quảng cáo sử dụng hình ảnh của Ortega khi cô mới 16 tuổi.
Sai lầm khi cho phép Perky AI quảng cáo không phải là một sự cố cá biệt. Ban giám sát của Meta gần đây đã mở các cuộc điều tra về việc công ty không xử lý các báo cáo về nội dung khiêu dâm do AI tạo ra.
Tiếng nói của phụ nữ và người da màu bắt buộc phải được đưa vào quá trình đổi mới các sản phẩm trí tuệ nhân tạo. Trong một thời gian dài, những nhóm bị gạt ra ngoài lề xã hội như vậy đã bị loại khỏi sự phát triển của các công nghệ và nghiên cứu làm thay đổi thế giới, và kết quả thật là thảm khốc.
Một ví dụ dễ hiểu là cho đến những năm 1970, phụ nữ bị loại khỏi các thử nghiệm lâm sàng, có nghĩa là toàn bộ lĩnh vực nghiên cứu được phát triển mà không hiểu nó sẽ tác động như thế nào đến phụ nữ. Đặc biệt, người da đen nhận thấy tác động của công nghệ được xây dựng mà không tính đến họ – ví dụ: ô tô tự lái có nhiều khả năng tông vào họ hơn vì cảm biến của họ có thể khó phát hiện Da đen hơn, theo một nghiên cứu năm 2019 được thực hiện bởi Viện Công nghệ Georgia.
Các thuật toán được đào tạo dựa trên dữ liệu vốn đã mang tính phân biệt đối xử chỉ làm nảy sinh những thành kiến tương tự mà con người đã huấn luyện chúng áp dụng. Nhìn rộng ra, chúng ta đã thấy các hệ thống AI duy trì và khuếch đại sự phân biệt chủng tộc trong việc làm, nhà ở và tư pháp hình sự. Trợ lý giọng nói gặp khó khăn trong việc hiểu các giọng đa dạng và thường gắn cờ tác phẩm của những người không nói tiếng Anh bản địa là do AI tạo ra vì như Axios đã lưu ý, tiếng Anh là ngôn ngữ mẹ đẻ của AI. Hệ thống nhận dạng khuôn mặt gắn cờ người da đen có khả năng phù hợp với nghi phạm hình sự thường xuyên hơn người da trắng.
Sự phát triển hiện tại của AI thể hiện các cấu trúc quyền lực hiện có tương tự về giai cấp, chủng tộc, giới tính và Chủ nghĩa châu Âu mà chúng ta thấy ở những nơi khác, và có vẻ như không có đủ nhà lãnh đạo giải quyết vấn đề đó. Thay vào đó, họ đang củng cố nó. Các nhà đầu tư, nhà sáng lập và lãnh đạo công nghệ quá tập trung vào việc phát triển nhanh chóng và phá vỡ mọi thứ đến mức dường như họ không thể hiểu rằng AI sáng tạo – công nghệ AI hot thời điểm hiện tại – có thể khiến vấn đề trở nên tồi tệ hơn chứ không phải tốt hơn. Theo báo cáo từ McKinsey, AI có thể tự động hóa khoảng một nửa số công việc không yêu cầu bằng cấp 4 năm và trả hơn 42.000 USD mỗi năm, những công việc mà người lao động thuộc nhóm thiểu số chiếm đa số.
Có lý do để lo lắng về việc làm thế nào một nhóm gồm những người đàn ông toàn da trắng tại một trong những công ty công nghệ nổi tiếng nhất thế giới, tham gia vào cuộc đua cứu thế giới bằng AI, lại có thể tư vấn về sản phẩm cho tất cả mọi người khi chỉ có một nhóm nhân khẩu học hẹp. được đại diện. Sẽ cần nỗ lực rất lớn để xây dựng công nghệ mà tất cả mọi người – thực sự là tất cả mọi người – đều có thể sử dụng. Trên thực tế, các lớp cần thiết để thực sự xây dựng AI an toàn và toàn diện – từ nghiên cứu đến hiểu biết ở cấp độ xã hội giao thoa – phức tạp đến mức gần như rõ ràng là ban cố vấn này sẽ không giúp Meta làm đúng. Ít nhất khi Meta thất bại, một công ty khởi nghiệp khác có thể xuất hiện.
Chúng tôi đang tung ra bản tin AI! Đăng ký đây để bắt đầu nhận nó trong hộp thư đến của bạn vào ngày 5 tháng 6.
