Trước các vấn đề đang diễn ra xung quanh việc các công ty công nghệ lớn đang chiếm đoạt dữ liệu từ các cá nhân và doanh nghiệp trong việc đào tạo các dịch vụ AI, một cơn bão đang nổi lên trong số những người dùng Slack khó chịu về cách nền tảng trò chuyện thuộc sở hữu của Salesforce đang tiến hành tầm nhìn AI của nó.
Công ty, giống như nhiều công ty khác, đang khai thác dữ liệu người dùng của chính mình để đào tạo một số dịch vụ AI mới của mình. Tuy nhiên, hóa ra là nếu không muốn Slack sử dụng dữ liệu của mình, bạn phải gửi email cho công ty để từ chối.
Và các điều khoản của sự tham gia đó được giấu đi những gì có vẻ là một chính sách quyền riêng tư lỗi thời, khó hiểu mà không ai chú ý đến. Đó là trường hợp của Slack, cho đến khi một người khó chịu đăng về họ trên một trang cộng đồng cực kỳ phổ biến với các nhà phát triển, và sau đó bài đăng đó lan truyền… đó là những gì đã xảy ra ở đây.
Mọi chuyện bắt đầu vào đêm qua, khi một ghi chú trên Hacker News nêu ra vấn đề về cách Slack đào tạo các dịch vụ AI của mình, bằng cách liên kết thẳng đến các nguyên tắc bảo mật của nó, không cần bình luận gì thêm. Bài đăng đó đã bắt đầu một cuộc trò chuyện dài hơn – và điều có vẻ như là tin tức đối với người dùng Slack hiện tại – rằng Slack chọn người dùng tham gia chương trình đào tạo AI theo mặc định và bạn cần gửi email đến một địa chỉ cụ thể để chọn không tham gia.
Chủ đề Hacker News đó sau đó đã thúc đẩy nhiều cuộc trò chuyện và câu hỏi trên các nền tảng khác: Có một sản phẩm mới, được đặt tên chung chung tên là “Slack AI” cho phép người dùng tìm kiếm câu trả lời và tóm tắt các chủ đề cuộc trò chuyện, cùng nhiều thứ khác, nhưng tại sao điều đó lại không được nhắc đến một lần. nêu tên trên trang nguyên tắc quyền riêng tư đó bằng bất kỳ cách nào, thậm chí để làm rõ liệu chính sách quyền riêng tư có áp dụng cho trang đó hay không? Và tại sao Slack lại tham chiếu cả “mô hình toàn cầu” và “mô hình AI”?
Giữa việc mọi người bối rối về việc Slack đang áp dụng các nguyên tắc bảo mật AI của mình ở đâu và việc mọi người ngạc nhiên và khó chịu với ý tưởng gửi email để từ chối – tại một công ty quảng cáo rầm rộ rằng “Bạn kiểm soát dữ liệu của mình” – Slack làm như vậy không diễn ra tốt đẹp.
Cú sốc có thể mới, nhưng các điều khoản thì không. Theo các trang trên Internet Archive, các điều khoản này đã được áp dụng ít nhất từ tháng 9 năm 2023. (Chúng tôi đã yêu cầu công ty xác nhận.)
Theo chính sách quyền riêng tư, Slack đang sử dụng dữ liệu khách hàng cụ thể để đào tạo “các mô hình toàn cầu”, mà Slack sử dụng để cung cấp các đề xuất về kênh và biểu tượng cảm xúc cũng như kết quả tìm kiếm. Slack cho chúng tôi biết rằng việc sử dụng dữ liệu của nó có những giới hạn cụ thể.
“Slack có các mô hình học máy cấp nền tảng cho những thứ như đề xuất kênh và biểu tượng cảm xúc cũng như kết quả tìm kiếm. Chúng tôi không xây dựng hoặc đào tạo những mô hình này theo cách mà chúng có thể học, ghi nhớ hoặc có thể tái tạo một phần dữ liệu khách hàng”, người phát ngôn của công ty nói với TechCrunch. Tuy nhiên, chính sách này dường như không đề cập đến phạm vi tổng thể và các kế hoạch rộng hơn của công ty trong việc đào tạo các mô hình AI.
Theo thuật ngữ của mình, Slack nói rằng nếu khách hàng từ chối đào tạo dữ liệu, họ vẫn sẽ được hưởng lợi từ “các mô hình AI/ML được đào tạo toàn cầu” của công ty. Nhưng một lần nữa, trong trường hợp đó, vẫn chưa rõ tại sao công ty lại sử dụng dữ liệu khách hàng ngay từ đầu để hỗ trợ các tính năng như đề xuất biểu tượng cảm xúc.
Công ty cũng cho biết họ không sử dụng dữ liệu khách hàng để đào tạo Slack AI.
“Slack AI là một tiện ích bổ sung được mua riêng sử dụng Mô hình ngôn ngữ lớn (LLM) nhưng không đào tạo các LLM đó trên dữ liệu khách hàng. Slack AI sử dụng LLM được lưu trữ trực tiếp trong cơ sở hạ tầng AWS của Slack, do đó dữ liệu khách hàng vẫn được lưu trữ nội bộ và không được chia sẻ với bất kỳ nhà cung cấp LLM nào. Điều này đảm bảo rằng dữ liệu khách hàng nằm trong sự kiểm soát của tổ chức đó và dành riêng cho việc sử dụng của tổ chức đó”, người phát ngôn cho biết.
Một số nhầm lẫn có thể sẽ sớm được giải quyết. Khi trả lời một quan điểm quan trọng về Chủ đề từ kỹ sư và nhà văn Gergely Orosz, kỹ sư Aaron Maurer của Slack đã thừa nhận rằng công ty cần cập nhật trang để phản ánh “cách các nguyên tắc quyền riêng tư này hoạt động với Slack AI”.
Maurer nói thêm rằng những điều khoản này được viết vào thời điểm công ty chưa có Slack AI và những quy tắc này phản ánh công việc của công ty về tìm kiếm và đề xuất. Sẽ rất đáng để kiểm tra các điều khoản cho các bản cập nhật trong tương lai, do có sự nhầm lẫn xung quanh những gì Slack hiện đang làm với AI của mình.
Các vấn đề tại Slack là một lời nhắc nhở rõ ràng rằng, trong thế giới phát triển AI đang phát triển nhanh chóng, quyền riêng tư của người dùng không phải là vấn đề cần cân nhắc và các điều khoản dịch vụ của công ty phải nêu rõ cách thức và thời điểm dữ liệu được sử dụng hoặc nếu không.
