Một nghiên cứu trên hơn 10 AI hẹn hò cho thấy những chatbot như vậy sẽ “nuôi dưỡng độc tính” và liên tục thu thập dữ liệu người dùng.
Theo nghiên cứu do tổ chức phi lợi nhuận Mozilla Foundation công bố vào ngày 14/2, 11 chatbot có chức năng “bạn gái AI” là không đáng tin cậy và thuộc danh mục sản phẩm “tệ nhất” về quyền riêng tư.
Một số mẫu bạn trai/bạn gái AI trong chatbot Replika. hình ảnh: bản sao
Misha Rykov, trưởng nhóm nghiên cứu cho biết: “Đằng sau vẻ ngoài lãng mạn của trí tuệ nhân tạo là một thực tế nguy hiểm tiềm ẩn”. Và thu thập rất nhiều dữ liệu từ bạn.
Nghiên cứu cho thấy 45% chatbot cho phép sử dụng mật khẩu yếu và 9/10 chatbot chia sẻ và bán dữ liệu cá nhân của người dùng. Một số chatbot, chẳng hạn như CrushOn.AI, thậm chí còn tuyên bố trong điều khoản người dùng rằng nền tảng này sẽ thu thập thông tin về sức khỏe tình dục, thuốc theo toa và xác định cụ thể giới tính của từng người. Một số chatbot tạo ra các nhân vật AI có bản chất bạo lực và khuyến khích các hành vi nguy hiểm như tự sát hoặc ám sát người khác.
Hầu hết các công ty trong danh sách phát hành chatbot đều chưa đưa ra bình luận nào. Đại diện của Replika, một chatbot lãng mạn nổi tiếng, cho biết họ thu thập dữ liệu “để cải thiện các cuộc trò chuyện và sẽ không bao giờ bán dữ liệu hoặc sử dụng dữ liệu đó cho các mục đích khác như quảng cáo”.
Đối với những người không thể vượt qua “AI Girlfriend”, Mozilla Foundation khuyến nghị họ không nên nói bất cứ điều gì mà họ không muốn đồng nghiệp hoặc gia đình đọc, sử dụng mật khẩu mạnh và hạn chế quyền truy cập vị trí, micrô hoặc máy ảnh. .
Nghiên cứu kết luận: “Bạn cũng không nên mua các công nghệ mới gây tổn hại đến bảo mật hoặc quyền riêng tư của mình, dù chúng có thể thú vị đến thế nào”.
Các chuyên gia trước đây đã nhiều lần cảnh báo về “bạn gái AI”, cho rằng sự phổ biến của những sản phẩm như vậy khiến nhiều người đàn ông ngại yêu người thật và từ chối kết hôn, sinh con. Liberty Vittert, giáo sư khoa học dữ liệu tại Đại học Washington, cho biết: “Nhiều đàn ông Mỹ có xu hướng tìm kiếm bạn gái ảo hơn là xây dựng những mối quan hệ phức tạp”. đồi Tháng 10 năm ngoái.
Rob Brooks, học giả tại Đại học New South Wales, cho rằng sự bùng phát của “bạn gái AI” gần đây là tín hiệu cảnh báo tới các nhà quản lý về tác động của AI đến đời sống thực. Anh lo ngại nó có thể tạo ra những thói quen xấu cho người dùng và tạo ra những kỳ vọng không thực tế khi họ đang tìm kiếm đối tác.
Brooks nói: “Ngay cả khi công nghệ không mô phỏng hoàn toàn mối quan hệ giữa con người với nhau, một số người vẫn cho rằng có còn hơn không. người giám hộ. “Có thể chấp nhận được việc một công ty đột ngột thay đổi sản phẩm và xóa bỏ tất cả tình bạn và sự lãng mạn mà người dùng đã xây dựng? Hay chúng tôi mong đợi người dùng xem mối quan hệ AI là mối quan hệ giữa con người với nhau? Mối quan hệ thực sự?”
Belinda Barnet, giảng viên truyền thông tại Đại học Swinburne ở Australia, cũng tin rằng các chatbot AI lãng mạn có thể đáp ứng nhu cầu của người dùng, nhưng điều đó còn phụ thuộc vào quy định và cách thức đào tạo, tương tự như các AI khác. Barnett nói: “Vẫn chưa thể xác định tác động thực sự. Chúng tôi cần thêm quy định, đặc biệt là về cách đào tạo các hệ thống như vậy”.
