Cơ quan giám sát bảo vệ dữ liệu của Vương quốc Anh đã kết thúc cuộc điều tra kéo dài gần một năm về chatbot AI của Snap, My AI – cho biết họ hài lòng khi công ty truyền thông xã hội này giải quyết những lo ngại về rủi ro đối với quyền riêng tư của trẻ em. Đồng thời, Văn phòng Ủy viên Thông tin (ICO) đã đưa ra cảnh báo chung cho ngành phải chủ động đánh giá rủi ro đối với quyền của người dân trước khi đưa các công cụ AI có tính sáng tạo ra thị trường.
GenAI đề cập đến một dạng AI thường làm nền tảng cho việc tạo nội dung. Trong trường hợp của Snap, công nghệ này hỗ trợ một chatbot có thể phản hồi người dùng theo cách giống con người, chẳng hạn như gửi tin nhắn văn bản và ảnh chụp nhanh, cho phép nền tảng này cung cấp tương tác tự động.
Chatbot AI của Snap được hỗ trợ bởi ChatGPT của OpenAI, nhưng công ty truyền thông xã hội cho biết họ áp dụng nhiều biện pháp bảo vệ khác nhau cho ứng dụng, bao gồm lập trình hướng dẫn và xem xét độ tuổi theo mặc định, nhằm ngăn trẻ em xem nội dung không phù hợp với lứa tuổi. Nó cũng hoạt động trong sự kiểm soát của phụ huynh.
Stephen Almond, giám đốc điều hành rủi ro pháp lý của ICO, đã viết trong một tuyên bố hôm thứ Ba: “Cuộc điều tra của chúng tôi về 'AI của tôi' sẽ đóng vai trò như một phát súng cảnh báo cho ngành công nghiệp. “Các tổ chức phát triển hoặc sử dụng AI tổng hợp phải xem xét việc bảo vệ dữ liệu ngay từ đầu, bao gồm việc đánh giá và giảm thiểu rủi ro nghiêm ngặt đối với quyền và tự do của con người trước khi đưa sản phẩm ra thị trường.”
Ông nói thêm: “Chúng tôi sẽ tiếp tục giám sát các đánh giá rủi ro của các tổ chức và sử dụng toàn bộ quyền lực thực thi của mình – bao gồm cả tiền phạt – để bảo vệ công chúng khỏi bị tổn hại”.
Trở lại vào tháng 10, ICO đã gửi cho Snap một thông báo thực thi sơ bộ về những gì họ mô tả là “có khả năng không đánh giá đúng các rủi ro về quyền riêng tư do chatbot AI tổng hợp 'My AI'' gây ra.
Thông báo sơ bộ vào mùa thu năm ngoái dường như là lời khiển trách công khai duy nhất dành cho Snap. Về lý thuyết, chế độ này có thể phạt tiền lên tới 4% doanh thu hàng năm của công ty trong trường hợp vi phạm dữ liệu được xác nhận.
Khi công bố kết luận của cuộc điều tra hôm thứ Ba, ICO đề nghị công ty thực hiện “các bước quan trọng để thực hiện đánh giá kỹ lưỡng hơn về các rủi ro do 'My AI'' gây ra”, sau sự can thiệp của họ. ICO cũng cho biết Snap đã có thể chứng minh rằng họ đã thực hiện “các biện pháp giảm nhẹ thích hợp” để giải quyết những lo ngại được nêu ra – mà không cần nêu rõ các biện pháp bổ sung nào (nếu có) mà công ty đã thực hiện (chúng tôi đã yêu cầu).
Thông tin chi tiết có thể sẽ được công bố khi quyết định cuối cùng của cơ quan quản lý được công bố trong những tuần tới.
“ICO hài lòng rằng Snap hiện đã thực hiện đánh giá rủi ro liên quan đến 'AI của tôi' tuân thủ luật bảo vệ dữ liệu. ICO sẽ tiếp tục theo dõi việc triển khai 'AI AI của tôi' và cách giải quyết các rủi ro mới nổi”, cơ quan quản lý cho biết thêm.
Để có được phản hồi về kết luận điều tra, người phát ngôn của Snap đã gửi cho chúng tôi một tuyên bố — viết: “Chúng tôi rất vui vì ICO đã chấp nhận rằng chúng tôi đưa ra các biện pháp thích hợp để bảo vệ cộng đồng của mình khi sử dụng AI của tôi. Mặc dù chúng tôi đã đánh giá cẩn thận các rủi ro do AI của tôi gây ra, nhưng chúng tôi chấp nhận rằng đánh giá của chúng tôi đáng lẽ có thể được ghi lại rõ ràng hơn và đã thực hiện các thay đổi đối với quy trình toàn cầu của chúng tôi để phản ánh phản hồi mang tính xây dựng của ICO. Chúng tôi hoan nghênh kết luận của ICO rằng đánh giá rủi ro của chúng tôi hoàn toàn tuân thủ luật bảo vệ dữ liệu của Vương quốc Anh và mong muốn tiếp tục mối quan hệ hợp tác mang tính xây dựng của chúng tôi.”
Snap từ chối chỉ định bất kỳ biện pháp giảm nhẹ nào mà họ đã thực hiện để đáp lại sự can thiệp của ICO.
Cơ quan quản lý Vương quốc Anh cho biết AI sáng tạo vẫn là ưu tiên thực thi. Nó hướng dẫn các nhà phát triển hướng dẫn nó được tạo ra dựa trên các quy tắc bảo vệ dữ liệu và AI. Nó cũng có một cuộc tư vấn mở để yêu cầu đóng góp ý kiến về cách áp dụng luật quyền riêng tư cho việc phát triển và sử dụng các mô hình AI tổng quát.
Trong khi Vương quốc Anh vẫn chưa đưa ra luật chính thức cho AI, vì chính phủ đã chọn dựa vào các cơ quan quản lý như ICO để xác định cách áp dụng các quy tắc hiện hành khác nhau, các nhà lập pháp Liên minh Châu Âu vừa phê duyệt một khuôn khổ dựa trên rủi ro cho AI – điều đó sẽ được áp dụng trong những tháng và năm tới – bao gồm các nghĩa vụ minh bạch đối với các chatbot AI.
