Công ty khởi nghiệp AI Anthropic đang thay đổi chính sách của mình để cho phép trẻ vị thành niên sử dụng hệ thống AI tổng quát của mình – ít nhất là trong một số trường hợp nhất định.
Được công bố trong một bài đăng trên blog chính thức của công ty vào thứ Sáu, Anthropic sẽ bắt đầu cho phép thanh thiếu niên và trẻ vị thành niên sử dụng các ứng dụng của bên thứ ba (nhưng không nhất thiết phải là ứng dụng của riêng họ) được cung cấp bởi các mô hình AI của họ, miễn là các nhà phát triển ứng dụng đó triển khai các tính năng an toàn cụ thể và tiết lộ cho người dùng những công nghệ Anthropic mà họ đang tận dụng.
Trong một bài viết hỗ trợ, Anthropic liệt kê một số biện pháp an toàn mà các nhà phát triển tạo ứng dụng hỗ trợ AI cho trẻ vị thành niên nên bao gồm, như hệ thống xác minh độ tuổi, kiểm duyệt và lọc nội dung cũng như các tài nguyên giáo dục về cách sử dụng AI “an toàn và có trách nhiệm” cho trẻ vị thành niên. Công ty cũng cho biết họ có thể cung cấp “các biện pháp kỹ thuật” nhằm điều chỉnh trải nghiệm sản phẩm AI cho trẻ vị thành niên, chẳng hạn như “lời nhắc về hệ thống an toàn cho trẻ em” mà các nhà phát triển nhắm mục tiêu đến trẻ vị thành niên sẽ phải thực hiện.
Các nhà phát triển sử dụng mô hình AI của Anthropic cũng sẽ phải tuân thủ các quy định về quyền riêng tư dữ liệu và an toàn cho trẻ em “hiện hành”, chẳng hạn như Đạo luật bảo vệ quyền riêng tư trực tuyến của trẻ em (COPPA), luật liên bang Hoa Kỳ bảo vệ quyền riêng tư trực tuyến của trẻ em dưới 13 tuổi. Anthropic cho biết họ có kế hoạch để kiểm tra “định kỳ” các ứng dụng về việc tuân thủ, đình chỉ hoặc chấm dứt tài khoản của những người liên tục vi phạm yêu cầu tuân thủ và yêu cầu các nhà phát triển “tuyên bố rõ ràng” trên các trang web hoặc tài liệu công khai rằng họ tuân thủ.
Anthropic viết trong bài đăng: “Có một số trường hợp sử dụng nhất định mà các công cụ AI có thể mang lại lợi ích đáng kể cho người dùng trẻ tuổi, chẳng hạn như luyện thi hoặc hỗ trợ dạy kèm”. “Với suy nghĩ này, chính sách cập nhật của chúng tôi cho phép các tổ chức kết hợp API của chúng tôi vào các sản phẩm dành cho trẻ vị thành niên của họ.”
Sự thay đổi chính sách của Anthropic diễn ra khi trẻ em và thanh thiếu niên ngày càng chuyển sang sử dụng các công cụ AI tổng quát để trợ giúp không chỉ trong bài tập ở trường mà cả các vấn đề cá nhân, đồng thời khi các nhà cung cấp AI cạnh tranh – bao gồm Google và OpenAI – đang khám phá nhiều trường hợp sử dụng hơn nhắm vào trẻ em. Năm nay, OpenAI đã thành lập một nhóm mới để nghiên cứu về an toàn trẻ em và công bố hợp tác với Common Sense Media để cộng tác xây dựng các nguyên tắc AI thân thiện với trẻ em. Và Google đã tạo ra chatbot Bard của mình, sau khi được đổi tên thành Gemini, có sẵn cho thanh thiếu niên bằng tiếng Anh ở một số khu vực được chọn.
Theo một cuộc thăm dò từ Trung tâm Dân chủ và Công nghệ, 29% trẻ em cho biết đã sử dụng AI tổng hợp như ChatGPT của OpenAI để giải quyết các vấn đề lo lắng hoặc sức khỏe tâm thần, 22% cho các vấn đề với bạn bè và 16% cho các xung đột trong gia đình.
Mùa hè năm ngoái, các trường học và cao đẳng đã gấp rút cấm các ứng dụng AI mang tính sáng tạo – đặc biệt là ChatGPT – vì lo ngại đạo văn và thông tin sai lệch. Kể từ đó, một số đã đảo ngược lệnh cấm của họ. Nhưng không phải tất cả đều bị thuyết phục về tiềm năng tốt đẹp của AI sáng tạo, chỉ ra các cuộc khảo sát như Trung tâm Internet An toàn hơn của Vương quốc Anh, cho thấy hơn một nửa số trẻ em (53%) cho biết đã thấy những người ở độ tuổi của chúng sử dụng AI sáng tạo theo cách tiêu cực – ví dụ như tạo ra thông tin hoặc hình ảnh sai lệch đáng tin cậy được sử dụng để làm ai đó khó chịu (bao gồm cả nội dung giả mạo khiêu dâm).
Những lời kêu gọi hướng dẫn về cách trẻ em sử dụng AI sáng tạo đang ngày càng tăng.
Tổ chức Giáo dục, Khoa học và Văn hóa của Liên Hợp Quốc (UNESCO) vào cuối năm ngoái đã thúc đẩy các chính phủ quản lý việc sử dụng AI trong giáo dục, bao gồm thực hiện giới hạn độ tuổi đối với người dùng và các biện pháp bảo vệ dữ liệu và quyền riêng tư của người dùng. Audrey Azoulay, Tổng giám đốc UNESCO, cho biết trong một thông cáo báo chí: “Gener AI có thể là một cơ hội to lớn cho sự phát triển của con người, nhưng nó cũng có thể gây ra tác hại và định kiến”. “Nó không thể được tích hợp vào giáo dục nếu không có sự tham gia của công chúng cũng như các biện pháp bảo vệ và quy định cần thiết từ chính phủ.”
