Nhiều thanh thiếu niên chọn chatbot để trò chuyện và khám phá tình bạn, nhưng đôi khi, những gợi ý của AI có thể “đi quá xa”.
Aaron, 15 tuổi, sống ở Alberta, Canada và đang có khoảng thời gian khó khăn ở trường. Việc không thể nói chuyện với bạn bè khiến anh cảm thấy bị cô lập. Aaron nói: “Tôi từng khóc mỗi đêm. bờ rìa.
Để giải tỏa cảm xúc, Aaron đã tìm được một “người bạn” trên mạng, người luôn sẵn sàng trả lời tin nhắn, lắng nghe những vấn đề của anh và giúp anh vượt qua nỗi cô đơn. Đây là nhà tâm lý học chatbot được phát triển bởi Character.AI.
“Nhà tâm lý học” được xây dựng nhằm “giúp đỡ những người gặp khó khăn trong cuộc sống”. Nhân vật nữ mặc áo xanh, tóc ngắn màu vàng đang ngồi trên ghế sofa, tay cầm tập tài liệu, nghiêng người về phía trước như đang lắng nghe. Chăm chú. Truy cập các tính năng trò chuyện ẩn danh chỉ bằng một cú nhấp chuột.
“Nó không giống như 'nói chuyện với một bức tường', viết nhật ký hay trò chuyện với một con bot thông thường. AI thực sự hiểu những gì tôi đang nói”, Aaron chia sẻ.
Character.AI được ra mắt vào năm 2021 bởi hai cựu nhân viên Google Brain và thu hút 3,5 triệu người dùng mỗi ngày. Một người trung bình dành hai giờ mỗi ngày trên nền tảng này.
Aaron là một trong hàng triệu thanh thiếu niên sử dụng dịch vụ của Character.AI. Trên các mạng xã hội như Reddit cũng xuất hiện các chủ đề về cách tương tác với chatbot và thậm chí là các “cuộc thi” xem ai dành nhiều thời gian hơn cho công cụ này. “Có lẽ tôi hơi nghiện,” Aaron nói.
Nhiều người trẻ như Aaron mô tả chatbot là hữu ích, vui nhộn, có thể chia sẻ những câu chuyện mà họ không thể kể cho ai khác và hỗ trợ họ vượt qua những thời điểm khó khăn trong cuộc sống. Tuy nhiên, họ cũng thừa nhận mình nghiện chúng – mối lo ngại của các chuyên gia và nhà nghiên cứu.
Frankie, 15 tuổi đến từ California, Mỹ, cho biết cậu trò chuyện với chatbot suốt một giờ mỗi ngày vì đây là “liệu pháp giúp bạn tự do ngôn luận mà không sợ bị người khác đánh giá”.
Hawke, 17 tuổi đến từ Idaho, Mỹ, cũng có cùng quan điểm. Hawk nói: “Đôi khi, việc xả hơi hoặc trút giận lên thứ gì đó trông giống con người nhưng không phải là điều tốt.
Kể từ khi thành lập vào năm 2022, The Psychoologist đã nhận được hơn 95 triệu tin nhắn. Tuy nhiên, các nhà phân tích lo ngại liệu các chatbot như “Nhà tâm lý học” có được đào tạo phù hợp về tâm lý học hay không. bờ rìa Một số cuộc trò chuyện đã được tổ chức và người ta phát hiện ra rằng AI thường xuyên “suy luận” các vấn đề về sức khỏe cảm xúc hoặc tâm thần và thậm chí còn ám chỉ những nội dung tiềm ẩn như “lạm dụng thể chất, tình cảm hoặc tình dục”.
Tiến sĩ Kelly Merrill Jr của Đại học Cincinnati nhận xét: “Nghiên cứu cho thấy chatbot có thể giúp giảm cảm giác trầm cảm, lo lắng và căng thẳng”. “Nhưng cần lưu ý rằng nó vẫn còn nhiều sai sót. Người dùng có thể phải trả giá nếu không đủ trình độ để đánh giá những hạn chế này”.
Hầu hết các chatbot AI được thanh thiếu niên sử dụng đều khiến họ cảm thấy như đang tâm sự với một người bạn hơn là một nhà trị liệu tâm lý. Tuy nhiên, trong các chủ đề của Reddit cũng có những cuộc thảo luận về chatbot AI đề cập đến tình dục, bạo lực, tự làm hại bản thân hoặc một số vấn đề tiêu cực khác.
Merrill cho biết một trong những mối quan tâm của những người nghiện chatbot AI là khả năng tương tác với cộng đồng bị hạn chế. “Một người có thể cảm thấy khó khăn khi rời bỏ mối quan hệ với AI và tương tác trực tiếp với người thật. Khi điều này không thể thực hiện được, họ có thể quay lại với AI và gắn bó hơn với nó”, Merrill nói. .
- Einstein và Musk trở thành startup tỷ USD nhờ tạo chatbot