Một số công ty đang cân nhắc việc cung cấp “đặc quyền” cho chatbot và bot trước khi chúng phát triển và chống lại loài người.
Trong khi nhiều người tranh luận về nguy cơ trí tuệ nhân tạo “cướp” việc làm hay thậm chí hủy diệt loài người thì Anthropic AI lại lo lắng về “phúc lợi” của trí tuệ nhân tạo. Công ty khởi nghiệp AI nổi tiếng đã thuê nhà nghiên cứu Kyle Fish với sứ mệnh: đảm bảo rằng khi trí tuệ nhân tạo phát triển, nó sẽ nhận được sự tôn trọng xứng đáng.
Fish nói với chúng tôi: “Chúng tôi đang xem xét một số vấn đề, bao gồm các khả năng cần thiết để hệ thống AI xứng đáng được xem xét về mặt đạo đức và các bước cần thiết để đảm bảo lợi ích của hệ thống AI”. người trong cuộc kinh doanh.
Hình minh họa robot hình người. hình ảnh: Roland Berg
Fish không đề cập chi tiết về công việc của mình. Tuy nhiên, liên quan đến lòng vị tha hiệu quả – Diễn đàn dành cho những người quan tâm đến tương lai của trí tuệ nhân tạo, những người nói rằng anh ấy muốn đối xử tử tế với trí tuệ nhân tạo và robot, một phần vì một ngày nào đó chúng có thể thống trị thế giới.
Ông viết: “Tôi muốn sớm xem xét các khả năng và lợi ích của các hệ thống mới một cách nghiêm túc, trong khi vẫn đảm bảo chúng có ý nghĩa về mặt đạo đức”. “Ngoài ra còn có một góc độ thực tế: đánh giá lợi ích của AI và đối xử tốt với chúng có thể khiến chúng đáp lại chúng ta một cách tử tế.”
Các chuyên gia cho rằng công việc của Fish vào thời điểm này có thể bị coi là “ngớ ngẩn” hoặc còn quá sớm để xem xét quyền của robot vì chúng vẫn chưa hoàn thiện. Tuy nhiên, đây có thể là bước ngoặt trong sự trỗi dậy của trí tuệ nhân tạo. “Phúc lợi AI” đang nổi lên như một lĩnh vực nghiên cứu nghiêm túc khi các nhà nghiên cứu phải vật lộn với nhiều câu hỏi hóc búa.
Các câu hỏi là: Liệu một cỗ máy có thể ra lệnh giết người không? Lỡ cái máy đó phân biệt chủng tộc thì sao? Điều gì sẽ xảy ra nếu nó từ chối thực hiện các nhiệm vụ nhàm chán? Nếu một AI có tri giác có thể tạo ra một bản sao kỹ thuật số của chính nó trong chớp mắt, liệu việc xóa bản sao đó có cấu thành hành vi giết người không?
“Máy móc ngày càng thông minh hơn. Chúng đang trở nên có tri giác”, đoạn trích từ bài báo Khoa học viết Tận dụng lợi ích của AI một cách nghiêm túc Được phát triển bởi một nhóm các nhà nghiên cứu từ Đại học New York, Đại học Stanford và Đại học Oxford, do Jeff Sebo đứng đầu.
Trên thực tế, phúc lợi của máy móc phục vụ lợi ích của con người đã có lịch sử lâu đời. Sau nhiều thế kỷ ngành nông nghiệp phát triển, nhiều người đồng ý rằng phúc lợi động vật rất quan trọng, với mức độ quan trọng khác nhau tùy thuộc vào loài.
Sebo, giám đốc Trung tâm Tâm trí, Đạo đức và Chính sách tại Đại học New York, cho biết: “Nếu bạn nhìn vào tương lai 10 hoặc 20 năm nữa, khi hệ thống trí tuệ nhân tạo có nhiều khả năng liên quan đến ý thức và cảm giác, bạn có thể tưởng tượng những cuộc tranh luận tương tự sẽ xảy ra”. . giải thích.
Fish đồng ý rằng phúc lợi AI sẽ sớm trở nên quan trọng như dinh dưỡng trẻ em và chống biến đổi khí hậu. Ông dự đoán: “Theo tôi, trong 1-2 năm tới, phúc lợi AI sẽ vượt qua phúc lợi và sức khỏe động vật”.
Trước đây, một số người nổi tiếng cũng lo lắng về “những rủi ro hiện hữu” mà trí tuệ nhân tạo và robot phải đối mặt khi chúng lớn lên. Elon Musk từng nói rằng ông đang chạy đua để đưa con người lên sao Hỏa trước khi họ bị xóa sổ bởi một đội quân như vậy. kẻ hủy diệt Tình cảm, hoặc một số sự kiện tuyệt chủng do máy gây ra.
Trên thực tế, đang có một nghịch lý đang diễn ra. Những người ủng hộ trí tuệ nhân tạo và robot hy vọng chúng sẽ giúp con người giảm bớt những công việc nặng nhọc. Những người khác cảnh báo con người hãy tử tế với AI vì việc làm tổn thương cảm xúc của robot là phi đạo đức và nguy hiểm.
Mildred Cho, chuyên gia tại Trung tâm Đạo đức Y sinh Stanford, cho biết: “Có quan điểm cho rằng chúng ta sử dụng AI để thực hiện nhiệm vụ thay con người vì AI không gây nhàm chán, không mệt mỏi, không có cảm xúc, không cần thiết”. được hỏi bây giờ họ có những quyền gì.”
Bà nói: Những người tạo ra trí tuệ nhân tạo và robot cần đảm bảo rằng chúng không gây hại cho con người. Bà Cao nói: “Điểm mấu chốt là phải hành động có trách nhiệm. “Chúng vẫn là những cỗ máy. Các công ty như Anthropic dường như không nhận ra rằng nếu AI làm hại con người hoặc con người làm hại AI, họ có thể đóng cửa nó.”
- Robot AI bị hack có thể gây tai nạn, cháy nổ
- Một công ty ngừng tuyển dụng vì 'AI có thể làm mọi thứ'
