Một nhóm nhân viên của OpenAI và Google cho biết các công ty trong ngành đang che giấu thông tin về sự nguy hiểm của trí tuệ nhân tạo, trong đó có nguy cơ loài người bị xóa sổ.
Trong một bức thư ngỏ được công bố trong tuần này, 13 nhân viên và cựu nhân viên của OpenAI và Google DeepMind nói rằng các công ty trí tuệ nhân tạo “nắm giữ một lượng lớn thông tin không công khai về khả năng và hạn chế của các hệ thống do Google và DeepMind tạo ra”. Tăng trưởng kinh doanh.
Bức thư đề cập đến hàng loạt “mối nguy hiểm nghiêm trọng” liên quan đến trí tuệ nhân tạo, như tình trạng bất bình đẳng ngày càng gia tăng, sự lan truyền thông tin sai lệch, trí tuệ nhân tạo tự động mất kiểm soát, dẫn đến nguy cơ tuyệt chủng của loài người. Họ chỉ trích việc thiếu sự giám sát hiệu quả và kêu gọi các biện pháp bảo vệ mạnh mẽ hơn đối với những người trong ngành muốn lên tiếng, được gọi là người tố giác.
Nhân viên tin rằng trí tuệ nhân tạo có thể mang lại lợi ích chưa từng có cho xã hội và thông qua sự tham gia của các nhà khoa học, cơ quan quản lý và công chúng, những rủi ro trên có thể được hạn chế. Tuy nhiên, họ cho rằng các công ty AI có nhiều động cơ để né tránh các biện pháp giám sát hiệu quả.
Giao diện trang web OpenAI. hình ảnh:
Bức thư nêu rõ rằng nhiều công ty AI hiểu rõ các mối đe dọa và các biện pháp bảo vệ cần thiết nhưng có ít nghĩa vụ chia sẻ thông tin với chính phủ và xã hội dân sự.
“Thỏa thuận bảo mật ngăn cản nhiều người công khai bày tỏ mối quan ngại của mình. Các biện pháp bảo vệ người tố giác là chưa thỏa đáng vì họ thường tập trung vào các hoạt động bất hợp pháp và tồn tại nhiều mối nguy hiểm ở những khu vực không được kiểm soát”, bức thư viết.
Các tác giả kêu gọi các công ty hàng đầu kiềm chế trả đũa những lời chỉ trích liên quan đến mối đe dọa AI và thiết lập hệ thống phản hồi ẩn danh để nhân viên có thể bày tỏ quan điểm của mình.
Người phát ngôn của OpenAI xác nhận rằng công ty tự hào về thành tích liên tục cung cấp các hệ thống AI an toàn và hiệu suất cao nhất, đồng thời bày tỏ sự tin tưởng vào phương pháp khoa học của công ty để chống lại các mối đe dọa.
Google từ chối bình luận về thông tin này.
Người đi bộ Tháng trước, họ cho biết các cựu nhân viên của OpenAI đã bị cấm chỉ trích công ty. Nếu họ không ký thỏa thuận không tiết lộ, họ có thể mất tất cả cổ phần mà họ có được trong nhiệm kỳ của mình. Giám đốc điều hành OpenAI Sam Altman sau đó đã xác nhận rằng các tài liệu chấm dứt hợp đồng lao động ở đây sẽ được điều chỉnh.
(dựa theo hướng dẫn của tom)
