Nhà khoa học máy tính Geoffrey Hinton, người sẽ đoạt giải Nobel Vật lý năm 2024, cảnh báo trí tuệ nhân tạo có 10-20% nguy cơ hủy diệt loài người trong 30 năm tới.
Trong cuộc phỏng vấn trên Đài phát thanh BBC, Geoffrey Hinton, giáo sư danh dự tại Đại học Toronto ở Canada, người được mệnh danh là “Bố già của trí tuệ nhân tạo”, đã nâng tỷ lệ hệ thống trí tuệ nhân tạo tiêu diệt con người từ 10% mà ông đề cập trước đó lên 10-20%. “Bạn thấy đấy, trước đây chúng tôi chưa bao giờ gặp phải thứ gì thông minh hơn mình,” anh giải thích.
Năm ngoái, khi đề xuất mức 10%, Elon Musk đã đồng ý: “Tôi nghĩ nó có khả năng xóa sổ loài người. Tôi có thể đồng ý với Jeffrey Hinton rằng mức rủi ro là khoảng 10% hoặc 20% hoặc hơn”, có nghĩa là những tình huống tích cực có nhiều khả năng xảy ra hơn những tình huống tiêu cực.
Nhà khoa học Jeffrey Hinton. hình ảnh: Reuters
So sánh trí thông minh của con người với các hệ thống trí tuệ nhân tạo, Giáo sư Hinton cho biết: “Bạn có thể nghĩ ra nhiều ví dụ về việc những thứ thông minh bị điều khiển bởi những thứ không quá thông minh không? Rất hiếm”.
Hinton đã gây náo động vào năm ngoái khi từ chức lãnh đạo trí tuệ nhân tạo của Google và liên tục cảnh báo về nguy cơ mất quyền kiểm soát trong việc phát triển trí tuệ nhân tạo. theo người giám hộHinton và nhiều người ủng hộ an ninh khác cho rằng việc tạo ra trí tuệ siêu nhân tạo hoặc các hệ thống thông minh hơn con người, còn được gọi là AGI, có thể trở thành mối đe dọa hiện hữu.
Ông lo ngại rằng các công ty lớn có thể bị thúc đẩy bởi lợi nhuận trước mắt và bỏ qua các tiêu chuẩn an toàn trong phát triển trí tuệ nhân tạo. Ông nói: “Cách duy nhất để buộc các công ty lớn nghiên cứu và phát triển AI an toàn là thông qua các quy định của chính phủ”.
Geoffrey Hinton là một trong ba “bố già trí tuệ nhân tạo” đoạt giải ACM AM Turing, tương đương với giải Nobel về khoa học máy tính. Tuy nhiên, Giáo sư Yann LeCun, một “bố già của trí tuệ nhân tạo” khác và là giám đốc của Trí tuệ nhân tạo Meta, tin rằng quan điểm cho rằng trí tuệ nhân tạo mang lại mối nguy hiểm hiện hữu cho con người là không đúng và “vẫn còn một chặng đường dài phía trước chúng ta có thể đạt được trạng thái này.” “Trí tuệ nhân tạo vượt trội hơn trí thông minh của con người.
Nổi bật (theo người giám hộ)
