Yoshua Bengio, một trong những nhà sáng lập AI, tin rằng robot AI có thể có mọi chức năng ngoại trừ khả năng “tự bảo vệ”.
“Có một mục tiêu đặc biệt trên Trái đất, đó là sự tự bảo tồn. Mọi sinh vật sống trên Trái đất đều cố gắng tự bảo vệ mình”, ông Yoshua Bengio, người sáng lập Viện Mira, nói trong cuộc trò chuyện với ông Trường. Ngày 5 tháng 12, Gia Bình có mặt ở Hà Nội. “Nhưng điều gì sẽ xảy ra nếu hệ thống AI có mục tiêu tự bảo tồn? Nếu chúng ta xây dựng hệ thống với mục tiêu tự bảo tồn, chúng sẽ mạnh hơn vì chúng thông minh hơn và đó là một vấn đề.”
Ông Yoshua Bengio, người sáng lập Viện nghiên cứu Mira và là một trong những người sáng lập AI. hình ảnh: Trần Huân
Theo người được mệnh danh là “Bố già của trí tuệ nhân tạo”, khi một hệ thống được xây dựng để tự bảo vệ mình, họ có khả năng sẽ chống trả khi muốn đóng cửa nó. Ví dụ: một máy có thể tự sao chép chính nó hoặc các máy tính khác, khiến việc tắt máy trở nên khó khăn. Ông giải thích: “Nếu có sự cân bằng giữa AI và con người thì đó là điều tốt. Nhưng nếu không có sự cân bằng, đặc biệt khi những hệ thống này thông minh hơn chúng ta gấp nhiều lần thì con người sẽ gặp rắc rối”.
Những mối nguy hiểm liên quan đến trí tuệ nhân tạo và robot có thể đến từ hai con đường. Đầu tiên là những người liều lĩnh đặt ra những mục tiêu nguy hiểm cho máy móc. Nếu chỉ một người có đủ quyền lực làm như vậy thì nhân loại có thể phải gánh chịu hậu quả.
Một vấn đề khác là sự cẩu thả. Theo ông, con người có thể tạo ra một cỗ máy vô tình phục vụ mục đích tự bảo tồn. Điều tự nhiên là theo thời gian con người cố gắng phát triển các hệ thống giống với chính mình, chẳng hạn như làn sóng robot hình người đang diễn ra. “Con người luôn mơ ước được làm những việc giống mình. Nhưng nếu họ tạo ra một thực thể mạnh hơn mình, điều đó có thể đánh dấu sự kết thúc của loài người”, ông nhận xét.
Người sáng lập Viện Mira tin rằng mọi người nên tập trung phát triển các công cụ thông minh được thiết kế để hỗ trợ con người. Chúng đơn giản là những đồ vật phục vụ con người chứ không phải vật sống và thậm chí không có đặc tính của một trợ thủ – một thực thể luôn tồn tại, có mục tiêu và hành động để đạt được mục tiêu đó. Ông đề xuất: “Chúng ta có thể tạo ra trí tuệ nhân tạo biết và hiểu nhiều thứ nhưng không có mục tiêu cá nhân.
Bengio cũng đề cập đến “nguyên tắc phòng ngừa” để kiểm soát tự động hóa, được định nghĩa là một cách tiếp cận sáng tạo không gây hại khi không có kiến thức khoa học sâu rộng về chủ đề này. “Vấn đề là chúng ta không có đủ kiến thức để dự đoán”, ông nói. “Trong bối cảnh này, nguyên tắc phòng ngừa nhấn mạnh sự thận trọng, tạm dừng và cân nhắc cẩn thận trước khi áp dụng những đổi mới có khả năng gây tai hại”.
Ông trích dẫn nhận xét của Alan Turing, một trong những người sáng lập ngành khoa học máy tính và là thiên tài đi trước thời đại 40-50 năm, rằng một ngày nào đó, con người sẽ tạo ra những cỗ máy có trí thông minh tiên tiến đến mức không còn cách nào khác. để điều khiển các hệ thống này. “Thật không may, chúng ta đang tiến gần hơn đến vấn đề này mà vẫn chưa biết cách kiểm soát nó”, Bengio nói.
Yoshua Bengio, sinh năm 1964, là người Canada và là một trong những người tiên phong trong lĩnh vực deep learning. Năm 1993, ông thành lập Viện Mira, nơi trở thành điểm hội tụ của tiến bộ khoa học và góp phần quan trọng đưa Montreal (Canada) trở thành trung tâm toàn cầu về học sâu. Đến nay, Mila là tổ chức nghiên cứu trí tuệ nhân tạo hàng đầu thế giới, với cộng đồng toàn cầu gồm 1.300 nhà nghiên cứu và 140 đối tác.
Ông Yoshua Bengio, ông Geoffrey Hinton và ông Yann Lecun là ba người được mệnh danh là bố già của trí tuệ nhân tạo. Năm 2018, bộ ba đã giành được Giải thưởng Twining, giải thưởng khoa học máy tính tương đương với giải Nobel, cho nghiên cứu của họ về mạng lưới thần kinh, phần mềm máy học bắt chước cách hoạt động của bộ não con người. Công trình này được coi là một trong những tiến bộ lớn nhất của khoa học công nghệ hiện đại và có tác động rất lớn đến sự phát triển của trí tuệ nhân tạo.
- Ông Zhang Jiaping đã nói chuyện như thế nào với “quái vật” AI Yoshua Bengio?
- Hai “quái vật” đặt nền móng cho trí tuệ nhân tạo đến Việt Nam
