Bản nâng cấp Gemini được Google công bố gần đây đã được nhiều người phát hiện và phản hồi là có nội dung “sai nghiêm trọng”.
Tại sự kiện I/O 2024 diễn ra vào giữa tháng 5, Google đã ra mắt phiên bản lớn và nhỏ của mô hình Gemini. Đây được xem là dấu hiệu cho thấy trí tuệ nhân tạo sẽ sớm thâm nhập vào hầu hết các sản phẩm của công ty. Tuy nhiên, họ đã nhiều lần bị phát hiện cung cấp thông tin sai sự thật.
Logo Google Gemini hiển thị trên điện thoại thông minh. hình ảnh:
Trong video giới thiệu sau sự kiện, Gemini đã hướng dẫn một nhiếp ảnh gia đang gặp sự cố với máy ảnh bị kẹt phim bằng cách sử dụng tính năng cho phép người dùng tìm kiếm qua Google Lens bằng cách nói chuyện với AI nhưng lại đưa ra đề xuất lỗi.
Câu trả lời cho câu hỏi “Làm thế nào để tăng độ bám dính của phô mai trên pizza”. hình chụp: X/PixelButt
Đây không phải là trường hợp duy nhất. Ngày 22/5, tài khoản X PixelButts đã hướng dẫn Gemini cách tăng độ bám dính của phô mai khi làm pizza. Thật “sốc” khi trí tuệ nhân tạo của Google đề xuất trộn 1/8 cốc keo không độc vào nước sốt để tăng độ dính.
Trang web cho biết: “Vụ việc này thể hiện sự thiếu hiểu biết nghiêm trọng về việc ra quyết định của trí tuệ nhân tạo, dẫn đến những lời khuyên có thể gây hại”. giz trung quốc Bình luận.
Câu trả lời của Google cho câu hỏi “Bạn nên ăn bao nhiêu đá mỗi ngày?” hình ảnh: Reddit/Aita
Trong một trường hợp khác, một người hỏi AI của Google “tôi nên ăn bao nhiêu kem mỗi ngày?” Câu trả lời mà ông nhận được khiến người đàn ông ngạc nhiên: “Theo các nhà địa chất tại Đại học California, Berkeley, mỗi người nên ăn ít nhất một tảng đá nhỏ. Đá chứa các vitamin và khoáng chất quan trọng cho sức khỏe và tiêu hóa……”.
dựa theo thương nhân trong cuộcđây là một gợi ý bịa đặt và các nhà địa chất của UC Berkeley chưa bao giờ đưa ra tuyên bố như vậy.
Truy vấn sử dụng hình ảnh của chó cái và chó con. hình ảnh: Reddit/BeAma
Có người dùng ảnh con chó cái màu nâu sinh một lứa chó con có đốm và nói đùa: “Con chó này sinh ra một con bò”. Tuy nhiên, khi bức ảnh được đăng lên Google và đặt câu hỏi tương tự, AI đã ngay lập tức trả lời “Đúng là con chó đã sinh ra con bò”.
Trong một trường hợp khác, Google AI được hỏi “Các phi hành gia thường làm gì” và công cụ này trả lời rằng các phi hành gia thích “hút thuốc, chơi game” và làm những công việc “nhạy cảm” khác. Khi được hỏi liệu có nên nhìn thẳng vào mặt trời hay không, Song Tử nói “bạn chỉ nên nhìn thẳng vào mặt trời từ 5 đến 15 phút”.
Trả lời về các trường hợp lỗi trên, đại diện Google cho biết ông đã “điều tra các vấn đề” nhưng tin rằng chúng “không phổ biến và không đại diện cho trải nghiệm người dùng”. Người này cũng cho biết: “Hệ thống của Google đã chặn những nội dung vi phạm chính sách và sẽ cung cấp khả năng kiểm soát thông tin tốt hơn”.
lo lắng
Đây không phải là lần đầu tiên Google trình diễn các công cụ AI mới với thông tin không chính xác. Đầu năm ngoái, Google đã mất 100 tỷ USD giá trị thị trường trong một thời gian ngắn khi chatbot Bader của công ty trả lời sai một câu hỏi kiến thức trong bài thuyết trình của CEO Sundar Pichai. Vào tháng 2, công ty đã ra mắt tính năng tạo hình ảnh cho Gemini, nhưng tính năng này nhanh chóng phải tạm dừng khi người dùng báo cáo rằng công cụ của công ty đã tạo ra hình ảnh sai về các nhân vật lịch sử.
dựa theo thương nhân trong cuộcGoogle đang đi theo một “chu trình sai lầm” gồm ba bước: tung ra một sản phẩm tìm kiếm mới được hỗ trợ bởi trí tuệ nhân tạo; người dùng phát hiện ra các lỗi của sản phẩm và đăng chúng lên mạng xã hội;
Các chuyên gia cho rằng những lỗi này đáng lo ngại vì chúng được tích hợp vào các sản phẩm tìm kiếm cốt lõi của Google. Rủi ro phát sinh khi người dùng tin vào lời khuyên không chính xác và hành động theo lời khuyên đó, có khả năng gây hại cho chính họ.
Ngoài ra, trí tuệ nhân tạo liên tục đưa ra những câu trả lời sai sẽ làm giảm lòng tin của người dùng đối với các sản phẩm của Google trong tương lai. “Việc AI không có khả năng phân biệt giữa những trò đùa vô hại và những truy vấn nghiêm túc sẽ dẫn đến mất niềm tin vào chức năng và tính toàn vẹn của các công cụ tìm kiếm.” TechCrunch Bình luận.
“Vụ việc liên quan đến công cụ tìm kiếm hỗ trợ AI của Google sẽ là hồi chuông cảnh tỉnh cho các công ty công nghệ. Nó nhấn mạnh tầm quan trọng của việc kiểm soát chất lượng và cân nhắc về mặt đạo đức trong việc phát triển AI.” Radar công nghệ Viết.
Trước đó, cựu nhân viên Google tiết lộ công ty đang trong cơn “hoảng loạn” gấp rút ra mắt trí tuệ nhân tạo mới, phớt lờ cảnh báo an toàn và chọn đi đường tắt vì sợ bị đối thủ bỏ lại phía sau.
- “Google chạy đua tạo trí tuệ nhân tạo trong hoảng loạn”
- Trí tuệ nhân tạo Gemini của Google đưa ra lời khuyên sai lầm
