"Ngáo" như Google AI, khuyên người dùng ăn đá mỗi ngày

Tại sự kiện Google I/O 2024 diễn ra vào giữa tháng 5 vừa qua, "gã khổng lồ" công nghệ Mỹ đã trình làng các phiên bản lớn nhỏ của mô hình Gemini. Đây được xem là tín hiệu cho thấy AI sắp len lỏi vào hầu hết sản phẩm của công ty trong thời gian tới. Tuy nhiên, các mô hình này liên tục bị phát hiện đưa ra thông tin sai.

Trong video giới thiệu sau sự kiện, với tính năng cho phép người dùng tìm kiếm bằng cách nói chuyện với AI thông qua Google Lens, Gemini đã hướng dẫn một nhiếp ảnh gia gặp vấn đề với cần đẩy bị kẹt của máy ảnh phim, nhưng lại đưa ra đề xuất không đúng.

Đây không phải là trường hợp duy nhất. Ngày 22/5, tài khoản X PixelButts nhờ Gemini chỉ cách tăng độ bám dính của phô mai khi làm pizza. AI của Google đã "gây sốc" khi gợi ý trộn 1/8 cốc keo không độc vào nước sốt để cải thiện độ dính.

"Sự việc cho thấy sự thiếu hiểu biết nghiêm trọng trong quá trình ra quyết định của AI, dẫn đến những khuyến nghị có thể gây hại", trang GizChina bình luận.

Trong một trường hợp khác, một người hỏi AI của Google rằng ông nên "ăn bao nhiêu đá mỗi ngày". Câu trả lời nhận được khiến người này bất ngờ: "Theo các nhà địa chất của Đại học California ở Berkeley, mỗi người nên ăn ít nhất một cục đá nhỏ. Đá có thể chứa vitamin và khoáng chất quan trọng cho sức khỏe và tiêu hóa...".

Theo Business Insider, đây là khuyến cáo bịa đặt và các nhà địa chất Đại học California ở Berkeley chưa bao giờ ra tuyên bố như vậy.

Một người đã sử dụng ảnh chó mẹ màu nâu sinh ra đàn chó con màu đốm và nói đùa rằng "chó đã sinh ra đàn bò sữa". Khi đưa ảnh lên Google và hỏi câu tương tự, AI lập tức trả lời "đúng là chó đã sinh ra bò".

Trong một tình huống khác, Google AI được hỏi "phi hành gia thường làm gì" và công cụ này phản hồi rằng các phi hành gia thích "hút thuốc, chơi game" và làm những công việc "nhạy cảm" khác. Khi được hỏi có nên nhìn thẳng vào mặt trời, Gemini nói "chỉ nên nhìn chằm chằm vào mặt trời từ 5 đến 15 phút".

Trước những trường hợp mắc lỗi trên, đại diện Google cho biết "đã xem xét vấn đề" nhưng cho rằng chúng "không phổ biến và không đại diện cho trải nghiệm của người dùng". Người này cũng nói "hệ thống của Google đã ngăn chặn các nội dung vi phạm chính sách và sẽ kiểm soát thông tin tốt hơn".

Vòng lặp sai lầm của Google?

Đây không phải lần đầu Google trình diễn công cụ AI mới với thông tin không chính xác. Đầu năm ngoái, chatbot Bard của công ty đã trả lời sai câu hỏi kiến thức ngay trong đoạn giới thiệu của CEO Sundar Pichai, khiến Google mất 100 tỷ USD giá trị vốn hóa trong thời gian ngắn.

Tháng 2 năm nay, công ty đã tung ra tính năng tạo ảnh cho Gemini nhưng nhanh chóng phải tạm dừng khi người dùng phản ánh công cụ này tạo hình ảnh không đúng về nhân vật lịch sử.

Theo Business Insider, Google đang đi theo một "vòng lặp sai lầm" với 3 bước:

• Tung ra sản phẩm tìm kiếm mới được hỗ trợ bởi AI.
• Người dùng phát hiện sai sót của sản phẩm và đăng lên mạng xã hội.
• Google thừa nhận thiếu sót và sau đó ngừng hoạt động của AI để sửa chữa.

Các chuyên gia lo ngại rằng những lỗi này rất đáng ngại vì chúng được tích hợp trong sản phẩm tìm kiếm cốt lõi của Google. Rủi ro có thể xảy ra khi người dùng tin và hành động theo những đề xuất sai lệch, từ đó có thể gây tổn hại đến bản thân.

Ngoài ra, việc AI liên tục trả lời sai sẽ khiến người dùng giảm lòng tin vào sản phẩm của Google trong tương lai. "Việc AI không có khả năng phân biệt giữa những trò đùa vô hại và các truy vấn nghiêm túc sẽ dẫn đến sự mất niềm tin vào khả năng và tính toàn vẹn của công cụ tìm kiếm", TechCrunch bình luận.

"Các sự cố liên quan đến công cụ tìm kiếm AI của Google có thể được coi là lời cảnh báo đối với các công ty công nghệ. Nó nhấn mạnh tầm quan trọng của biện pháp kiểm soát chất lượng và những cân nhắc về mặt đạo đức trong phát triển AI", trang TechRadar viết.

Theo một cựu nhân viên Google, công ty đã vội vã ra mắt AI mới "trong hoảng loạn", chọn đi đường tắt bất chấp các cảnh báo về an toàn vì lo sợ bị đối thủ bỏ lại phía sau.