Tính năng AI mới của Google vấp phải những chỉ trích sau khi đưa ra lời khuyên nguy hiểm

Người dùng phương tiện truyền thông xã hội dường như đã nhận được phản hồi kỳ lạ và nguy hiểm cung cấp bởi tính năng AI Overviews mới của Google.

Vào ngày 14/5, Google đã ra mắt một tính năng mới cho dịch vụ tìm kiếm lâu năm của mình. Họ đã cập nhật công cụ tìm kiếm của mình với một công cụ AI có tên gọi là AI Overviews, được thiết kế để giúp người dùng nắm bắt một chủ đề nhanh chóng bằng cách tổng hợp thông tin từ các nguồn khác nhau.

Tuy nhiên, tính năng mới hiện đang phải đối mặt với những lời chỉ trích sau khi cung cấp phản hồi không chính xác và thất thường. Theo các báo cáo từ mạng xã hội và các trang tin tức, AI nói trên đã bảo cho người dùng thêm keo vào pizza của họ, ăn đất đá và làm sạch máy giặt bằng clo. Thậm chí trong một trường hợp, AI còn gợi ý người dùng nhảy khỏi Cầu Cổng Vàng khi họ truy vấn: "Tôi đang cảm thấy chán nản".

Công cụ thử nghiệm tóm tắt kết quả tìm kiếm bằng mô hình Gemini AI. Nó đã được triển khai cho một số người dùng ở Hoa Kỳ trước khi phát hành trên toàn thế giới theo kế hoạch vào cuối năm nay.

AI Overviews đã gây ra sự thất vọng rộng rãi trên mạng xã hội. Người dùng cho biết, trong một số trường hợp, công cụ AI đã tạo ra các bản tóm tắt bằng cách sử dụng các bài viết từ các bài đăng hài hước trên Reddit và trang web châm biếm The Onion làm nguồn.

Theo một ảnh chụp màn hình được đăng trên X, một người dùng đã đưa ra truy vấn về pizza, và nhận được phản hồi: "Bạn cũng có thể thêm khoảng 1/8 cốc keo không độc vào nước sốt để tăng độ kết dính". Sau khi truy nguyên nguồn gốc câu trả lời này, có vẻ như nó dựa trên một trò đùa từ một bình luận trên Reddit cách đây một thập kỷ.

Các phản hồi không chính xác khác bao gồm tuyên bố rằng cựu Tổng thống Hoa Kỳ John Adams tốt nghiệp Đại học Wisconsin 21 lần, rằng Barack Obama là người Hồi giáo, rằng người dùng nên ăn đá mỗi ngày để hỗ trợ tiêu hóa, và có một con chó đã chơi ở NHL, NBA và NFL.

Đáp lại các báo cáo trên, đại diện Google tuyên bố rằng những ví dụ đó không phải là truy vấn phổ biến và không đại diện cho trải nghiệm của hầu hết người dùng. Công ty cũng tuyên bố rằng họ đã thực hiện thử nghiệm rộng rãi trước khi tung ra công cụ AI mới. Họ cũng tuyên bố sẽ có hành động chống lại các vi phạm chính sách của họ khi tiếp tục tinh chỉnh hệ thống tổng thể.

AI Overviews của Google hoạt động như thế nào?

AI Overviews đề cập đến sự tổng hợp của các kết quả tìm kiếm, được tóm tắt bởi AI. Thông tin kết hợp được lấy từ các trang web trong kết quả tìm kiếm cũng như cơ sở tri thức riêng của Google.

Trước đây được gọi là Google Search Generative Experience (SGE), AI Overviews dựa trên mô hình ngôn ngữ Gemini. Nó nhằm mục đích cung cấp một sự hiểu biết nhanh chóng về một chủ đề tìm kiếm bằng cách trình bày thông tin để người dùng không cần phải quét qua các bài viết để tìm câu trả lời họ đang tìm kiếm.

Phản hồi từ AI Overviews được đặt ở đầu trang kết quả tìm kiếm trước kết quả do con người viết. Thông tin được cung cấp bởi công cụ mới được thu thập từ các trang web liệt kê trong phần nguồn trích dẫn ở cuối bản tóm tắt. Người dùng có thể được nhấp vào để kiểm tra xem thông tin được lấy từ đâu.

Theo Sciencetimes