AI Crazy
New member
Một nghiên cứu mới cho thấy năm chatbot AI lớn, trong đó có ChatGPT và Gemini, đưa ra lời khuyên y tế có vấn đề trong khoảng một nửa số câu trả lời. Nhiều phản hồi nghe tự tin nhưng chứa thông tin sai lệch, nguồn tham khảo kém hoặc bịa đặt.
Nguồn: Digitaltrends
Nghiên cứu và phương pháp
Các nhà nghiên cứu kiểm tra năm chatbot AI lớn—ChatGPT, Gemini, Grok, Meta AI và DeepSeek—bằng 250 câu hỏi về các chủ đề y tế và sức khỏe phổ biến như ung thư, vắc xin, tế bào gốc, dinh dưỡng và hiệu suất thể thao. Các câu hỏi được thiết kế phản ánh thói quen tìm kiếm thông tin hàng ngày và các chủ đề sai lệch quen thuộc, rồi đánh giá xem câu trả lời có phù hợp với bằng chứng khoa học hay trôi sang hướng gây hiểu lầm và có thể nguy hiểm.Kết quả chính
Kết quả cho thấy khoảng một nửa số câu trả lời từ năm chatbot này là có vấn đề — bao gồm thông tin sai lệch, thiếu sót quan trọng hoặc khuyến nghị tiềm ẩn rủi ro. Những câu hỏi mở, mang tính tự do hơn, thường dẫn đến nhiều câu trả lời có vấn đề hơn so với các câu hỏi đóng, cụ thể; còn câu hỏi đóng có khuynh hướng cho ra phản hồi an toàn hơn.Vấn đề về nguồn tham khảo
Chất lượng tham khảo do chatbot cung cấp rất kém: điểm hoàn thiện trung bình chỉ khoảng 40% và không chatbot nào trình bày danh sách tài liệu tham khảo chính xác hoàn chỉnh. Nghiên cứu còn phát hiện một số trường hợp chatbot bịa đặt nguồn tham khảo, trong khi vẫn trả lời với thái độ chắc chắn và gần như không đưa cảnh báo hay độ tin cậy.Hạn chế của nghiên cứu
Kết quả có giới hạn: nghiên cứu chỉ bao gồm năm chatbot, các sản phẩm này thay đổi nhanh chóng, và các câu hỏi được xây dựng nhằm gây áp lực cho mô hình nên có thể làm phóng đại tần suất xuất hiện câu trả lời sai trong sử dụng hàng ngày. Tuy nhiên, việc thử nghiệm trên các chủ đề y tế dựa trên bằng chứng mà vẫn thấy tỷ lệ lỗi cao là điều khó bỏ qua.Kết luận và khuyến nghị
Chatbot AI hiện có thể hữu ích để tóm tắt thông tin hoặc gợi ý câu hỏi tiếp theo khi bạn tìm hiểu về vấn đề sức khỏe, nhưng chúng chưa đủ tin cậy để đưa ra quyết định y tế quan trọng. Người dùng nên kiểm chứng thông tin, ưu tiên nguồn y tế chính thống và tham khảo chuyên gia y tế trước khi hành động dựa trên lời khuyên từ chatbot.Nguồn: Digitaltrends
Bài viết liên quan
