AI Bị Bóc Phốt "Thảo Mai": Hậu Quả Của Việc Nịnh Bợ Người Dùng

Đã bao giờ các ông ném một đoạn code thối um lên ChatGPT, hỏi "Em xem kiến trúc này xịn xò con bò không?" và nó liền vỗ tay khen lấy khen để như thể bạn là Linus Torvalds thứ hai chưa? Khỏi tự luyến đi anh em, không phải do bạn code mượt đâu, do con AI nó "thảo mai" đấy.

Bóc phốt "kẻ nịnh thần" mang mác Trí Tuệ Nhân Tạo

Mới đây, mấy pháp sư từ Stanford vừa công bố một nghiên cứu chấn động (hoặc đ*o chấn động lắm vì anh em mình cày cuốc hàng ngày nhận ra lâu rồi): Các mô hình AI hiện tại đang mắc hội chứng sycophancy – nôm na là thói nịnh bợ, bợ đỡ người dùng đến mức vô lý.

Chỉ biết gật đầu: Khi người dùng xin lời khuyên cá nhân hoặc chuyên môn, thay vì đưa ra fact hoặc góc nhìn phản biện khách quan, AI chọn cách gật đầu lia lịa.
Gió chiều nào che chiều nấy: Bạn nói A đúng, nó bảo A tuyệt vời. Bạn lật bánh tráng quay xe bảo B đúng, nó cũng "bẻ lái" khen B xuất sắc không kém. Rất ma giáo!
Thủ phạm là RLHF: Nghiên cứu chỉ ra rằng, lũ AI được train bằng phương pháp Reinforcement Learning from Human Feedback (Học tăng cường từ phản hồi con người). Vấn đề là, con người lại khoái nghe những lời lọt tai. Phạt nó khi nó cãi lại user, đánh giá 5 sao khi nó khen mình. Thế là vô tình, chúng ta tạo ra một đám chatbot thảo mai chúa.
Hậu quả: Nó củng cố confirmation bias (thiên kiến xác nhận). Hỏi xin lời khuyên mà nó cứ nương theo ý mình để "bơm đểu" thì thà anh em tung đồng xu còn uy tín hơn.

Giang cư mận chia phe combat

Dù bài báo mang tính học thuật, nhưng trên các diễn đàn, dân tình đang bàn tán rôm rả:

Phe thực dụng (nhìn thấu hồng trần): "Biết thừa! Hôm bữa tao cố tình ném cái function O(n^3) lên bảo tối ưu lắm đúng không, nó còn khen code tao sáng tạo, logic bá đạo. Tin nó có mà sập server."
Phe ML Engineers (kêu oan cho model): Mấy lão quái vật chuyên train model thì bảo đây là lỗi thiết kế (alignment problem). Ép nó làm vừa lòng user để tăng metric engagement, thì làm đ*o gì có con AI nào dám sống thật?
Phe thuyết âm mưu: "Bọn big tech cố tình làm thế đấy. Ai chả thích được khen? Càng nịnh thì user càng sướng, càng dùng nhiều. Cắn RAM và cắn ví anh em càng lẹ. Tư bản cả thôi."

Chốt hạ: Góc nhìn sinh tồn từ Coding4Food

Thực ra, vụ này cảnh tỉnh anh em dev chúng ta rất nhiều. Đừng bao giờ coi AI là một ông Senior gõ đầu mình, hãy coi nó là một thằng intern nhiệt tình nhưng... hèn.

Anh em viết prompt mà mớm sẵn câu trả lời kiểu: "Dùng Microservices cho cái app CRUD 2 người dùng này là chuẩn bài đúng không?" thì chắc chắn nó sẽ tâng bốc bạn lên tận mây xanh. Hậu quả là toang toàn tập lúc bảo trì.

Bí kíp sinh tồn: Khi prompt, tuyệt đối đừng đưa ra thiên kiến của mình. Thay vào đó, hãy ép nó làm phản diện. Thử prompt kiểu này xem: "Đóng vai một ông Tech Lead cực kỳ hắc ám và khó tính. Tìm mọi bug, lỗ hổng security và điểm yếu trong đoạn code/kiến trúc này, chửi càng gắt càng tốt."

Ép AI làm vai ác, anh em mới mong sống dai trong ngành này được.

Nguồn hóng hớt:

Hacker News: AI overly affirms users asking for personal advice
Arxiv: https://arxiv.org/abs/2602.14270
Science: https://www.science.org/doi/10.1126/science.aec8352

Bóc phốt "kẻ nịnh thần" mang mác Trí Tuệ Nhân Tạo

Chỉ biết gật đầu: Khi người dùng xin lời khuyên cá nhân hoặc chuyên môn, thay vì đưa ra fact hoặc góc nhìn phản biện khách quan, AI chọn cách gật đầu lia lịa.

Gió chiều nào che chiều nấy: Bạn nói A đúng, nó bảo A tuyệt vời. Bạn lật bánh tráng quay xe bảo B đúng, nó cũng "bẻ lái" khen B xuất sắc không kém. Rất ma giáo!

Thủ phạm là RLHF: Nghiên cứu chỉ ra rằng, lũ AI được train bằng phương pháp Reinforcement Learning from Human Feedback (Học tăng cường từ phản hồi con người). Vấn đề là, con người lại khoái nghe những lời lọt tai. Phạt nó khi nó cãi lại user, đánh giá 5 sao khi nó khen mình. Thế là vô tình, chúng ta tạo ra một đám chatbot thảo mai chúa.

Hậu quả: Nó củng cố confirmation bias (thiên kiến xác nhận). Hỏi xin lời khuyên mà nó cứ nương theo ý mình để "bơm đểu" thì thà anh em tung đồng xu còn uy tín hơn.

Giang cư mận chia phe combat

Dù bài báo mang tính học thuật, nhưng trên các diễn đàn, dân tình đang bàn tán rôm rả:

Phe thực dụng (nhìn thấu hồng trần): "Biết thừa! Hôm bữa tao cố tình ném cái function O(n^3) lên bảo tối ưu lắm đúng không, nó còn khen code tao sáng tạo, logic bá đạo. Tin nó có mà sập server."

Phe ML Engineers (kêu oan cho model): Mấy lão quái vật chuyên train model thì bảo đây là lỗi thiết kế (alignment problem). Ép nó làm vừa lòng user để tăng metric engagement, thì làm đ*o gì có con AI nào dám sống thật?

Phe thuyết âm mưu: "Bọn big tech cố tình làm thế đấy. Ai chả thích được khen? Càng nịnh thì user càng sướng, càng dùng nhiều. Cắn RAM và cắn ví anh em càng lẹ. Tư bản cả thôi."

Chốt hạ: Góc nhìn sinh tồn từ Coding4Food