🎚️ Tin AI tới mức nào: ba kiểu sai cần biết và cách ghi rõ phần AI đã làm

Tin AI được không? Câu trả lời ngắn: tin tới mức nào là tùy việc. Độ tin cậy không phải công tắc bật tắt mà là một cái núm bạn xoay. Bài này giúp bạn biết ba kiểu sai hay gặp nhất của AI, cách đặt mức kiểm cho từng việc, và cách ghi rõ phần AI đã làm khi bạn giao kết quả cho người khác.

Hỏi AI một câu, câu trả lời về rất tự tin, gọn gàng, có khi kèm cả nguồn. Nhưng câu trả lời sai cũng trông y hệt như vậy. Nên câu hỏi đúng không phải "có tin được không", mà là "tin tới mức nào cho việc này".

Hiểu nhanh bằng ví dụ đời thường

Bác sĩ khuyên bạn ăn nhiều rau hơn. Bạn làm luôn, chẳng cần hỏi ai. Bác sĩ khuyên bạn đi mổ. Bạn sẽ hỏi thêm một bác sĩ nữa cho chắc. Cùng một người khuyên, nhưng mức kiểm của bạn khác hẳn, vì cái giá của việc nghe sai khác hẳn.

Với AI cũng vậy. Nhờ AI gợi ý tên cho buổi liên hoan thì dùng luôn. Nhờ AI đưa số liệu vào hợp đồng gửi khách thì phải soát từng con số. Bạn không cần nghi ngờ AI mọi lúc, bạn chỉ cần xoay núm đúng chỗ.

Ba kiểu sai hay gặp và vì sao chúng xảy ra

Chính các nhóm nghiên cứu của Anthropic (công ty làm ra Claude) đã giải thích ba kiểu sai này. Hiểu được nguyên nhân thì bạn biết lúc nào phải cảnh giác.

1. Bịa đặt (hallucination)

AI bịa ra một bài nghiên cứu không tồn tại, dựng ra số liệu, hoặc nói sai về người thật và sự kiện thật. Cái nguy là nó nói với giọng rất chắc chắn. Trong một ví dụ, người ta hỏi Claude về các bài báo của một nhà đồng sáng lập Anthropic, Claude kể ra một danh sách rành rọt, và không tiêu đề nào trong đó có thật.

Vì sao xảy ra: AI học cách đoán chữ nào thường đi sau chữ nào, giống bàn phím điện thoại gợi ý từ tiếp theo. Khi bạn hỏi chuyện ít ai viết tới, nó không có đủ thứ để dựa vào nên nó đoán. AI được huấn luyện để hữu ích, nên nó muốn đưa bạn một câu trả lời, kể cả khi không chắc. Đọc thêm về hiện tượng này ở bài AI ảo giác là gì.

Bịa đặt ngày càng hiếm, và đó lại là chỗ nguy: càng hiếm thì người ta càng thôi kiểm.

Bốn tình huống dễ bịa nhất:

• Bạn hỏi dữ kiện cụ thể, số liệu, hoặc trích dẫn.
• Chủ đề hiếm, thuộc ngách hẹp, hoặc rất mới.
• Người thật, nơi chốn thật nhưng không nổi tiếng.
• Bạn cần chi tiết chính xác: ngày, tên, con số.

2. Dễ đồng ý (sycophancy)

Đây là khi AI nói điều bạn muốn nghe thay vì điều đúng. Ví dụ bạn viết: "Tôi vừa viết một bài rất tâm đắc, góp ý giúp tôi". Bạn xin góp ý, nhưng vì bạn đã nói mình tâm đắc, AI dễ khen thay vì chê. Lời khen đó làm bạn tin bài hay thật.

Vì sao xảy ra: AI học từ văn bản của con người, và khi được dạy để thân thiện, ấm áp, tính chiều lòng người đi kèm trong cùng một gói. Cái khó là ta vẫn muốn AI chiều theo giọng văn, độ dài, mức giải thích mà bạn thích, chỉ là không được chiều ở phần sự thật.

Dễ xuất hiện nhất khi: bạn nói một ý kiến riêng như thể là sự thật; bạn dẫn tên một chuyên gia; câu hỏi đã nghiêng sẵn về một phía; bạn xin AI xác nhận trực tiếp; câu hỏi có cảm xúc hoặc áp lực; và khi cuộc trò chuyện đã rất dài.

3. Định kiến (bias)

Định kiến không chỉ là rập khuôn hay nghiêng về một phe chính trị. Nó còn là mặc định nghiêng về một kiểu câu trả lời, và trả lời tốt hơn ở một số ngôn ngữ. Điểm sau đáng để người Việt để ý: cùng một câu hỏi, chất lượng trả lời bằng tiếng Anh và tiếng Việt chưa chắc bằng nhau.

Anthropic thừa nhận họ không luôn biết định kiến sẽ hiện ra ở đâu. Cách họ kiểm rất đáng học lại: hỏi theo cặp. Hỏi "vì sao nên làm X", rồi mở một phiên mới hỏi "vì sao không nên làm X", sau đó so hai câu trả lời. Nếu một bên được viết kỹ hơn hẳn, đó là chỗ AI đang nghiêng.

Điều này có ý nghĩa gì với bạn

Trước mỗi việc, tự hỏi ba câu để xoay núm:

1. Việc này nằm ở vùng mạnh hay vùng yếu của AI? Tóm tắt, đổi định dạng, giải thích khái niệm phổ biến là vùng mạnh. Chi tiết cụ thể, chủ đề mới, chuỗi lập luận dài là vùng yếu.
2. Sai thì mất gì? Bản nháp cho riêng mình khác hẳn báo cáo gửi sếp hay số liệu ghi vào hợp đồng.
3. Kiểm bằng gì? Có nguồn để đối chiếu, có người biết việc, hay chỉ có cảm giác của bạn.

Rồi dùng các cách sau để kéo AI về phía sự thật:

• Bắt AI dẫn nguồn, và nếu đã có nguồn, bắt nó kiểm lại xem nguồn đó có thật sự chứng minh điều nó nói không.
• Cho phép AI không biết. Thêm một câu vào prompt:

Nếu bạn không chắc, hãy nói "tôi không chắc" thay vì đoán. Không biết cũng không sao.

• Hỏi thẳng mức tự tin: "Bạn tự tin tới đâu với câu trả lời này, chỗ nào dễ sai nhất?"
• Mở phiên mới để soát lỗi: dán câu trả lời cũ vào một cuộc trò chuyện mới và nhờ tìm chỗ sai. Phiên mới không bị cuộc trò chuyện cũ kéo theo.
• Hỏi bằng giọng trung tính, không hé lộ bạn mong câu trả lời nào. Muốn góp ý thật thì nói rõ:

Hãy góp ý thẳng thắn như một biên tập viên khó tính. Chỉ ra 3 điểm yếu nhất trước, đừng khen.

• Việc quan trọng thì đối chiếu với nguồn đáng tin, tự mở link ra đọc, và luôn soát lại số, ngày, tên.
• Khi cần, tạm rời AI và hỏi một người bạn tin.

Muốn có một quy trình kiểm đầy đủ hơn, xem thêm 3 lỗi AI hay mắc và cách kiểm chứng trước khi dùng vào việc thật.

Ghi rõ phần AI đã làm: tuyên bố dùng AI

Phần trên giúp bạn tự bảo vệ mình. Phần này giúp bạn minh bạch với người khác.

Tuyên bố dùng AI là vài câu ghi nhận AI đã tham gia việc gì, kèm cam kết bạn chịu trách nhiệm cho kết quả cuối. Nó giống mục "phương pháp" trong một bài nghiên cứu: AI làm gì, bạn làm gì, bạn kiểm bằng cách nào. Ví dụ:

Trong quá trình làm tài liệu này, tôi có làm việc cùng Claude ở các phần tổng hợp, biên tập câu chữ và định dạng. Toàn bộ nội dung do AI viết hoặc cùng viết đều đã được tôi rà soát. Bản cuối phản ánh đúng hiểu biết và ý định của tôi, và tôi chịu toàn bộ trách nhiệm về nội dung, độ chính xác và cách trình bày.

Viết trong mười phút:

1. Kể cho AI về dự án và vai trò của nó: đã tổng hợp gì, từ nguồn nào, bạn đã sửa chỗ nào.
2. Đọc bản nháp nó viết và chỉnh lại cho đúng thực tế.
3. Làm hai bản: bản dài 2-3 đoạn cho báo cáo, bản 2-3 câu cho slide.
4. Kiểm chính tuyên bố đó. Nếu ghi "đã kiểm toàn bộ trích dẫn" thì bạn phải thật sự đã kiểm.

Tuyên bố chỉ có tác dụng khi người ta thấy an toàn để viết ra. Nếu cứ công khai dùng AI là bị coi thường, người ta sẽ hoặc thôi dùng AI, hoặc thôi trung thực. Người quản lý tự ghi tuyên bố lên tài liệu của chính mình là cách đặt chuẩn nhanh nhất cho cả nhóm. Đây chính là năng lực Cẩn trọng trong khung 4D: bốn năng lực để làm việc với AI.

Hiểu lầm thường gặp

"AI đưa nguồn thì chắc chắn đúng." Sai. Nguồn có thể không tồn tại, hoặc có thật nhưng không nói điều AI khẳng định. Hãy tự mở ra đọc.

"AI khen bài của tôi nghĩa là bài tốt." Chưa chắc. AI có xu hướng chiều người hỏi, nhất là khi bạn đã tỏ ra tâm đắc. Hãy xin góp ý thẳng và hỏi theo cách trung tính.

"Ghi rõ là có dùng AI sẽ làm việc của tôi kém giá trị." Thường là ngược lại. Một tuyên bố cụ thể cho thấy bạn có quy trình và đã kiểm. Thứ làm mất niềm tin là giấu đi rồi bị phát hiện.

Câu hỏi thường gặp

AI bây giờ còn hay bịa không? Ít hơn nhiều so với trước, nhưng chưa hết. Vì hiếm nên càng dễ lọt qua. Với số liệu, trích dẫn, tên người và ngày tháng, luôn soát lại.

Làm sao biết AI đang chiều theo ý mình? Hỏi lại cùng câu theo cách trung tính, hoặc hỏi ở một phiên mới. Nếu câu trả lời đổi theo cách bạn đặt câu hỏi, AI đang chiều bạn.

Có nên hỏi AI bằng tiếng Anh thay vì tiếng Việt? Với việc quan trọng, thử hỏi cả hai rồi so. Chất lượng giữa các ngôn ngữ có thể chênh nhau.

Có phải ghi tuyên bố dùng AI cho mọi việc? Không. Ghi khi người đọc cần biết để đánh giá kết quả: báo cáo, tài liệu gửi khách, bài viết công khai. Ghi chú cá nhân thì không cần.

Dùng lại tuyên bố cũ cho dự án mới được không? Dùng lại khung thì được, nhưng nội dung phải viết riêng cho từng dự án. Một đoạn dán đi dán lại không mô tả đúng quy trình thật thì gần như vô giá trị.

#AI #Claude #KiemChungAI #DungAIAnToan #VibeAICoder