AI Biết Quên Giống Con Người Để Giải Bài Toán Bộ Nhớ Tốn Kém

DeepSeek Dạy AI Biết Quên Giống Con Người, Giải Bài Toán Bộ Nhớ Tốn Kém

DeepSeek OCR là một kỹ thuật mới, biến đoạn hội thoại cũ thành ảnh rồi thu nhỏ dần theo thời gian, giống cách trí nhớ con người phai nhạt. Nhờ vậy một AI có thể giữ được những cuộc trò chuyện rất dài mà không cần nhớ từng chữ ở độ phân giải đầy đủ, giúp tiết kiệm rất nhiều token (đơn vị AI dùng để tính chữ và tính tiền) và chi phí tính toán. Ý tưởng này vừa được kênh khoa học nổi tiếng Two Minute Papers giới thiệu lại, dựa trên nghiên cứu Contexts Optical Compression của DeepSeek, để hiểu rõ hơn AI là gì sẽ giúp bạn nắm bài này dễ hơn.

Hiểu nhanh bằng ví dụ đời thường

Hãy tưởng tượng bạn chụp màn hình mỗi cuộc trò chuyện thay vì gõ lại toàn bộ chữ. Một tấm ảnh chụp trang sách rõ nét gần như y hệt bản gốc, nhưng nếu bạn thu nhỏ tấm ảnh đó nhiều lần, chữ sẽ mờ dần, bạn chỉ còn đọc được ý chính chứ không còn từng dấu phẩy nhỏ. DeepSeek OCR làm đúng việc đó với các đoạn hội thoại cũ của AI: biến chữ thành ảnh, rồi thu nhỏ ảnh dần theo thời gian trôi qua, giống cách bạn nhớ rõ chuyện hôm qua nhưng chỉ nhớ mang máng chuyện năm ngoái.

Nó hoạt động thế nào

1. Nội dung mới nhất trong cuộc trò chuyện vẫn được giữ ở dạng chữ đầy đủ, độ phân giải cao, để AI trả lời chính xác.
2. Đoạn hội thoại khoảng 1 giờ trước được "chụp" lại thành ảnh ở độ phân giải vừa phải, thu nhỏ khoảng 10 lần so với số chữ gốc.
3. Hội thoại từ khoảng 1 ngày trước được nén thêm, còn khoảng 12 lần.
4. Hội thoại từ 1 tuần trở lên bị nén mạnh nhất, tới 15 đến 20 lần, chữ gần như mờ hẳn nhưng vẫn giữ được ý chính.
5. Bên trong, DeepSeek OCR dùng hai phần: một bộ đọc ảnh và một bộ dịch nghĩa nhỏ. Bộ đọc ảnh có thể biến cả một trang tài liệu thành chỉ khoảng 100 token hình ảnh, ít hơn nhiều so với vài nghìn token chữ cần thiết trước đây. Nhóm nghiên cứu đo được: khi tỷ lệ nén dưới 10 lần, đọc lại chính xác tới 97%, còn nén tới 20 lần thì độ chính xác giảm còn khoảng 60%, vẫn đủ để nắm ý chính.

Muốn hiểu sâu hơn vì sao AI hay "quên" giữa cuộc trò chuyện, bạn có thể đọc thêm bài Context Window là gì và Token là gì trong AI.

Điều này có ý nghĩa gì với bạn

• Trò chuyện dài hơn mà không bị ngắt mạch: nếu kỹ thuật này được đưa vào các trợ lý AI phổ biến, bạn có thể hỏi đi hỏi lại trong một phiên làm việc rất dài, AI vẫn nhớ được ý chính của những gì đã nói từ đầu buổi.
• Chi phí dùng AI rẻ hơn: vì AI không phải giữ nguyên toàn bộ token chữ của cuộc trò chuyện cũ, giống cách thư viện Python từng giúp AI agent tiết kiệm tới 80% token context window nhưng lần này bằng một cách tiếp cận khác, dùng hình ảnh.
• Ứng dụng ngoài chat: nhóm nghiên cứu cho biết công nghệ này còn dùng để quét hàng loạt tài liệu, tạo ra hơn 200.000 trang dữ liệu huấn luyện mỗi ngày chỉ với một card đồ họa A100, tốc độ xử lý file PDF đạt khoảng 2.500 token mỗi giây.

Hiểu lầm thường gặp

• "AI quên nghĩa là xóa hẳn dữ liệu cũ." Sự thật: đây là kiểu nén có mất mát, thông tin cũ vẫn còn nhưng mờ dần, giống một tấm ảnh bị thu nhỏ chứ không phải bị xóa.
• "Kỹ thuật này đã có sẵn trong ChatGPT hay Claude bạn đang dùng." Sự thật: đây là một nghiên cứu mã nguồn mở của DeepSeek, hiện dùng chủ yếu để đọc tài liệu (OCR). Việc đưa cơ chế quên dần này vào các chatbot phổ biến vẫn chưa được các hãng lớn công bố áp dụng.
• "Nén chữ thành ảnh để tiết kiệm token là chuyện hoàn toàn mới." Sự thật: ý tưởng tóm tắt hội thoại cũ để tiết kiệm chỗ nhớ đã có từ trước, DeepSeek OCR chỉ đưa ra một cách làm bằng hình ảnh, cho kết quả nén hiệu quả hơn hẳn so với vài cách cũ.

Câu hỏi thường gặp

DeepSeek OCR có phải là một chatbot mới không? Không. Đây là một mô hình chuyên đọc tài liệu và ảnh (OCR), được bổ sung thêm cơ chế nén ngữ cảnh bằng hình ảnh, không phải một chatbot để bạn trò chuyện trực tiếp như ChatGPT hay Claude.

Nén bằng ảnh có làm AI trả lời sai thông tin cũ không? Có thể, nếu bạn hỏi lại một chi tiết rất nhỏ trong đoạn hội thoại từ rất lâu, độ chính xác sẽ giảm, khoảng 60% ở mức nén cao nhất. Nhưng với nội dung mới hoặc mức nén vừa phải, độ chính xác vẫn trên 97%.

Khi nào công nghệ này xuất hiện trong các ứng dụng AI quen thuộc? Hiện DeepSeek đã công khai mã nguồn và mô hình để nhà phát triển tự thử nghiệm, nhưng các chatbot phổ biến như ChatGPT, Claude, Gemini chưa công bố áp dụng cơ chế quên dần này.

Vì sao không giữ nguyên toàn bộ chữ, nén làm gì cho phức tạp? Vì giữ nguyên toàn bộ chữ của một cuộc trò chuyện rất dài sẽ tốn rất nhiều token, kéo theo chi phí tính toán cao và tốc độ phản hồi chậm hơn. Nén giúp AI nhớ được nhiều hơn mà vẫn nhanh và rẻ.

Tôi có cần biết lập trình để hiểu chuyện này không? Không cần. Bạn chỉ cần hiểu đây là một cách thông minh giúp AI nhớ được cuộc trò chuyện dài hơn mà không tốn quá nhiều tài nguyên, tương tự cách bộ não con người ưu tiên nhớ rõ chuyện gần đây hơn chuyện xa xưa.

#AI #DeepSeek #ContextWindow #TriTueNhanTao #CongNgheAI