OpenAI công bố hơn 700 bài chứng minh toán học, chỉ 1 ngày sau phải rút lại 3 bài

OpenAI công bố hơn 700 bài chứng minh toán học, chỉ 1 ngày sau phải rút lại 3 bài: bài học không nên bỏ qua

Đầu tháng 10 này, OpenAI làm một việc chưa từng có: công bố cùng lúc 722 bản thảo toán học, gom thành 372 kết quả, do một mô hình AI nội bộ (chưa phát hành cho công chúng) tạo ra. Nghe thì rất ấn tượng. Nhưng chỉ một ngày sau, chính OpenAI phải rút lại 3 bài vì một lỗi dấu (dấu cộng, dấu trừ) làm sập cả lập luận, và sửa thêm 14 bài khác. Câu chuyện này là một bài học rất thực tế cho bất kỳ ai đang tin tưởng AI: AI có thể tạo ra thứ nghe rất "có vẻ đúng", nhưng "có vẻ đúng" và "đã được kiểm chứng" là hai chuyện khác nhau.

Nếu bạn đang dùng AI để làm việc, học tập hay ra quyết định, câu chuyện này đáng để hiểu kỹ.

Chuyện gì đã xảy ra

Mô hình nội bộ của OpenAI được giao khoảng 4.000 bài toán, chủ yếu ở trình độ sau đại học, trải khắp 17 lĩnh vực: đại số, lý thuyết số, tôpô, khoa học máy tính lý thuyết... Mỗi kết quả tốn trung bình khoảng 3 giờ "suy nghĩ" tính theo mức sử dụng của gói ChatGPT Pro, tức là AI phải tự lập luận rất lâu mới ra một lời giải.

OpenAI chọn ra 372 kết quả mà họ cho là đáng chú ý nhất, rồi công khai toàn bộ: bản thảo, mã nguồn LaTeX, trích dẫn, và đặc biệt là chứng minh hình thức bằng Lean. Lean là một ngôn ngữ lập trình đặc biệt, dùng để viết lại một chứng minh toán học theo cách máy tính có thể tự kiểm tra từng bước logic, không cần tin lời con người (hay AI) nói. Đây là lý do nhiều người coi đây là bước tiến quan trọng: nếu Lean xác nhận, ít nhất phần logic đó là chắc chắn đúng.

Vấn đề là: tính đến thời điểm công bố, chỉ khoảng 42% trong số 719 kết quả chính (300 bài) được hình thức hóa bằng Lean. Gần 60% còn lại chỉ là bản thảo viết bằng ngôn ngữ tự nhiên, chưa ai, kể cả máy tính, xác nhận từng bước có đúng hay không.

Vì sao chỉ 1 ngày sau phải sửa lại

Ngày hôm sau khi công bố, OpenAI phát hiện một lỗi dấu trong một bản thảo. Lỗi nhỏ này làm sập lập luận của chính bài đó, và kéo theo 2 bài khác từng dựa vào kết quả đó cũng sai theo. Cả 3 bị rút lại. Thêm 14 bài khác được sửa lại phần chứng minh hoặc phát biểu cho chính xác hơn.

Đây chính là chỗ đáng chú ý: một lỗi dấu rất cơ bản, loại lỗi mà một người kiểm tra kỹ có thể bắt được, lại lọt qua được cả quy trình nội bộ của một phòng nghiên cứu AI hàng đầu, chỉ vì khối lượng công bố quá lớn và quá nhanh. Nhiều nhà toán học, trong đó có người từng đoạt giải Fields, cho rằng đây đúng là nguy cơ: AI giờ có thể "sản xuất" toán học nhanh hơn tốc độ con người kiểm tra được. Bài viết Giới Toán Học Kêu Gọi Tẩy Chay OpenAI trên vibeaicoder.xyz đã kể chi tiết phản ứng này, còn bài OpenAI và ngày tận thế toán học ghi lại không khí tranh cãi ngay sau khi tin được công bố.

Một chi tiết quan trọng khác: Lean chỉ kiểm tra đúng cái mà người ta gõ vào Lean. Nếu phần diễn giải bằng tiếng Anh không khớp hoàn toàn với câu lệnh đã hình thức hóa, máy tính có thể xác nhận một phát biểu hẹp hơn, yếu hơn nhiều so với cái tiêu đề bài báo tuyên bố. Nói cách khác, một bài "đã được Lean xác nhận" vẫn cần người đọc kỹ để chắc chắn phần được xác nhận đúng là phần quan trọng.

Bài học cho người dùng AI bình thường

Bạn không cần là nhà toán học để rút ra bài học này. Nó áp dụng cho bất kỳ ai dùng AI để viết báo cáo, tính toán, tra cứu luật, hay thậm chí viết code:

• AI trả lời tự tin không có nghĩa là đúng. Mô hình càng mạnh, câu trả lời càng trôi chảy và có vẻ logic, nhưng khả năng sai vẫn luôn tồn tại, chỉ là khó nhận ra hơn.
• Khối lượng lớn không thay thế được kiểm chứng. 722 bản thảo cùng lúc nghe rất hoành tráng, nhưng nếu không ai đọc kỹ từng bài, con số đó không nói lên điều gì về độ chính xác.
• Công cụ kiểm tra tự động (như Lean) chỉ kiểm tra đúng những gì bạn đưa vào nó. Với công việc hàng ngày, điều tương đương là: nhờ AI tóm tắt hợp đồng, tính thuế, hay viết công thức Excel, vẫn nên tự tay đối chiếu lại phần quan trọng nhất, chứ không nhờ một AI khác "xác nhận" hộ cho an tâm giả.

Nếu bạn muốn một quy trình cụ thể hơn để kiểm tra câu trả lời của AI trước khi tin dùng, bài Cách kiểm chứng câu trả lời của AI trên vibeaicoder.xyz có hướng dẫn từng bước, từ việc đòi nguồn, đối chiếu số liệu đến việc tự hỏi lại AI theo cách khác để xem câu trả lời có đổi không. Và nếu bạn mới làm quen với AI nói chung, bài nền tảng AI là gì giải thích rõ vì sao AI "đoán" ra câu trả lời hợp lý nhất chứ không phải lúc nào cũng "biết" câu trả lời đúng.

Ghi nhớ

Một AI giỏi vẫn có thể sai, kể cả khi làm việc nó giỏi nhất. Khi khối lượng công bố quá lớn và quá nhanh, việc kiểm chứng kỹ càng quan trọng hơn bao giờ hết, không chỉ cho các nhà toán học mà cho cả việc bạn dùng AI mỗi ngày.

Câu hỏi thường gặp

OpenAI đã thực sự giải được những bài toán mở nổi tiếng chưa? Chưa có xác nhận chắc chắn. Một số kết quả chạm tới các bài toán khó như Unique Games Conjecture, nhưng cộng đồng toán học vẫn đang xác minh, và một chuyên gia về MIT cảnh báo nên coi các tuyên bố này là chưa được xác minh cho tới khi có thể tái lập độc lập.

Lean là gì, vì sao nó quan trọng? Lean là một ngôn ngữ giúp viết lại một chứng minh toán học dưới dạng máy tính có thể tự kiểm tra từng bước logic, thay vì chỉ tin vào lời giải thích bằng câu chữ thông thường.

Vì sao bài đã được Lean xác nhận vẫn có thể gây hiểu lầm? Vì Lean chỉ kiểm tra đúng câu lệnh được gõ vào nó. Nếu câu lệnh đó hẹp hơn hoặc khác với điều bài báo tuyên bố, máy tính vẫn báo "đúng", nhưng cái "đúng" đó không hẳn là cái người đọc tưởng.

Chuyện này có ảnh hưởng tới người dùng ChatGPT bình thường không? Không trực tiếp. Mô hình tạo ra các kết quả này chưa được phát hành công khai, không phải tính năng bạn đang dùng trong ChatGPT. Nhưng bài học về việc kiểm chứng thì áp dụng cho mọi sản phẩm AI, kể cả bản bạn đang dùng hàng ngày.

Tôi nên làm gì khi thấy một tin "AI giải được bài toán/vấn đề cực khó"? Tìm xem đã có chuyên gia độc lập xác nhận chưa, có dữ liệu hoặc mã nguồn để kiểm tra lại không, và cẩn thận với các con số ấn tượng (như "hơn 700 kết quả") khi chưa biết bao nhiêu phần trong đó thực sự đã được kiểm chứng.

#AI #OpenAI #toanhoc #kiemchungAI #tinAI