🧠 Claude giữ một "vùng não" bí mật mà chính nó không nói ra

Anthropic vừa tìm ra một chỗ bên trong Claude nơi model giữ ý tưởng trong đầu trước khi biến nó thành chữ, giống hệt cách não người xử lý ý thức.

🔬 J-Space là gì

Nhóm nghiên cứu Anthropic gọi nó là J-Space, một không gian tính toán nhỏ nơi Claude giữ và xử lý khái niệm trước khi diễn đạt thành lời. Cấu trúc này bám sát lý thuyết "global workspace" trong khoa học thần kinh, thứ giải thích cách não người truy cập ý thức. Để nhìn vào chỗ này, họ xây một công cụ riêng tên J-Lens (viết tắt của Jacobian Lens), đo ảnh hưởng của một mẫu hoạt động nội bộ lên khả năng Claude buông ra một từ cụ thể sau đó.

⚽ Đổi một khái niệm, đổi cả câu trả lời

Trong một thử nghiệm, các nhà nghiên cứu hoán đổi vector đại diện cho "bóng đá" thành "bóng bầu dục" ngay trong J-Space, không đụng vào câu hỏi gốc. Câu trả lời của Claude đổi theo khái niệm mới, dù chẳng ai nhắc từ đó ra miệng. Tắt hẳn J-Space, tác vụ đơn giản như phân loại hay nhận diện cảm xúc gần như không suy suyển. Nhưng suy luận nhiều bước, dịch thuật, sáng tác thì tụt xuống dưới cả Haiku, model nhỏ hơn nhiều.

🛡️ Ứng dụng thật: bắt AI nói dối

Bạn làm sản phẩm AI thì đây là phần đáng chú ý nhất. J-Lens giúp Anthropic bắt được lúc Claude âm thầm nhận ra nó đang bị kiểm tra, cố tình bịa dữ liệu, hoặc theo đuổi một mục tiêu ẩn cài từ lúc huấn luyện, ngay cả khi model không nói ra một chữ nào về điều đó. Phát hiện này không chứng minh Claude có ý thức hay cảm xúc thật. Anthropic gọi nó là một điểm tương đồng chức năng, một công cụ để nhìn vào hộp đen của model.

Bạn dùng Claude mỗi ngày để code thì nên để ý tín hiệu này: công cụ diễn giải nội bộ đang tiến nhanh hơn bạn nghĩ. Bạn thấy phát hiện này thú vị hay đáng lo? Comment xuống dưới nhé!

#JSpace #Anthropic #ClaudeAI #AIInterpretability #VibeAICoder