NPU Là Gì? Vì Sao Điện Thoại Đời Mới Có Chip AI Riêng

NPU Là Gì? Vì Sao Điện Thoại Đời Mới Có Chip AI Riêng

NPU (Neural Processing Unit, "chip xử lý mạng nơ ron") là một bộ phận nhỏ nằm ngay trong con chip chính của điện thoại hoặc laptop, được thiết kế chỉ để làm một việc: chạy các phép tính của AI thật nhanh và thật tiết kiệm pin. Nếu bạn để ý vài năm gần đây các hãng điện thoại hay quảng cáo "chip AI 45 TOPS" hay "Neural Engine thế hệ mới", đó chính là NPU. Bài này giải thích NPU khác gì CPU và GPU, vì sao nó quan trọng, và nó thay đổi gì cho người dùng bình thường.

Hiểu nhanh bằng ví dụ đời thường

Hãy tưởng tượng chiếc điện thoại của bạn như một văn phòng nhỏ có ba nhân viên.

CPU giống như một nhân viên tổng hợp, việc gì cũng làm được: mở ứng dụng, gõ tin nhắn, tính toán vặt. Giỏi nhưng làm từng việc một, không chuyên sâu việc gì.

GPU giống một đội thợ vẽ đông người, chuyên xử lý hình ảnh đồ họa, game, video cùng lúc. Khi cần, đội này cũng có thể được "mượn" để chạy AI, nhưng tốn điện vì không phải việc chính của họ.

NPU giống như một nhân viên chuyên trách duy nhất một việc: nhận diện khuôn mặt, làm mờ hậu cảnh ảnh, dịch giọng nói, chạy trợ lý AI ngay trên máy. Vì chỉ làm một việc lặp đi lặp lại, nhân viên này làm cực nhanh và cực ít tốn sức, giống như một người chuyên đóng gói hàng cả ngày sẽ nhanh và đỡ mệt hơn nhiều so với việc bắt một người làm đủ thứ việc khác nhau phải đóng gói xen kẽ.

Đó là lý do các hãng chip như Apple, Qualcomm, Samsung, MediaTek giờ đều nhét thêm "nhân viên chuyên trách" NPU này vào chung một con chip, thay vì bắt CPU hoặc GPU gánh luôn việc AI.

Nó hoạt động thế nào

1. Phép tính AI chủ yếu là nhân và cộng ma trận số (hàng triệu phép tính lặp lại giống nhau để mô hình AI "đoán" ra kết quả). NPU được thiết kế phần cứng chỉ để làm đúng loại phép tính này, theo kiểu dây chuyền, nên nhanh hơn CPU nhiều lần cho cùng một việc.

2. Độ chính xác số học được "cắt gọn" có chủ đích. Thay vì tính toán với độ chính xác cực cao như CPU, NPU dùng con số gọn hơn (kỹ thuật này gọi là lượng tử hóa, đã nói trong bài Lượng tử hóa (quantization) là gì). Đổi lại một chút độ chính xác, tốc độ tăng vọt và điện năng giảm mạnh.

3. Xử lý song song ở quy mô vừa phải. NPU không mạnh bằng cụm GPU trong trung tâm dữ liệu, nhưng đủ để chạy các mô hình AI cỡ nhỏ, gọn, chuyên biệt (nhận diện ảnh, xử lý giọng nói) ngay trên thiết bị, theo đúng hướng chạy AI tại chỗ mà bài AI chạy tại chỗ (local AI) là gì đã nhắc tới.

4. Dữ liệu không cần rời khỏi máy. Vì AI chạy ngay trên chip, ảnh, giọng nói, tin nhắn của bạn không phải gửi lên máy chủ ở đâu đó rồi chờ trả kết quả về. Việc này vừa nhanh hơn (không phụ thuộc mạng), vừa riêng tư hơn.

5. Hệ điều hành tự quyết định việc nào giao cho NPU. Bạn không cần bật tắt gì cả, điện thoại tự nhận biết: việc AI nhẹ và lặp lại (mở khóa bằng khuôn mặt, chụp ảnh ban đêm) giao cho NPU; việc AI nặng cần mô hình lớn hơn (hỏi một chatbot phức tạp) vẫn có thể phải gửi lên máy chủ như bài GPU là gì đã mô tả, nơi việc huấn luyện và chạy mô hình lớn vẫn cần dàn GPU khổng lồ.

Điều này có ý nghĩa gì với bạn

• Khi mua điện thoại hoặc laptop mới, nếu nhà sản xuất ghi số TOPS (Tera Operations Per Second, số phép tính AI mỗi giây chip làm được), số càng cao thì máy càng xử lý tốt các tính năng AI chạy tại chỗ: xóa vật thể trong ảnh, dịch trực tiếp, trợ lý AI trả lời ngay cả khi mất mạng.
• Pin bền hơn khi dùng tính năng AI thường xuyên. Ví dụ bật phụ đề trực tiếp cả ngày, hoặc camera luôn xử lý AI khi quay video, máy có NPU tốt sẽ đỡ hao pin hơn máy phải dùng CPU hoặc GPU gánh việc đó.
• Một số tính năng AI chỉ chạy được khi có NPU đủ mạnh. Đây là lý do nhiều tính năng AI mới của điện thoại (ví dụ các tính năng viết lại ảnh, tóm tắt thông báo ngay trên máy) chỉ có ở dòng máy cao cấp hoặc đời mới, chứ không phải máy cũ nào cũng cập nhật được.
• Riêng tư hơn cho việc dùng AI hàng ngày. Nếu bạn quan tâm việc ảnh cá nhân hay tin nhắn không bị gửi lên máy chủ, hãy để ý xem tính năng AI đó có chạy "trên máy" (on device) hay không, đây chính là lúc NPU phát huy tác dụng.

Hiểu lầm thường gặp

• "NPU càng khỏe thì chatbot AI trên điện thoại sẽ thông minh như ChatGPT, Claude chạy trên máy chủ." Không đúng. NPU chỉ đủ sức chạy các mô hình AI nhỏ, chuyên biệt. Các mô hình AI lớn, hiểu biết rộng vẫn cần chạy trên máy chủ với hàng ngàn GPU, điện thoại bạn chỉ gửi câu hỏi lên và nhận câu trả lời về.
• "Cứ có chữ AI trên hộp máy là có NPU xịn." Nhiều quảng cáo gắn mác "AI" chung chung. NPU thật sự hữu ích là khi có số TOPS cụ thể và được phần mềm (hệ điều hành, ứng dụng camera, bàn phím) thật sự tận dụng, chứ không chỉ nằm đó làm cảnh.
• "NPU thay thế hoàn toàn CPU và GPU." Sai. Ba loại chip này làm việc cùng nhau, NPU chỉ đảm nhận phần việc AI lặp lại, CPU vẫn điều phối hệ thống, GPU vẫn lo đồ họa và game.

Câu hỏi thường gặp

NPU có trên tất cả điện thoại không? Chưa. Các dòng điện thoại tầm trung trở lên và hầu hết máy ra mắt từ khoảng 2023 đến nay thường có NPU, nhưng máy giá rẻ hoặc đời cũ có thể không có, hoặc có NPU rất yếu.

Làm sao biết điện thoại của mình có NPU mạnh hay không? Tìm tên chip của máy (ví dụ trong phần Cài đặt > Giới thiệu điện thoại) rồi tra thông số TOPS của chip đó. Số TOPS càng cao, NPU càng xử lý được nhiều việc AI cùng lúc.

NPU và GPU dùng để chạy AI, vậy sao không dùng mỗi GPU cho gọn? Vì GPU tiêu tốn điện năng nhiều hơn nhiều lần cho cùng một phép tính AI. Trên điện thoại chạy pin, NPU tiết kiệm điện hơn hẳn nên phù hợp để chạy AI liên tục suốt ngày mà không làm máy nóng hay hết pin nhanh.

Máy tính (laptop, PC) cũng có NPU không? Có. Các dòng laptop gần đây được gọi là "AI PC" cũng tích hợp NPU, dùng cho các việc như làm mờ hậu cảnh khi họp video, viết phụ đề trực tiếp, hay các tính năng chỉnh sửa ảnh chạy ngay trên máy không cần mạng.

NPU có giúp huấn luyện AI (training) không, hay chỉ để chạy (inference)? Chủ yếu là để chạy mô hình đã huấn luyện sẵn (gọi là suy luận, inference), nhanh và tiết kiệm điện. Việc huấn luyện một mô hình AI từ đầu vẫn cần dàn GPU hoặc chip chuyên dụng mạnh hơn rất nhiều, đặt trong các trung tâm dữ liệu chứ không làm trên điện thoại.

#AI #NPU #ChipAI #CongNgheAI #HocAI #DienThoaiThongMinh

Tìm hiểu thêm về nền tảng AI trong bài AI là gì.