Mặc Hi - Trình dịch truyện Trung-Việt Offline bằng WebGPU

Mặc Hi (Moxhi) là một giải pháp dịch máy (Machine Translation) hoàn toàn cục bộ (local-first) chạy trực tiếp trên trình duyệt, được thiết kế chuyên biệt để chuyển ngữ tiểu thuyết và văn bản tiếng Trung sang tiếng Việt.

Trong bối cảnh các dịch vụ dịch thuật hiện nay đều phụ thuộc vào API Cloud (chi phí cao, rủi ro bảo mật) hoặc các công cụ dịch offline thế hệ cũ (cần bộ từ điển khổng lồ, câu cú rời rạc), Mặc Hi mang đến một hướng tiếp cận mới: kết hợp sức mạnh của Trí tuệ nhân tạo (AI) với chuẩn WebGPU hiện đại để tối ưu hóa hiệu suất ngay trên thiết bị cá nhân.

🚀 Những điểm nổi bật của dự án:

• Kiến trúc Zero-Server & Quyền riêng tư tuyệt đối: Mặc Hi không có backend xử lý văn bản. Mọi quá trình suy luận (inference) đều diễn ra trên chính thiết bị của bạn. Không gửi dữ liệu lên cloud, không yêu cầu đăng nhập, đảm bảo 100% quyền riêng tư cho người sử dụng.

• Tối ưu hóa phần cứng bằng WebGPU: Thay vì bị giới hạn bởi các công cụ native chỉ hỗ trợ CUDA, Mặc Hi khai thác sức mạnh của WebGPU, tự động tương thích với backend đồ họa của hệ điều hành (Direct3D 12 trên Windows, Metal trên macOS/iOS, Vulkan trên Linux/Android). Toàn bộ pipeline xử lý được tối ưu hóa sâu, mang lại tốc độ inference vượt trội.

• Hiệu năng dịch thuật cực hạn (Inference Speed): Nhờ vòng decode tùy biến được tối ưu hóa bằng WGSL (nhanh hơn ONNX Runtime Web thông thường từ 10–32 lần), mô hình MoxhiMT-30 đạt tốc độ xử lý đáng kinh ngạc trên nhiều phân khúc phần cứng:

  • PC đồ họa cao cấp (RTX 5090): Đạt ~295,000 tokens/giây.

  • Thiết bị di động (iPhone 17 Pro Max): Đạt tốc độ ấn tượng ~11,700 tokens/giây.

  • GPU tích hợp & điện thoại tầm trung: Đạt vài nghìn ký tự/giây, hoàn toàn dư dả cho trải nghiệm "đọc tới đâu dịch tới đó" theo thời gian thực.

    (Chi tiết các bài test hiệu năng được cập nhật tại Benchmark Board).

• Mô hình AI chuyên biệt (Domain-Specific): Ứng dụng tích hợp sẵn 2 mô hình (MoxhiMT-30 ~30M tham số và HachimiMT-60 ~60M tham số) đã được fine-tune đặc biệt cho văn phong truyện mạng tiếng Trung. Điều này giúp hệ thống tạo ra câu văn mượt mà, tự nhiên mà không cần tiêu tốn quá nhiều tài nguyên như các LLM đa dụng.

• Offline-First & PWA: Được xây dựng dưới dạng Progressive Web App. Người dùng chỉ cần tải mô hình (khoảng 74–113MB) vào bộ nhớ đệm (cache) trong lần truy cập đầu tiên. Các lần sử dụng sau đó hoàn toàn không cần kết nối mạng.

💡 Mục tiêu của Mặc Hi

Sản phẩm không hướng tới việc thay thế hoàn toàn các LLM tỷ tham số trong các tác vụ suy luận ngữ cảnh phức tạp, mà được định vị là một công cụ dịch thuật dễ dàng sử dụng ở mọi thiết bị, tốc độ cao, miễn phí, mượt mà và trả lại toàn bộ quyền kiểm soát dữ liệu/phần cứng cho người dùng.