本地跑GPT-2日语输入法
推荐指数 65.0 NO. 003 · 2026.07.02
Stars561
为什么值得看
Karukan 是一个基于 llama.cpp 本地推理的日语神经输入法，支持 Linux/macOS，用 GPT-2 模型实现实时假名汉字转换。对中文 AI 工程师有参考价值：它展示了如何在端侧用 C++ 推理引擎跑小语言模型做 NLP 任务，且架构解耦（引擎/前端/CLI 分离）可直接借鉴到中文或其他语种输入法开发。
Japanese Input Method System for Linux, macOS, Neural Kana-Kanji Conversion Engine
媒体预览
编辑判断
日语输入法长期被 Google 日本语输入、Mozc 等巨头垄断，Karukan 的差异化在于完全本地推理且模型可替换，隐私敏感场景（企业内网、医疗法务）是明确切口。它的架构设计比开源的 Mozc 更现代化：引擎与前端彻底分离，用 JSON-RPC 通信，这意味着换一门语言或平台只需重写薄薄一层 UI。
对中文开发者来说，Rime 生态虽然成熟但配置门槛极高，Karukan 的「开箱即用 + 神经模型」路线值得参考。如果你在做小语种输入法、端侧文本预测、或想验证 llama.cpp 在非对话场景的延迟表现，这个项目有可直接复用的代码。
Star History
生态分析
Experimental
端侧神经日语输入法先驱，fcitx5生态中首个集成LLM推理的Rust实现
独特价值：基于llama.cpp本地GPT-2推理，架构解耦可跨语种复用
竞品：