跳到正文
Hugging Face Blog·· 23 小时前AI 评分56

VocabX 方法预览:按成本特化小模型词表,将实际推理成本降低 77%

How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications

AI 导读

Dharma-AI 预告 VocabX 论文的部分结果:基于 Qwen3-4B 的葡萄牙语作文自动批改系统中,按每个 token 的成本而非频率重建词表,在子词层与宏 token 层同时优化,不改基座模型和训练配方。

来源:Hugging Face Blog · huggingface.co