VocabX 方法预览:按成本特化小模型词表,将实际推理成本降低 77%
Dharma-AI 预告 VocabX 论文的部分结果:基于 Qwen3-4B 的葡萄牙语作文自动批改系统中,按每个 token 的成本而非频率重建词表,在子词层与宏 token 层同时优化,不改基座模型和训练配方。
Dharma-AI 预告 VocabX 论文的部分结果:基于 Qwen3-4B 的葡萄牙语作文自动批改系统中,按每个 token 的成本而非频率重建词表,在子词层与宏 token 层同时优化,不改基座模型和训练配方。
Microsoft Research 研究人员开发了一套机器学习系统,为美国本土 66,935 座变电站生成位置级空间天气风险预估,可提前 30 至 60 分钟预警。
IBM Research 与 UC Berkeley Sky Lab 团队在 K-Search 进化式内核搜索框架上新增 MLX 后端,并设计结构化 CUDA-to-MLX 翻译层,把现有 CUDA 内核知识作为知识库自动迁移到 Apple Silicon。
Berkeley AI Research 发文综述并行推理研究进展,聚焦自适应并行推理(Adaptive Parallel Reasoning),即让模型自行决定何时分解任务、生成多少并发线程及如何协调。
Berkeley AI Research 与 Yann LeCun 等合作提出 GRASP,一种针对学习型世界模型的梯度规划器,让长时程规划更实用。方法通过将轨迹提升到虚拟状态实现时间维度并行优化、在状态迭代中注入随机性以探索、重塑梯度以避免高维视觉模型中脆弱的状态-输入梯度,解决长时程 rollout 中 Jacobian 条件数随时间指数级恶化及非贪婪损失景观导致的局部极小问题。
Berkeley AI Research 介绍了 SPEX 和 ProxySPEX 两种算法,通过消融实验在大规模下识别 LLM 中特征、训练数据和模型组件的关键交互,用于可解释性研究。SPEX 利用稀疏性和低阶性把交互发现问题转化为稀疏恢复问题,可扩展到数千个特征;ProxySPEX 进一步利用层级结构,以约 10x 更少的消融达到与 SPEX 相当的性能。
Berkeley AI Research 在 NeurIPS 2025 论文中提出一个直接基于信息内容评估和优化成像系统的框架,用互信息估计量化测量区分物体的能力。该方法只需噪声测量数据和噪声模型,在彩色摄影、射电天文、无透镜成像和显微成像四个领域验证可预测解码器性能,优化效果媲美 SOTA 端到端方法,且所需内存和计算更少、无需任务特定解码器设计。