Octave 如何基于 Amazon Bedrock 构建安全的多租户 AI 基础设施
Octave 在 AWS Machine Learning Blog 上讲解了如何用 Amazon Bedrock 为质量管理系统 Reliance 构建多租户 AI 基础设施,这套基础架构将每个用例的部署时间缩短了 50%。
Octave 在 AWS Machine Learning Blog 上讲解了如何用 Amazon Bedrock 为质量管理系统 Reliance 构建多租户 AI 基础设施,这套基础架构将每个用例的部署时间缩短了 50%。
AWS 演示如何在 Amazon SageMaker HyperPod 上对 GPT-OSS-20B 进行微调,使其用法语、德语、西班牙语或意大利语推理。该开源权重模型基线仅 22% 的测试用例用目标语言推理(法语、西班牙语、意大利语均为 0%)。
NVIDIA 发布 Kumo Relational,一个预训练关系型基础模型,直接在企业数据库上做预测:给定预测查询,它收集最多 10,000 条历史样例作为上下文,在单次前向传播中预测流失、需求或欺诈等结果,无需任务专用训练、特征工程或表扁平化。
推荐理由:原文给出了基准数字、架构原理和开源入口,读者可以据此评估用预训练模型替代表格机器学习管线的可行性。
i14 的 Laplace 3B 用线性注意力替代 softmax attention,循环状态固定为每序列 29.5 MB,不随上下文增长。
Mistral 发布首个时间序列基础模型家族 Timestral,参数规模 5M 到 209M,其 209M 模型在 GIFT-Eval、TIME 和 fev-bench 三项公开基准上排名第一,成绩已提交排行榜。
Microsoft Research 推出研究系统 StudentSim,通过个性化 AI 学生模拟器在接触真实学习者前评估和改进 AI 辅导工具。系统基于公开去标识化的学习者记录,分两阶段训练每个学生的专属模拟器,并随配套基准 StudentSimEval 从行为保真度和指导响应性两个维度评估,覆盖国际象棋、二语英语写作和数学。
微软亚洲研究院发布 Harnessed Agentic RL 训练范式并开源重建的 Agent Lightning v1.0,让部署时使用的真实 agent harness 直接参与强化学习,无需在训练框架内重新实现 agent。
推荐理由:部署用的 agent harness 直接参与 RL 训练,免去在训练框架内重写 agent,并用 Kubernetes jobs 替代付费 sandbox 降低规模化成本。
Berkeley AI Research 提出 ABBEL 框架,将摘要建模为自然语言信念状态并对其内容进行监督,解决递归摘要(context compaction)在长程交互中的性能损失。