Octave 如何基于 Amazon Bedrock 构建安全的多租户 AI 基础设施
Octave 在 AWS Machine Learning Blog 上讲解了如何用 Amazon Bedrock 为质量管理系统 Reliance 构建多租户 AI 基础设施,这套基础架构将每个用例的部署时间缩短了 50%。
Octave 在 AWS Machine Learning Blog 上讲解了如何用 Amazon Bedrock 为质量管理系统 Reliance 构建多租户 AI 基础设施,这套基础架构将每个用例的部署时间缩短了 50%。
AWS 演示如何在 Amazon SageMaker HyperPod 上对 GPT-OSS-20B 进行微调,使其用法语、德语、西班牙语或意大利语推理。该开源权重模型基线仅 22% 的测试用例用目标语言推理(法语、西班牙语、意大利语均为 0%)。
Meta 在第三季度财报中宣布将发行一类无投票权股票,用于支持 AI 举措、潜在收购和员工薪酬,交易将于 2027 年开始。CFO Susan Li 称新股票将扩展融资工具并提供投资灵活性;Meta 今年资本开支预期上调至 1350 亿至 1450 亿美元。其 9 月上线的 AI 智能体 Muse 本周在美国下载量达 1000 万,但也因隐私问题暂停了对话分享功能。
NVIDIA 发布 Kumo Relational,一个预训练关系型基础模型,直接在企业数据库上做预测:给定预测查询,它收集最多 10,000 条历史样例作为上下文,在单次前向传播中预测流失、需求或欺诈等结果,无需任务专用训练、特征工程或表扁平化。
推荐理由:原文给出了基准数字、架构原理和开源入口,读者可以据此评估用预训练模型替代表格机器学习管线的可行性。
Mistral 与 Nvidia 合作,用 AI 加速工程仿真与工业产品设计。双方将结合 Mistral Large 4 与 Mistral 的物理 AI,以及 Nvidia 的 CUDA-X、Warp 库和 Omniverse 3D 仿真,面向航空航天、汽车和半导体行业打通设计、仿真与 AI 训练的连续工作流,并计划发布公开 benchmark 和开放数据集。
i14 的 Laplace 3B 用线性注意力替代 softmax attention,循环状态固定为每序列 29.5 MB,不随上下文增长。
在AI相关争议后,Meta从其商业条款中删除了train一词。威斯康星大学法学教授Benjamin Sobel指出,若Meta承诺遵守robots.txt抓取限制会更有帮助,但专家认为可执行的条款仍可能被用于绕过robots.txt。
法官 Hixon 驳回 Meta 的抗辩,要求其回答谁做出、授权或批准了为训练 Llama 1 和 2 下载影子图书馆的决定,包括角色、大致日期及是否参与决策。Meta 主张早期数据获取靠非正式协作、无单一决策者,法官指出作者方并未将请求限于正式决策,也未假定只有单一决策者。Meta 还须说明未用于 AI 训练的盗版作品去向。
Mistral 发布首个时间序列基础模型家族 Timestral,参数规模 5M 到 209M,其 209M 模型在 GIFT-Eval、TIME 和 fev-bench 三项公开基准上排名第一,成绩已提交排行榜。
Microsoft Research 推出研究系统 StudentSim,通过个性化 AI 学生模拟器在接触真实学习者前评估和改进 AI 辅导工具。系统基于公开去标识化的学习者记录,分两阶段训练每个学生的专属模拟器,并随配套基准 StudentSimEval 从行为保真度和指导响应性两个维度评估,覆盖国际象棋、二语英语写作和数学。
微软亚洲研究院发布 Harnessed Agentic RL 训练范式并开源重建的 Agent Lightning v1.0,让部署时使用的真实 agent harness 直接参与强化学习,无需在训练框架内重新实现 agent。
推荐理由:部署用的 agent harness 直接参与 RL 训练,免去在训练框架内重写 agent,并用 Kubernetes jobs 替代付费 sandbox 降低规模化成本。
Berkeley AI Research 提出 ABBEL 框架,将摘要建模为自然语言信念状态并对其内容进行监督,解决递归摘要(context compaction)在长程交互中的性能损失。