SF Compute CEO Evan Conrad 谈可编程数据中心与算力交易市场
Latent Space 在 AIE NYC 期间采访 SF Compute CEO Evan Conrad,探讨算力交易市场的现状与算力数据中心的可编程化。他从酒店类比解释公司从转租集群发展到构建完整的物理结算能力,目前总容量约 5% 挂上订单簿且流动性集中,客户每花 100 美元平均能通过转卖收回 25 美元。
Latent Space 在 AIE NYC 期间采访 SF Compute CEO Evan Conrad,探讨算力交易市场的现状与算力数据中心的可编程化。他从酒店类比解释公司从转租集群发展到构建完整的物理结算能力,目前总容量约 5% 挂上订单簿且流动性集中,客户每花 100 美元平均能通过转卖收回 25 美元。
AWS 在博客中演示如何用 Amazon Quick 作为界面、Amazon Bedrock AgentCore 作为智能层,构建对话式供应链智能方案。
企业 AI 正从零散试点走向生产基础设施,核心指标不再是单个 token 或 GPU 小时的价格,而是「每个有效成果的有效成本」。HPE 提出三种运行模式:自建堆栈、按需消费和集成式私有 AI 平台,并强调利用率与运营纪律决定投资回报。
Nebius 和 Nscale 等 AI 云服务商正采用 NVIDIA Vera CPU 构建新一代基础设施,Verda 及主权 AI 平台 Aleria 也参与其中。
Hugging Face 发布 AnyLanguageModel 1.0,同时推出 swift-huggingface 1.0 和 swift-xet 1.0。
Hugging Face 宣布通过 PyTorch 原生后端 TorchTPU,Transformers、Diffusers 和 Kernels 无需 torch_xla 或 JAX 即可原生运行在 TPU 上,模型只需 device_map="tpu" 即可加载。
推荐理由:原文给出从 torch_xla 迁移到原生 PyTorch 后端的具体用法和内核加速数据,读者可据此评估 TPU 工作流迁移成本。
GitHub Copilot 应用中的智能体会话可直接在 VS Code 中打开继续,对话、代码改动和工作树(worktree)上下文全部保留。开发者可逐行审查智能体的 diff、手动编辑文件、用集成终端运行 npm install、npm test 等本地验证,并继续向 Copilot 提问或推送更新到会话关联的 pull request。
Simon Willison 发布了 llm-tools-datasette 0.1.1 版本。正文除 Teleport 赞助内容外未提供更多细节。
Simon Willison 为 LLM 的调试插件 llm-echo 发布 0.5 版本,该插件提供不涉及真实 LLM 的 echo "模型",只回显收到的提示词。
GitHub 介绍其为密钥扫描训练的上下文感知分类器,用正则候选生成加微调 ModernBERT 分类的两阶段管线,替代原有 LLM 管线。新管线使 post-push 扫描中位执行时间下降 86%,服务成本降低 98% 以上,仓库所有者加权接受率提高 11.5%,并已扩展到 push protection。
微软亚洲研究院发布 Harnessed Agentic RL 训练范式并开源重建的 Agent Lightning v1.0,让部署时使用的真实 agent harness 直接参与强化学习,无需在训练框架内重新实现 agent。
推荐理由:部署用的 agent harness 直接参与 RL 训练,免去在训练框架内重写 agent,并用 Kubernetes jobs 替代付费 sandbox 降低规模化成本。
Microsoft Research 研究人员开发了一套机器学习系统,为美国本土 66,935 座变电站生成位置级空间天气风险预估,可提前 30 至 60 分钟预警。
Mistral 宣布在慕尼黑设立德国枢纽,设 Physics AI 与工业 AI 专门研究团队,服务德国企业。此前 2026 年 5 月收购 Emmi AI 带来逾 30 名物理与工程 AI 人才,已与 BMW 合作碰撞仿真、与 Siemens Energy 合作工业 AI,并与慕尼黑工业大学开展汽车空气动力学数字孪生研究。
Mistral 与 Cloudera 宣布合作,将 Mistral 模型集成到 Cloudera 混合数据平台,支持企业在私有云、公有云、本地及完全物理隔离(air-gapped)环境中运行推理。
IBM Research 与 UC Berkeley Sky Lab 团队在 K-Search 进化式内核搜索框架上新增 MLX 后端,并设计结构化 CUDA-to-MLX 翻译层,把现有 CUDA 内核知识作为知识库自动迁移到 Apple Silicon。
UC Berkeley 的 Aditya G. Parameswaran 等人撰文指出,GPT-4 级能力的推理成本已从 2023 年初的约 $30 per million tokens 降至 $1 以下,部分供应商低于 $0.10,推理价格每年下降 9x 到 900x,中位数约 50x。
Berkeley AI Research 发文综述并行推理研究进展,聚焦自适应并行推理(Adaptive Parallel Reasoning),即让模型自行决定何时分解任务、生成多少并发线程及如何协调。
Berkeley AI Research 与 Yann LeCun 等合作提出 GRASP,一种针对学习型世界模型的梯度规划器,让长时程规划更实用。方法通过将轨迹提升到虚拟状态实现时间维度并行优化、在状态迭代中注入随机性以探索、重塑梯度以避免高维视觉模型中脆弱的状态-输入梯度,解决长时程 rollout 中 Jacobian 条件数随时间指数级恶化及非贪婪损失景观导致的局部极小问题。
Berkeley AI Research 介绍了 SPEX 和 ProxySPEX 两种算法,通过消融实验在大规模下识别 LLM 中特征、训练数据和模型组件的关键交互,用于可解释性研究。SPEX 利用稀疏性和低阶性把交互发现问题转化为稀疏恢复问题,可扩展到数千个特征;ProxySPEX 进一步利用层级结构,以约 10x 更少的消融达到与 SPEX 相当的性能。
Berkeley AI Research 在 NeurIPS 2025 论文中提出一个直接基于信息内容评估和优化成像系统的框架,用互信息估计量化测量区分物体的能力。该方法只需噪声测量数据和噪声模型,在彩色摄影、射电天文、无透镜成像和显微成像四个领域验证可预测解码器性能,优化效果媲美 SOTA 端到端方法,且所需内存和计算更少、无需任务特定解码器设计。