SageMaker AI 推出 serverless training sessions,可自写训练循环免管 GPU
先了解这件事
AWS 在 Amazon SageMaker AI 的 serverless 模型定制中正式推出 training session API:用户可在本地用 Python 编写训练循环(含自定义损失函数和奖励信号),把 forward_backward()、optim_step()、sample() 等操作变成面向有状态 GPU 会话的 API 调用,由 SageMaker 负责 GPU 分配、分布式执行、故障恢复和 checkpoint 存储,无需自行管理 GPU。 计费按处理 token 数收取,只对训练循环实际消耗的算力付费:奖励函数在用户本地环境对一批数据打分时不计费,也无需预留算力。发布时支持 gpt-oss-20b、gemma-4-31B-it、Qwen3.6-27B 和 Qwen3.8-27B,各基座模型可用的 AWS 区域见 training session API 文档。 运行中的会话会占用并发会话配额,直到调用 stop() 或会话过期,因此用完后(包括出错路径中)应停止会话,或用 with 块打开客户端。AWS 同时发布了配套的 training sessions cookbook。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- AWS Machine Learning BlogAmazon SageMaker AI 正式推出 serverless training sessions,免管理 GPU 自定义模型
AWS 宣布 Amazon SageMaker AI serverless 模型自定义新增 training sessions 正式可用,用户可自写训练循环(含自定义损失函数和奖励信号),SageMaker 负责 GPU 分配、分布式执行、故障恢复和 checkpoint 存储。
- AWS Machine Learning BlogAmazon SageMaker AI 推出 training session API,可自写训练循环而无需自管 GPU
AWS 在 Amazon SageMaker AI 的 serverless 模型定制中推出 training session API,把 forward_backward()、optim_step()、sample() 等操作变成面向有状态 GPU 会话的 API 调用,用户在本地写 Python 训练循环,服务侧负责分布式执行、故障恢复和检查点管理。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。