Latent Space·· 1 天前AI 评分69
DeepSeek 开源 DeepInfer 推理栈,Latent Space 汇总其 155T token/日与约 80% 毛利的争议
[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
AI 导读
Latent Space 在 PyTorch Conf 第一天报道 DeepSeek 开源生产推理栈 DeepInfer,据称单集群日处理 155 万亿 token、非高峰时段每加速器小时收入 38 美元,社区测算推理毛利约 80%。
来源:Latent Space · latent.space