跳到正文
Latent Space·· 1 天前AI 评分69

DeepSeek 开源 DeepInfer 推理栈,Latent Space 汇总其 155T token/日与约 80% 毛利的争议

[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback

AI 导读

Latent Space 在 PyTorch Conf 第一天报道 DeepSeek 开源生产推理栈 DeepInfer,据称单集群日处理 155 万亿 token、非高峰时段每加速器小时收入 38 美元,社区测算推理毛利约 80%。

来源:Latent Space · latent.space