工具

GPU 与 AI 成本计算器.

九个计算器,帮你在租用任何东西之前做决定:哪款 GPU 够大、哪款最便宜,以及到底该不该租。每个工具都使用与全站相同的实时价格数据,每个结果都是可分享的链接。

显存计算器

它回答的问题: 这个模型放得进这张 GPU 吗?选择模型、精度(FP16、FP8、INT4)和上下文长度。计算器估算权重加 KV 缓存所需的内存,并列出所有空间足够的可租 GPU 及其当前最低价。

适用场景: 你在为开放权重模型选硬件时 — 例如看出 70B 模型在 INT4 下能放进一张 48 GB 卡,但需要两张 24 GB 卡。

它回答的问题: 以我的流量,租 GPU 自己部署模型更便宜,还是按 token 付费给 API?它在你的用量下比较两种月度成本,并标出交叉点。

适用场景: 你即将确定部署方案时。用量低时 API 几乎总是更划算,因为只为用掉的 token 付费;用量持续偏高时,一张一直满载的租用 GPU 通常更划算。

它回答的问题: 我的负载一个月在各 API 上要花多少?输入输入和输出 token 数,得到每家提供该模型的服务商的账单,最便宜的排在前面。

适用场景: 你已确定要用 API、需要挑服务商时 — 输出 token 通常比输入贵好几倍,所以排名会随你的提示/回复比例变化。

它回答的问题: 这些 GPU 到底有什么不同?最多比较四张卡的显存、FP16/FP8 性能、功耗和当前最低小时价。

适用场景: 两张卡纸面参数相近时 — 比如 L40S 和 A100 — 想看看每一美元能多得到什么。

它回答的问题: 我知道要做什么 — 现在该租哪款 GPU?选择任务(运行、微调或训练模型,或生成图像)、模型和最看重的因素,得到三个最佳选项,附服务商、价格、月度成本和部署清单。

适用场景: 你开始一个项目,不想手动对照显存表和价格表时。

它回答的问题: 用 D 个 token 训练一个 N 参数的模型要多少钱?它按标准的 6 × 参数 × token 计算规则,结合每款 GPU 的标称性能和你选择的利用率估算,并按今天最便宜的报价计算 GPU 小时费用。

适用场景: 你在规划预训练或继续预训练,需要预算和时间表时。

它回答的问题: 对某个开放权重模型做全量、LoRA 或 QLoRA 微调,在每款 GPU 上需要多少内存、时间和费用?

适用场景: 你有数据集和基础模型,想知道一张卡够不够时 — QLoRA 常能把 70B 模型放进单张 80 GB GPU。

它回答的问题: 在每款 GPU 上自己部署这个模型,每百万 token 成本是多少,与最便宜的托管 API 相比如何?

适用场景: 你在决定如何部署模型,想并排看吞吐量和单位成本时。

它回答的问题: 我该买 GPU 而不是租吗?它比较租用与自有(折旧加电费),并显示每月用多少小时后购买开始划算。

适用场景: 你的 GPU 账单已成为固定月支出,想知道买卡能否回本时。

这些是规划工具。内存估算可能因推理框架不同而相差几 GB,吞吐量也很大程度取决于批大小和软件。方法说明解释了所用公式。