计算方法

向导从内存开始,因为放不下任务的 GPU 再便宜也没用。运行模型时,我们按你的优先级对应的精度估算权重 — 最便宜用 4 位,均衡用 8 位,最快用 16 位 — 再加上 8K 上下文的 KV 缓存。微调使用 QLoRA(选最快时用 LoRA),训练使用完整的混合精度状态,图像模型按各模型系列的典型显存需求估算。

在放得下且有当前价格的 GPU 中,最便宜按小时价排序,最快按显存带宽(决定生成速度)排序,均衡按每单位带宽的价格排序 — 每美元速度最高。如果没有单卡放得下,则显示最小的多 GPU 配置。每个结果都链接到该 GPU 的页面并列出所有服务商,因为最便宜的服务商不一定最可靠。