by Xiaomi

MiMo-V2.6-Pro.

multimodal open weights datacenter 1024B params 1M ctx
Cheapest input
$0.43/M
on DeepInfra
Cheapest output
$0.87/M
on DeepInfra
Smallest GPU
8× Nvidia A100 SXM4
$5.73/hr
Run it yourself

Cheapest hardware per quantisation.

Each row is one quantisation tier (the same weights compressed differently). Lower precision → lower VRAM → cheaper hardware, at the cost of small accuracy loss. $/Std. ist der günstigste aktuelle Preis. Ein Setup mit mehreren Karten nutzt eine echte Instanz dieser Größe, wenn eine vermietet wird; sonst ist es der Einzelkartenpreis mal Anzahl.

Quantisation Cheapest GPU config Total VRAM Live $/hr tokens/sec
FP8
FP8 — 8-bit float (Hopper / Blackwell)
1536 GB $22.60/hr
Cyfuture AI · On-Demand
— Compare →
INT4
INT4 — 4-bit integer (~4× VRAM saving)
640 GB $5.73/hr
geschätzt 8 × Einzelkartenpreis
Nosana · On-Demand
— Compare →
Just need an API?
Skip the GPU rental and call a hosted endpoint instead. See access providers on the Overview tab →