by Liquid AI

LFM2.5-2.6B.

text open weights edge 3B params 131K ctx
Smallest GPU
1× Nvidia GeForce GTX 1650
$0.051/hr
Run it yourself

Cheapest hardware per quantisation.

Each row is one quantisation tier (the same weights compressed differently). Lower precision → lower VRAM → cheaper hardware, at the cost of small accuracy loss. $/Std. ist der günstigste aktuelle Preis. Ein Setup mit mehreren Karten nutzt eine echte Instanz dieser Größe, wenn eine vermietet wird; sonst ist es der Einzelkartenpreis mal Anzahl.

Quantisation Cheapest GPU config Total VRAM Live $/hr tokens/sec
FP16
FP16 — half precision (default)
12 GB $0.038/hr
Nosana · On-Demand
46.7 Compare →
FP8
FP8 — 8-bit float (Hopper / Blackwell)
4 GB $0.051/hr
Vast.ai · On-Demand
33.2 Compare →
Just need an API?
Skip the GPU rental and call a hosted endpoint instead. See access providers on the Overview tab →