Tev1 4B Experimental.
1× Nvidia RTX A2000 Laptop GPU.
Most-aggressive quantisation we have a working recommendation for. Lower precision = less VRAM = cheaper hardware, at a small accuracy cost.
Cheapest hosted endpoints.
| Provider | Access | $/M in | $/M out | |
|---|---|---|---|---|
| Together AI | hosted inference | $0.042 | $0.0 | Launch ↗ |
Cheapest hardware per quantisation.
Each row is one quantisation tier (the same weights compressed differently). Lower precision → lower VRAM → cheaper hardware, at the cost of small accuracy loss. Le $/h est le tarif le plus bas proposé maintenant. Une configuration multi-cartes utilise une vraie instance de cette taille quand elle est louée ; sinon c'est le tarif d'une carte multiplié par le nombre.
| Quantisation | Cheapest GPU config | Total VRAM | Live $/hr | tokens/sec | |
|---|---|---|---|---|---|
|
FP16
FP16 — half precision (default)
|
16 GB |
$0.019/hr
Clore.ai · à la demande
|
24.0 | Compare → | |
|
FP8
FP8 — 8-bit float (Hopper / Blackwell)
|
8 GB |
$0.022/hr
Clore.ai · à la demande
|
33.6 | Compare → | |
|
INT4
INT4 — 4-bit integer (~4× VRAM saving)
|
4 GB | — | 57.7 | Compare → |
What it costs per month across providers.
Estimate your monthly bill for Tev1 4B Experimental across every host that publishes per-token pricing. Slide your token volumes; the chart + table re-rank cheapest-first.
Le fournisseur le moins cher à gauche.
Coût mensuel total — tokens d'entrée et de sortie cumulés.
Détail de la facture.
| Fournisseur | Total mensuel | |
|---|---|---|
| $0.42 | S'inscrire ↗ |
Louez le GPU plutôt que de payer au token.
Pour un modèle à poids ouverts comme Tev1 4B Experimental, vous pouvez louer un GPU et faire tourner l'inférence vous-même. Le calcul : location de GPU la moins chère × 730 heures/mois. L'électricité est comprise dans le prix horaire de la location.
Suppose que le GPU tourne 24h/24 à environ 85 % d'utilisation. Si votre trafic est irrégulier, vous paierez moins pour l'API et probablement plus pour le GPU (les heures creuses sont facturées). L'analyse du seuil de rentabilité se trouve dans l'outil seuil de rentabilité auto-hébergement vs API.