Hy4 preview.
Hy4 preview is Tencent's Apache 2.0 mixture-of-experts model, 770B total and 49B active, with a 1M-token context; an early release aimed at engineering and analysis work.
8× Nvidia A100 SXM4 · $5.73/hr.
Most-aggressive quantisation we have a working recommendation for. Lower precision = less VRAM = cheaper hardware, at a small accuracy cost.
Cheapest hosted endpoints.
Cheapest hardware per quantisation.
Each row is one quantisation tier (the same weights compressed differently). Lower precision → lower VRAM → cheaper hardware, at the cost of small accuracy loss. $/Std. ist der günstigste aktuelle Preis. Ein Setup mit mehreren Karten nutzt eine echte Instanz dieser Größe, wenn eine vermietet wird; sonst ist es der Einzelkartenpreis mal Anzahl.
| Quantisation | Cheapest GPU config | Total VRAM | Live $/hr | tokens/sec | |
|---|---|---|---|---|---|
|
FP16
FP16 — half precision (default)
|
2048 GB |
$24.57/hr
Cyfuture AI · On-Demand
|
— | Compare → | |
|
FP8
FP8 — 8-bit float (Hopper / Blackwell)
|
1024 GB |
$12.41/hr
Cyfuture AI · On-Demand
|
— | Compare → | |
|
INT4
INT4 — 4-bit integer (~4× VRAM saving)
|
640 GB |
$5.73/hr
geschätzt 8 × Einzelkartenpreis
Nosana · On-Demand
|
— | Compare → |
What it costs per month across providers.
Estimate your monthly bill for Hy4 preview across every host that publishes per-token pricing. Slide your token volumes; the chart + table re-rank cheapest-first.
Günstigster Anbieter links.
Gesamte Monatskosten — Eingabe- und Ausgabe-Tokens zusammen.
Rechnung im Detail.
| Anbieter | Monatssumme | |
|---|---|---|
| $13.34 | Registrieren ↗ | |
| $13.34 | Registrieren ↗ |
GPU mieten statt pro Token zahlen.
Bei einem Open-Weights-Modell wie Hy4 preview kannst du eine GPU mieten und die Inferenz selbst betreiben. Die Rechnung: günstigste GPU-Miete × 730 Stunden/Monat. Strom ist im Stundenpreis der Miete enthalten.
Angenommen wird, dass die GPU rund um die Uhr mit ca. 85 % Auslastung läuft. Bei schwankendem Traffic zahlst du für die API weniger und für die GPU wahrscheinlich mehr (Leerlaufstunden kosten trotzdem Miete). Die Break-even-Analyse findest du im Break-even-Tool Selbsthosting vs. API.
About Hy4 preview.
Hy4 preview is an open-weights mixture-of-experts model from Tencent's Hy team, with 770B total parameters and 49B active per token, under Apache 2.0. Its context length is 1M tokens, and an extra layer supports speculative decoding. Tencent built its training data around software engineering, office and analysis work, game development and scientific research. It calls this an early version, with known issues such as reasoning longer than needed and over-verifying its own work.