Gemma 4 26B A4B.
Gemma 4 26B A4B is Google DeepMind's Apache 2.0 mixture-of-experts model, 25.2B total and 3.8B active, with text and image input and a 256K-token context.
1× Nvidia GeForce RTX 3090 · $0.15/hr.
Most-aggressive quantisation we have a working recommendation for. Lower precision = less VRAM = cheaper hardware, at a small accuracy cost.
Cheapest hosted endpoints.
Variants in the Gemma family.
Gemma 3 27B
Google's open-weight multimodal LLM — efficient and license-permissive.
Gemma 2 27B
Gemma 2 27B is Google's open-weights English text model under the Gemma licen...
Gemma 2 9B
9B Gemma 2 — single-GPU local target.
Gemma 2 2B
Tiny 2B Gemma 2 — laptop / mobile.
Gemma 3 4B
Gemma 3 4B is Google's small open-weights model with text and image input and...
Gemma 3 1B
1B Gemma 3 — edge / mobile.
Gemma 4 12B It
Gemma 2B It
Gemma 3 1B Pt
Gemma 3 270M It
Gemma 3 27B Pt
Gemma 4 E2B-it
Gemma 4 E4B-it
Gemma 3 12B
Gemma 3 introduces multimodality, supporting vision-language input and text o...
Gemma 3n 4B
Gemma 3n E4B-it is optimized for efficient execution on mobile and low-resour...
Gemma 4 31B
Google DeepMind's instruction-tuned 31B dense open-weights model for coding, ...
Cheapest hardware per quantisation.
Each row is one quantisation tier (the same weights compressed differently). Lower precision → lower VRAM → cheaper hardware, at the cost of small accuracy loss. $/Std. ist der günstigste aktuelle Preis. Ein Setup mit mehreren Karten nutzt eine echte Instanz dieser Größe, wenn eine vermietet wird; sonst ist es der Einzelkartenpreis mal Anzahl.
| Quantisation | Cheapest GPU config | Total VRAM | Live $/hr | tokens/sec | |
|---|---|---|---|---|---|
|
FP16
FP16 — half precision (default)
|
96 GB |
$0.52/hr
geschätzt 2 × Einzelkartenpreis
Vast.ai · On-Demand
|
— | Compare → | |
|
FP8
FP8 — 8-bit float (Hopper / Blackwell)
|
48 GB |
$0.26/hr
Vast.ai · On-Demand
|
18.1 | Compare → | |
|
INT4
INT4 — 4-bit integer (~4× VRAM saving)
|
24 GB |
$0.15/hr
Akash Network · mit Token bezahlt
|
50.4 | Compare → |
What it costs per month across providers.
Estimate your monthly bill for Gemma 4 26B A4B across every host that publishes per-token pricing. Slide your token volumes; the chart + table re-rank cheapest-first.
Günstigster Anbieter links.
Gesamte Monatskosten — Eingabe- und Ausgabe-Tokens zusammen.
Rechnung im Detail.
| Anbieter | Monatssumme | |
|---|---|---|
| $1.13 | Registrieren ↗ | |
| $1.38 | Registrieren ↗ |
GPU mieten statt pro Token zahlen.
Bei einem Open-Weights-Modell wie Gemma 4 26B A4B kannst du eine GPU mieten und die Inferenz selbst betreiben. Die Rechnung: günstigste GPU-Miete × 730 Stunden/Monat. Strom ist im Stundenpreis der Miete enthalten.
Angenommen wird, dass die GPU rund um die Uhr mit ca. 85 % Auslastung läuft. Bei schwankendem Traffic zahlst du für die API weniger und für die GPU wahrscheinlich mehr (Leerlaufstunden kosten trotzdem Miete). Die Break-even-Analyse findest du im Break-even-Tool Selbsthosting vs. API.
About Gemma 4 26B A4B.
Gemma 4 26B A4B is an instruction-tuned open-weights model from Google DeepMind under Apache 2.0. It is a mixture-of-experts design with 25.2B total and 3.8B active parameters, so Google says it runs almost as fast as a 4B model. It takes text and images, with no native audio, and has a 256K-token context. Google targets consumer GPUs and workstations, for reasoning, coding, agents and multimodal understanding.