⚡ ZB-10 · Echte Rechenkosten — was eine GPU-Stunde kostet und was der Anbieter daran verdient
Ampel (angepasst für Recherche-Report, kein Feature-Check): ● = veröffentlicht mit Quelle+Datum · ◐ = eigene Rechnung/Schätzung mit Bandbreite · ○ = unbekannt, nicht belegbar.
🎯 Auf einen Blick
| Frage | Antwort | Beleg |
|---|---|---|
| Mietpreis H100/GPU-Std | ● $2,0–14,2 (Spezialanbieter–Hyperscaler) | intuitionlabs.ai, 20.09.2026 |
| Eigene Vollkosten H100/GPU-Std | ◐ ≈$1,2–1,8 (3–5 J. Abschreibung) | eigene Rechnung, §2 |
| Rechenkosten je Mio. Ausgabetoken | ◐ ≈$0,1–1,9 (H100–B200) | eigene Rechnung + SemiAnalysis, §4 |
| Marge Listenpreis vs. Rechenkosten | ◐ ≈90–99,8 % (nur Rechenkosten, keine Vollkosten des Anbieters) | §5 |
| Dieses Projekt: Rechenkosten vs. bezahlt | ◐ ≈0,5–5,3× der bezahlten [interner Betrag entfernt] | §6, gemessen: AUSFUEHRUNGSBERICHT-2026-09-20.md:568-593 |
| Dieses Projekt: Listenpreis vs. bezahlt | ● ≈38–190× der bezahlten [interner Betrag entfernt] | s.o., bereits im Report vorgerechnet |
graph LR
G["GPU-Stunde
$9,25–14,46
H100-Knoten, §2"] --> T["Durchsatz
2.140–4.572 Tok/s
je Knoten, §3"]
T --> C["$ je Mio. Token
≈$0,1–1,9
Ausgabe, geschätzt §4"]
C --> L["Listenpreis
$5–50 je Mio. Token
Anbieter-Tarif, §5"]
L --> Ma["Bruttomarge
≈90–99,8%
nur Rechenkosten, §5"]
style C fill:#fdf3e7,stroke:#875A17,stroke-width:2px,color:#875A17
style Ma fill:#fdecee,stroke:#DC2438,stroke-width:2px,color:#DC2438
Die Kostenkette von der GPU-Stunde bis zur Marge, Faktoren an den Kanten. Jede Stufe ist eigene Schätzung mit eigener Bandbreite (§2–§5) — am Ende steht eine Bruttomarge von grob 90 bis 99,8 %, gerechnet nur gegen reine GPU-Rechenkosten.
1. Mietpreis je GPU-Stunde (● veröffentlicht)
| GPU | Anbieter-Typ | Beispiel | $/GPU-Std | Datum | Quelle |
|---|---|---|---|---|---|
| H100 | Spezialanbieter günstig | RunPod/io.net | 1,99–3,50 | 20.09.2026 | IntuitionLabs |
| H100 | Median 38 Anbieter | — | 3,36 | 20.09.2026 | s.o. |
| H100 | Hyperscaler | AWS / Google Cloud | 3,90–14,19 | 20.09.2026 | s.o. |
| H200 | Spezialanbieter günstig | Vast.ai / Jarvislabs Spot | 1,98–3,99 | 16.–18.09.2026 | Thundercompute, GetDeploying |
| H200 | Hyperscaler | AWS/Azure/Oracle | 10,00–10,60 | 18.09.2026 | GetDeploying s.o. |
| B200 | Spezialanbieter günstig | Packet.ai / Hyperbolic | 3,75–5,99 | 18.09.2026 | GetDeploying, Spheron |
| B200 | Hyperscaler | AWS p6-b200 | 14,24–16,11 | 18.09.2026 | s.o. |
2. Kaufpreis + eigene Vollkosten je GPU-Std (◐ geschätzt)
Eingangsgrößen: 8×H100-Knoten (HGX, inkl. NVSwitch/NIC/Integration) $250–320 Tsd., typisch $285.000 (Mercatus/IntuitionLabs, 20.09.2026). GB200-NVL72-Rack (72 GPU) $2–3 Mio. (tae kim/X, Datagravity, 2026). Leistung: 8×H100=5.600W GPU-only, 10–11kW gesamt je Knoten (TRG Datacenters; NVIDIA-Devforum, 2026). GB200-NVL72-Rack 125–132kW TDP (TrendForce, HPE QuickSpecs, 2026). Industriestrompreis USA 8,71–8,83 ct/kWh (Ø Mai 2026, EIA) — Hyperscaler-eigene Tarife können regional stark abweichen (Phoenix ≈40% günstiger als N-Virginia, selbe Quelle). PUE 1,2–1,3 und Betriebsaufschlag 20% (Personal/Miete/Redundanz) sind nicht separat belegt, geschätzt.
Formel: Vollkosten/Std = (Anschaffung ÷ (Jahre×8.760 Std) + kW×PUE×Strompreis) × 1,2
| Basis | 3 Jahre | 5 Jahre |
|---|---|---|
| H100-Knoten, $/Std-Knoten | 14,46 | 9,25 |
| H100, $/GPU-Std | 1,81 | 1,16 |
| GB200-Rack, $/Std-Rack | 153,7 | 98,9 |
| GB200, $/GPU-Std | 2,14 | 1,37 |
Hinweis: Hyperscaler bilanzieren inzwischen selbst 5–6 Jahre Nutzungsdauer statt 3–4 (spart branchenweit ≈$18 Mrd./Jahr Abschreibung; NatLawReview, 2026) — Amazon hat 2025 einen Teil der Flotte umgekehrt auf 5 Jahre verkürzt. Die 3–5-Jahre-Bandbreite im Auftrag deckt beide Realitäten ab.
Folge: Mietmarktpreise ($2–16/GPU-Std, §1) liegen deutlich über der eigenen Vollkosten-Schätzung ($1,2–2,1) → grobe Vermieter-Bruttomarge ≈25–90% je nach Anbietertyp, ◐ abgeleitet, keine Innenkosten-Aussage über echte Anbieter.
3. Durchsatz je 8-GPU-Knoten (● veröffentlicht)
| Modellklasse | Token/s Knoten | Quelle |
|---|---|---|
| Llama 3.1 405B FP8, H100, kurze Ausgabe | 4.572 | Spheron Benchmark, 2026 |
| Llama 3.1 405B FP8, H100, lange Ausgabe | 2.140 | s.o. |
| Llama 3.1 70B FP16, H100, vLLM | 2.800 | s.o. |
| Llama 4 Maverick, H200, 1024 gleichzeitig | 6.694 | Metrum AI, 04/2025 |
| Reasoning-Overhead ("Denken") | 10×–50× mehr Token, Extremfall 23× Kosten bei 120k-Prompt | OpenRouter Reasoning-Docs, dev.to, 2026 |
4. Kosten je Mio. Token — Rechenweg (◐ geschätzt)
Knoten-Std-Kosten H100 (§2): $9,25–14,46. Bei 2.140–4.572 Tok/s → 7,7–16,5 Mio. Tok/Std. → Ausgabe: $0,56–1,88 je Mio. Token (H100-Basis, geschätzt aus §2÷§3). → Eingabe (Prefill, parallelisierbar): aus Listenpreis-Verhältnissen (Eingabe:Ausgabe ≈1:5 bis 1:10) abgeleitet, nicht separat gemessen → ≈$0,06–0,38 je Mio. Token.
Veröffentlichter Vergleichswert (● SemiAnalysis InferenceX, B200/B300, hoch ausgelastete Batch-/Interaktiv-Serving-Infra): $0,106–0,132 je Mio. Gesamttoken (20s Antwortzeit) bzw. $0,222–0,276 je Mio. (100 Tok/s/Nutzer). Niedriger als die eigene H100-Schätzung — plausibel durch neuere Hardware, höhere Auslastung und geblendete Ein-/Ausgabe statt reiner Ausgabe.
5. Gegenüberstellung Listenpreis vs. Rechenkosten (◐ abgeleitet)
| Modell | Liste Ein $/M | Liste Aus $/M | Rechenkosten Aus $/M | Bruttomarge (nur Rechenkosten!) |
|---|---|---|---|---|
| GPT-6 Astra | 10,00 | 50,00 | 0,1–1,9 | ≈96–99,8% |
| GPT-5.6 Sol | 4,00 | 20,00 | 0,1–1,9 | ≈91–99,5% |
| Claude Opus 5 | 5,00 | 25,00 | 0,1–1,9 | ≈92–99,6% |
| Marge gilt nur gegen reine GPU-Betriebskosten — Trainings-Amortisation, R&D, Sicherheit, Auslastung <100% sind nicht eingerechnet (§7). |
6. Dieses Projekt: Abo vs. Schnittstelle vs. Rechenkosten
Gemessen (Quelle: docs/AUSFUEHRUNGSBERICHT-2026-09-20.md:568-593, Brücken-Protokoll + Dateigrößen): 21 Aufträge, 4.718 Modell-Züge, ≈569 Mio. Eingabetoken, ≈0,8 Mio. Ausgabetoken gesamt (davon 365.000 Token überlebender Code, Rest verworfene Versuche/Denkschritte), tatsächlich bezahlt [interner Betrag entfernt] über Abos.
| Basis | Kosten | Faktor ggü. [interner Betrag entfernt] (≈$32–65, Kurs [interner Betrag entfernt]≈$1,08 angenommen) |
|---|---|---|
| Liste GPT-6 Astra, ohne Cache | ≈$5.700 | ≈88–178× |
| Liste GPT-6 Astra, 90% Cache-Treffer | ≈$1.100 | ≈17–34× |
| Liste Claude Opus 5, ohne Cache | ≈$2.900 | ≈45–91× |
| Liste GPT-5.6 Sol, ohne Cache | ≈$2.300 | ≈35–72× |
| ◐ eigene Rechenkosten, H100-Basis | ≈$28–98 | ≈0,4–3,1× |
| ◐ eigene Rechenkosten, B200/SemiAnalysis-Basis (geblendet) | ≈$60–160 | ≈0,9–5,0× |
Kernbefund: Die reinen GPU-Rechenkosten dieses Projekts liegen ungefähr in derselben Größenordnung wie der tatsächlich bezahlte Abo-Preis — kaum Unterschied. Der Listenpreis über die Schnittstelle wäre 35- bis 178-fach teurer gewesen.
graph LR
P["Bezahlt (Abo)
[interner Betrag entfernt]
≈$32–65"] -->|"×0,4–5,0"| R["Eigene Rechenkosten
≈$28–160
H100/B200-Schätzung"]
P -->|"×35–178"| L["Listenpreis Schnittstelle
≈$2.300–5.700
je nach Modell"]
style P fill:#f5f5f5,stroke:#333333,stroke-width:1px
style R fill:#fdf3e7,stroke:#875A17,stroke-width:2px,color:#875A17
style L fill:#fdecee,stroke:#DC2438,stroke-width:2px,color:#DC2438
Drei Größenordnungen: bezahlt, geschätzte Rechenkosten, Listenpreis über die Schnittstelle. Bezahltes Abo und geschätzte Rechenkosten liegen nahe beieinander (Faktor ≈0,4–5,0×) — der Listenpreis über die Schnittstelle wäre 35- bis 178-fach teurer.
7. Zusatzkosten neben der GPU (Einordnung, nicht gemessen)
- Netzwerk/InfiniBand-Fabric: im Knotenpreis (§2) bereits enthalten, laut Brancheneinordnung grob 10–15% des Cluster-Capex — ○ keine Einzelquelle in dieser Recherche.
- Speicher: bei reiner Inferenz meist gering ggü. Compute — ○ unbekannt, kein belastbarer %-Wert gefunden.
- Sicherheitsprüfung/Red-Teaming/RLHF: einmalige Trainingskosten, nicht in den Token-Rechenkosten enthalten — größter nicht erfasster Kostenblock.
- Support/Vertrieb/Forschung: laufende Unternehmenskosten, in keiner Zahl oben enthalten.
- Auslastung <100%: eigene Rechnung nimmt Dauerbetrieb an; Leerlauf erhöht reale Kosten je Token in der Praxis spürbar.
8. Was das für den Kunden bedeutet
Die Abo-Preise ([interner Betrag entfernt] für dieses Projekt) liegen nach eigener Schätzung nahe an oder sogar unter den reinen GPU-Rechenkosten — für Trainings-Amortisation, Sicherheit, Support und Gewinn bleibt in diesem Preismodell praktisch nichts übrig, das Geschäft läuft also entweder quersubventioniert oder mit sehr knapper Marge auf Abo-Nutzung mit hohem Werkzeug-/Kontext-Verbrauch wie diesem. Das ist ein Preisstabilitätsrisiko: Anbieter können Abo-Limits, Preise oder Zugriff auf die stärksten Modelle (wie GPT 6 Pro) jederzeit verschärfen, sobald die Auslastung durch genau solche "voller Kontext je Zug"-Workflows unrentabel wird. Würde dieselbe Arbeit künftig über die Programmier-Schnittstelle abgerechnet, stiege der Preis um das 35- bis 178-fache (§6) — ein Sprung, den ein Kundenprojekt in dieser Form nicht mehr "nebenbei" tragen könnte. Kaufmännisch folgt daraus: Abo-basierte Werkzeugnutzung ist für Bau-Tage wie diesen aktuell konkurrenzlos günstig, aber nicht als dauerhaft garantierte Kostenbasis zu planen. Wer diesen Ablauf skaliert (viele Kunden, viele Projekte), sollte mit Schnittstellen-Preisen kalkulieren, nicht mit Abo-Preisen.
⛔ Offen / Nächster Schritt
- Reale Trainings-Amortisation je Token unbekannt — keine öffentliche Quelle mit belastbarer Zahl gefunden.
- Eigene Vollkosten-Rechnung nutzt PUE/Betriebsaufschlag als Schätzung ohne Einzelquelle — bei Bedarf durch echte Rechenzentrums-Geschäftsberichte ersetzen.
- Durchsatzwerte stammen von Llama-Modellen (Proxy für "großes Modell"), nicht vom tatsächlich genutzten GPT-6/Claude-Modell — echte Modellgröße/Architektur unbekannt.
- Cache-Trefferquote von 90% für die Vergleichsrechnung ist eine Annahme aus dem Quellreport, nicht separat verifiziert.
- Wechselkurs [interner Betrag entfernt]≈$1,08 ist eine grobe Annahme für den Faktor-Vergleich in §6.