$2,0–14,2
Mietpreis H100/GPU-Std
≈$1,2–1,8
Eigene Vollkosten/GPU-Std
≈90–99,8%
Marge (nur Rechenkosten)
≈0,5–5,3×
Projekt: Rechenkosten vs. bezahlt
≈38–190×
Projekt: Listenpreis vs. bezahlt

⚡ ZB-10 · Echte Rechenkosten — was eine GPU-Stunde kostet und was der Anbieter daran verdient

Ampel (angepasst für Recherche-Report, kein Feature-Check): ● = veröffentlicht mit Quelle+Datum · ◐ = eigene Rechnung/Schätzung mit Bandbreite · ○ = unbekannt, nicht belegbar.

🎯 Auf einen Blick

Frage Antwort Beleg
Mietpreis H100/GPU-Std ● $2,0–14,2 (Spezialanbieter–Hyperscaler) intuitionlabs.ai, 20.09.2026
Eigene Vollkosten H100/GPU-Std ◐ ≈$1,2–1,8 (3–5 J. Abschreibung) eigene Rechnung, §2
Rechenkosten je Mio. Ausgabetoken ◐ ≈$0,1–1,9 (H100–B200) eigene Rechnung + SemiAnalysis, §4
Marge Listenpreis vs. Rechenkosten ◐ ≈90–99,8 % (nur Rechenkosten, keine Vollkosten des Anbieters) §5
Dieses Projekt: Rechenkosten vs. bezahlt ◐ ≈0,5–5,3× der bezahlten [interner Betrag entfernt] §6, gemessen: AUSFUEHRUNGSBERICHT-2026-09-20.md:568-593
Dieses Projekt: Listenpreis vs. bezahlt ● ≈38–190× der bezahlten [interner Betrag entfernt] s.o., bereits im Report vorgerechnet
graph LR
    G["GPU-Stunde
$9,25–14,46
H100-Knoten, §2"] --> T["Durchsatz
2.140–4.572 Tok/s
je Knoten, §3"] T --> C["$ je Mio. Token
≈$0,1–1,9
Ausgabe, geschätzt §4"] C --> L["Listenpreis
$5–50 je Mio. Token
Anbieter-Tarif, §5"] L --> Ma["Bruttomarge
≈90–99,8%
nur Rechenkosten, §5"] style C fill:#fdf3e7,stroke:#875A17,stroke-width:2px,color:#875A17 style Ma fill:#fdecee,stroke:#DC2438,stroke-width:2px,color:#DC2438

Die Kostenkette von der GPU-Stunde bis zur Marge, Faktoren an den Kanten. Jede Stufe ist eigene Schätzung mit eigener Bandbreite (§2–§5) — am Ende steht eine Bruttomarge von grob 90 bis 99,8 %, gerechnet nur gegen reine GPU-Rechenkosten.

1. Mietpreis je GPU-Stunde (● veröffentlicht)

GPU Anbieter-Typ Beispiel $/GPU-Std Datum Quelle
H100 Spezialanbieter günstig RunPod/io.net 1,99–3,50 20.09.2026 IntuitionLabs
H100 Median 38 Anbieter — 3,36 20.09.2026 s.o.
H100 Hyperscaler AWS / Google Cloud 3,90–14,19 20.09.2026 s.o.
H200 Spezialanbieter günstig Vast.ai / Jarvislabs Spot 1,98–3,99 16.–18.09.2026 Thundercompute, GetDeploying
H200 Hyperscaler AWS/Azure/Oracle 10,00–10,60 18.09.2026 GetDeploying s.o.
B200 Spezialanbieter günstig Packet.ai / Hyperbolic 3,75–5,99 18.09.2026 GetDeploying, Spheron
B200 Hyperscaler AWS p6-b200 14,24–16,11 18.09.2026 s.o.

2. Kaufpreis + eigene Vollkosten je GPU-Std (◐ geschätzt)

Eingangsgrößen: 8×H100-Knoten (HGX, inkl. NVSwitch/NIC/Integration) $250–320 Tsd., typisch $285.000 (Mercatus/IntuitionLabs, 20.09.2026). GB200-NVL72-Rack (72 GPU) $2–3 Mio. (tae kim/X, Datagravity, 2026). Leistung: 8×H100=5.600W GPU-only, 10–11kW gesamt je Knoten (TRG Datacenters; NVIDIA-Devforum, 2026). GB200-NVL72-Rack 125–132kW TDP (TrendForce, HPE QuickSpecs, 2026). Industriestrompreis USA 8,71–8,83 ct/kWh (Ø Mai 2026, EIA) — Hyperscaler-eigene Tarife können regional stark abweichen (Phoenix ≈40% günstiger als N-Virginia, selbe Quelle). PUE 1,2–1,3 und Betriebsaufschlag 20% (Personal/Miete/Redundanz) sind nicht separat belegt, geschätzt.

Formel: Vollkosten/Std = (Anschaffung ÷ (Jahre×8.760 Std) + kW×PUE×Strompreis) × 1,2

Basis 3 Jahre 5 Jahre
H100-Knoten, $/Std-Knoten 14,46 9,25
H100, $/GPU-Std 1,81 1,16
GB200-Rack, $/Std-Rack 153,7 98,9
GB200, $/GPU-Std 2,14 1,37

Hinweis: Hyperscaler bilanzieren inzwischen selbst 5–6 Jahre Nutzungsdauer statt 3–4 (spart branchenweit ≈$18 Mrd./Jahr Abschreibung; NatLawReview, 2026) — Amazon hat 2025 einen Teil der Flotte umgekehrt auf 5 Jahre verkürzt. Die 3–5-Jahre-Bandbreite im Auftrag deckt beide Realitäten ab.

Folge: Mietmarktpreise ($2–16/GPU-Std, §1) liegen deutlich über der eigenen Vollkosten-Schätzung ($1,2–2,1) → grobe Vermieter-Bruttomarge ≈25–90% je nach Anbietertyp, ◐ abgeleitet, keine Innenkosten-Aussage über echte Anbieter.

3. Durchsatz je 8-GPU-Knoten (● veröffentlicht)

Modellklasse Token/s Knoten Quelle
Llama 3.1 405B FP8, H100, kurze Ausgabe 4.572 Spheron Benchmark, 2026
Llama 3.1 405B FP8, H100, lange Ausgabe 2.140 s.o.
Llama 3.1 70B FP16, H100, vLLM 2.800 s.o.
Llama 4 Maverick, H200, 1024 gleichzeitig 6.694 Metrum AI, 04/2025
Reasoning-Overhead ("Denken") 10×–50× mehr Token, Extremfall 23× Kosten bei 120k-Prompt OpenRouter Reasoning-Docs, dev.to, 2026

4. Kosten je Mio. Token — Rechenweg (◐ geschätzt)

Knoten-Std-Kosten H100 (§2): $9,25–14,46. Bei 2.140–4.572 Tok/s → 7,7–16,5 Mio. Tok/Std. → Ausgabe: $0,56–1,88 je Mio. Token (H100-Basis, geschätzt aus §2÷§3). → Eingabe (Prefill, parallelisierbar): aus Listenpreis-Verhältnissen (Eingabe:Ausgabe ≈1:5 bis 1:10) abgeleitet, nicht separat gemessen → ≈$0,06–0,38 je Mio. Token.

Veröffentlichter Vergleichswert (● SemiAnalysis InferenceX, B200/B300, hoch ausgelastete Batch-/Interaktiv-Serving-Infra): $0,106–0,132 je Mio. Gesamttoken (20s Antwortzeit) bzw. $0,222–0,276 je Mio. (100 Tok/s/Nutzer). Niedriger als die eigene H100-Schätzung — plausibel durch neuere Hardware, höhere Auslastung und geblendete Ein-/Ausgabe statt reiner Ausgabe.

5. Gegenüberstellung Listenpreis vs. Rechenkosten (◐ abgeleitet)

Modell Liste Ein $/M Liste Aus $/M Rechenkosten Aus $/M Bruttomarge (nur Rechenkosten!)
GPT-6 Astra 10,00 50,00 0,1–1,9 ≈96–99,8%
GPT-5.6 Sol 4,00 20,00 0,1–1,9 ≈91–99,5%
Claude Opus 5 5,00 25,00 0,1–1,9 ≈92–99,6%
Marge gilt nur gegen reine GPU-Betriebskosten — Trainings-Amortisation, R&D, Sicherheit, Auslastung <100% sind nicht eingerechnet (§7).

6. Dieses Projekt: Abo vs. Schnittstelle vs. Rechenkosten

Gemessen (Quelle: docs/AUSFUEHRUNGSBERICHT-2026-09-20.md:568-593, Brücken-Protokoll + Dateigrößen): 21 Aufträge, 4.718 Modell-Züge, ≈569 Mio. Eingabetoken, ≈0,8 Mio. Ausgabetoken gesamt (davon 365.000 Token überlebender Code, Rest verworfene Versuche/Denkschritte), tatsächlich bezahlt [interner Betrag entfernt] über Abos.

Basis Kosten Faktor ggü. [interner Betrag entfernt] (≈$32–65, Kurs [interner Betrag entfernt]≈$1,08 angenommen)
Liste GPT-6 Astra, ohne Cache ≈$5.700 ≈88–178×
Liste GPT-6 Astra, 90% Cache-Treffer ≈$1.100 ≈17–34×
Liste Claude Opus 5, ohne Cache ≈$2.900 ≈45–91×
Liste GPT-5.6 Sol, ohne Cache ≈$2.300 ≈35–72×
◐ eigene Rechenkosten, H100-Basis ≈$28–98 ≈0,4–3,1×
◐ eigene Rechenkosten, B200/SemiAnalysis-Basis (geblendet) ≈$60–160 ≈0,9–5,0×

Kernbefund: Die reinen GPU-Rechenkosten dieses Projekts liegen ungefähr in derselben Größenordnung wie der tatsächlich bezahlte Abo-Preis — kaum Unterschied. Der Listenpreis über die Schnittstelle wäre 35- bis 178-fach teurer gewesen.

graph LR
    P["Bezahlt (Abo)
[interner Betrag entfernt]
≈$32–65"] -->|"×0,4–5,0"| R["Eigene Rechenkosten
≈$28–160
H100/B200-Schätzung"] P -->|"×35–178"| L["Listenpreis Schnittstelle
≈$2.300–5.700
je nach Modell"] style P fill:#f5f5f5,stroke:#333333,stroke-width:1px style R fill:#fdf3e7,stroke:#875A17,stroke-width:2px,color:#875A17 style L fill:#fdecee,stroke:#DC2438,stroke-width:2px,color:#DC2438

Drei Größenordnungen: bezahlt, geschätzte Rechenkosten, Listenpreis über die Schnittstelle. Bezahltes Abo und geschätzte Rechenkosten liegen nahe beieinander (Faktor ≈0,4–5,0×) — der Listenpreis über die Schnittstelle wäre 35- bis 178-fach teurer.

7. Zusatzkosten neben der GPU (Einordnung, nicht gemessen)

  • Netzwerk/InfiniBand-Fabric: im Knotenpreis (§2) bereits enthalten, laut Brancheneinordnung grob 10–15% des Cluster-Capex — ○ keine Einzelquelle in dieser Recherche.
  • Speicher: bei reiner Inferenz meist gering ggü. Compute — ○ unbekannt, kein belastbarer %-Wert gefunden.
  • Sicherheitsprüfung/Red-Teaming/RLHF: einmalige Trainingskosten, nicht in den Token-Rechenkosten enthalten — größter nicht erfasster Kostenblock.
  • Support/Vertrieb/Forschung: laufende Unternehmenskosten, in keiner Zahl oben enthalten.
  • Auslastung <100%: eigene Rechnung nimmt Dauerbetrieb an; Leerlauf erhöht reale Kosten je Token in der Praxis spürbar.

8. Was das für den Kunden bedeutet

Die Abo-Preise ([interner Betrag entfernt] für dieses Projekt) liegen nach eigener Schätzung nahe an oder sogar unter den reinen GPU-Rechenkosten — für Trainings-Amortisation, Sicherheit, Support und Gewinn bleibt in diesem Preismodell praktisch nichts übrig, das Geschäft läuft also entweder quersubventioniert oder mit sehr knapper Marge auf Abo-Nutzung mit hohem Werkzeug-/Kontext-Verbrauch wie diesem. Das ist ein Preisstabilitätsrisiko: Anbieter können Abo-Limits, Preise oder Zugriff auf die stärksten Modelle (wie GPT 6 Pro) jederzeit verschärfen, sobald die Auslastung durch genau solche "voller Kontext je Zug"-Workflows unrentabel wird. Würde dieselbe Arbeit künftig über die Programmier-Schnittstelle abgerechnet, stiege der Preis um das 35- bis 178-fache (§6) — ein Sprung, den ein Kundenprojekt in dieser Form nicht mehr "nebenbei" tragen könnte. Kaufmännisch folgt daraus: Abo-basierte Werkzeugnutzung ist für Bau-Tage wie diesen aktuell konkurrenzlos günstig, aber nicht als dauerhaft garantierte Kostenbasis zu planen. Wer diesen Ablauf skaliert (viele Kunden, viele Projekte), sollte mit Schnittstellen-Preisen kalkulieren, nicht mit Abo-Preisen.

⛔ Offen / Nächster Schritt

  • Reale Trainings-Amortisation je Token unbekannt — keine öffentliche Quelle mit belastbarer Zahl gefunden.
  • Eigene Vollkosten-Rechnung nutzt PUE/Betriebsaufschlag als Schätzung ohne Einzelquelle — bei Bedarf durch echte Rechenzentrums-Geschäftsberichte ersetzen.
  • Durchsatzwerte stammen von Llama-Modellen (Proxy für "großes Modell"), nicht vom tatsächlich genutzten GPT-6/Claude-Modell — echte Modellgröße/Architektur unbekannt.
  • Cache-Trefferquote von 90% für die Vergleichsrechnung ist eine Annahme aus dem Quellreport, nicht separat verifiziert.
  • Wechselkurs [interner Betrag entfernt]≈$1,08 ist eine grobe Annahme für den Faktor-Vergleich in §6.