Vast.ai hat sich als einer der führenden Marktplätze für GPU-Mieten etabliert. Die Plattform funktioniert nach dem Peer-to-Peer-Prinzip: Anbieter stellen ihre ungenutzten Grafikkarten zur Verfügung, während Mieter diese per Stunde oder Sekunde nutzen können. Im Gegensatz zu klassischen Cloud-Providern wie AWS oder GCP sind die Preise oft 50-80 Prozent günstiger.
Der Vorteil für Mieter liegt auf der Hand: Zugang zu High-End-GPUs wie der NVIDIA H100, A100 oder RTX 4090 zu Bruchteilen der Listenpreise. Für KI-Forscher, Entwickler und Startups bedeutet dies eine erhebliche Kostensenkung bei Experimenten, Trainings und Deployments. Vast.ai demokratisiert den Zugang zu Rechenleistung.
Die Plattform hat sich besonders in den letzten Jahren weiterentwickelt. 2026 bietet Vast.ai eine ausgereifte Infrastruktur mit Docker-Images, SSH-Zugang, Jupyter-Notebooks und vorkonfigurierten Templates für Frameworks wie PyTorch, TensorFlow und vLLM. Die Einstiegshürde ist niedrig, auch für Nutzer ohne tiefes Cloud-Wissen.
Bei hostazar.com empfehlen wir Vast.ai besonders für kurzfristige Projekte, bei denen Kosten eine große Rolle spielen. Wenn ihr ein Training in wenigen Stunden abschließen könnt, zahlt ihr nur für diese Zeit – ein enormes Einsparpotenzial gegenüber monatlichen Cloud-Verträgen.
Der Vergleich zwischen Vast.ai und etablierten Cloud-Providern wie AWS, Google Cloud oder Azure zeigt deutliche Unterschiede. Während Hyperscaler auf Enterprise-Features, Zuverlässigkeit und globale Verfügbarkeit setzen, fokussiert sich Vast.ai auf reine GPU-Rechenleistung zu niedrigsten Preisen.
Ein NVIDIA H100 auf AWS kostet etwa 3-5 Dollar pro Stunde, auf Vast.ai oft nur 1,50-2,50 Dollar. Bei einer RTX 4090 sind die Unterschiede noch gravierender: Auf Vast.ai bekommt ihr sie manchmal für 0,30-0,50 Dollar pro Stunde, während sie auf AWS schlicht nicht verfügbar ist und auf GCP oder Azure ebenfalls deutlich teurer ist.
| GPU | Vast.ai (ca.) | AWS (ca.) | GCP (ca.) | Einsparung |
|---|---|---|---|---|
| RTX 4090 | 0,35 $/h | N/A | 1,20 $/h | ~70% |
| A100 40GB | 1,20 $/h | 3,50 $/h | 3,20 $/h | ~65% |
| A100 80GB | 1,80 $/h | 4,80 $/h | 4,50 $/h | ~62% |
| H100 80GB | 2,20 $/h | 5,00 $/h | 4,80 $/h | ~55% |
Allerdings hat Vast.ai auch Nachteile. Die Verfügbarkeit ist schwankend, da sie von der Auslastung der Host-Maschinen abhängt. Für unternehmenskritische Workloads mit garantierter Verfügbarkeit sind Hyperscaler die bessere Wahl. Vast.ai eignet sich eher für Forschung, Experimente und flexible Workloads.
Die Sicherheitslage ist ebenfalls zu beachten. Auf Vast.ai teilt ihr euch die Hardware mit anderen Nutzern, wenn auch in isolierten Container-Umgebungen. Sensible Daten solltet ihr verschlüsseln und keine persistenten Geheimnisse auf den Instanzen speichern. Für sensible Unternehmensdaten sind private Clouds oder Hyperscaler empfehlenswerter.
Die Anmeldung bei Vast.ai ist unkompliziert. Ihr benötigt lediglich eine E-Mail-Adresse und könnt euch entweder mit klassischer Registrierung oder über einen OAuth-Provider wie Google oder GitHub anmelden. Nach der Bestätigung der E-Mail-Adresse könnt ihr sofort mit dem Stöbern im Marketplace beginnen.
Das Aufladen von Guthaben erfolgt per Kreditkarte oder Kryptowährung. Vast.ai akzeptiert Bitcoin, Ethereum und USDT. Kreditkartenzahlungen werden über Stripe abgewickelt und sind in den meisten Ländern verfügbar. Neue Nutzer sollten mit einem kleinen Betrag starten, um die Plattform kennenzulernen.
# Empfohlene erste Schritte
1. Account erstellen auf https://vast.ai
2. E-Mail-Adresse bestätigen
3. Kreditkarte hinterlegen oder Krypto senden
4. Filter im Marketplace einstellen
5. Erste Instanz mieten und testen
Plant eure Budgets sorgfältig. Eine 24/7-Instanz mit H100 kann leicht 50-60 Dollar pro Tag kosten. Für die meisten Projekte ist es sinnvoll, Instanzen nur für die tatsächliche Nutzungsdauer laufen zu lassen. Vast.ai bietet sowohl On-Demand- als auch Reserved-Instanzen an.
Nutzt die Community-Foren und die offizielle Dokumentation, um euch mit der Plattform vertraut zu machen. Vast.ai hat eine aktive Community auf Discord, die bei Fragen schnell hilft. Auch YouTube bietet zahlreiche Tutorials, die den Einstieg erleichtern.
Die Wahl der richtigen GPU hängt stark von eurem konkreten Anwendungsfall ab. Verschiedene Modelle und Aufgaben haben unterschiedliche Anforderungen an VRAM, Rechenleistung und Speicherbandbreite. Eine fundierte Auswahl spart Geld und beschleunigt eure Projekte erheblich.
Für klassisches Machine Learning und kleinere Deep-Learning-Modelle reichen oft GPUs mit 8-16 GB VRAM. Eine RTX 3060 oder 4060 mit 12 GB ist hier preislich attraktiv. Für mittelgroße Modelle wie Llama 3 8B oder Stable Diffusion XL benötigt ihr mindestens 16-24 GB VRAM – ideal sind RTX 4090 oder A5000.
| Use-Case | Empfohlene GPU | VRAM | Typischer Preis/h |
|---|---|---|---|
| Kleine Modelle (1-3B) | RTX 3060/4060 | 12 GB | 0,15-0,30 $ |
| Mittlere Modelle (7-13B) | RTX 4090/A5000 | 24 GB | 0,30-0,80 $ |
| Große Modelle (30-70B) | A100 80GB | 80 GB | 1,50-2,50 $ |
| Frontier Models (70B+) | H100 80GB | 80 GB | 2,00-3,50 $ |
Für Fine-Tuning großer Modelle ist VRAM der entscheidende Faktor. Mit 24 GB VRAM könnt ihr Modelle bis etwa 7B Parameter voll feintunen. Für 13B-Modelle benötigt ihr Quantisierung oder DeepSpeed-ZeRO. Ab 30B Parametern sind GPUs mit 80 GB VRAM wie die A100 oder H100 quasi Pflicht.
Achtet auch auf die Host-Konfiguration. Eine schnelle NVMe-SSD beschleunigt das Laden großer Datasets erheblich. Mindestens 16 GB System-RAM sind empfehlenswert, da manche Frameworks beim Laden der Modelle zusätzlichen CPU-RAM nutzen. CPU-Kerne helfen bei der Datenvorverarbeitung.
Vast.ai bietet eine umfangreiche Bibliothek an vorkonfigurierten Docker-Images, die den Einstieg erheblich erleichtern. Diese Images enthalten bereits CUDA, cuDNN, Python und oft auch die gängigsten ML-Frameworks. Ihr müsst also nicht selbst das Rad neu erfinden.
Beliebte Templates sind PyTorch- und TensorFlow-Images in verschiedenen Versionen, vLLM-Setups für effiziente Inferenz, sowie spezialisierte Images für Stable Diffusion oder Whisper. Bei hostazar.com empfehlen wir für Neulinge das offizielle PyTorch-Image als Ausgangspunkt.
# Beispiel: PyTorch mit CUDA 12.1 starten
docker run -it --gpus all --rm \
-v /workspace:/workspace \
pytorch/pytorch:2.1.0-cuda12.1-cudnn8-runtime \
/bin/bash
Eigene Images lassen sich über den Vast.ai Image-Server bereitstellen. Ihr könnt ein Standard-Image als Basis verwenden, eure Anpassungen vornehmen und es dann als privates Image speichern. So habt ihr bei jeder neuen Instanz sofort die gleiche Umgebung zur Verfügung.
Beachtet die Speicherlimits für Images. Große Container mit vielen Bibliotheken können den Start neuer Instanzen verlangsamen. Setzt auf schlanke Basis-Images und installiert nur, was ihr tatsächlich benötigt. Layer-Caching hilft, die Image-Größe zu minimieren.
Für die meisten KI-Workflows sind Jupyter Notebooks unverzichtbar. Vast.ai bietet eine nahtlose Integration, sodass ihr mit wenigen Klicks ein Jupyter Lab direkt im Browser starten könnt. Alternativ ist der klassische SSH-Zugang möglich, was für fortgeschrittene Nutzer oft bevorzugt wird.
Wenn ihr eine Instanz erstellt, könnt ihr im Bereich "Launch Options" Jupyter Lab aktivieren. Vast.ai generiert automatisch einen Direktlink, der im Browser geöffnet werden kann. So könnt ihr innerhalb weniger Sekunden mit dem Coden beginnen, ohne komplizierte Konfigurationen.
# SSH-Verbindung über vast.ai CLI
pip install vastai
vastai set api-key [YOUR_API_KEY]
vastai ssh url [INSTANCE_ID]
Für SSH empfehlen wir die Konfiguration von SSH-Keys. Ohne Key-Authentifizierung müsst ihr bei jeder Verbindung ein Passwort eingeben, was bei häufigen Verbindungen umständlich ist. Vast.ai erlaubt es, mehrere SSH-Keys pro Account zu hinterlegen.
Persistente Speicher sind ein wichtiges Thema. Standardmäßig sind die Instanzen flüchtig – Daten gehen beim Stoppen verloren. Nutzt entweder Cloud-Speicher, ladet eure Daten nach dem Start hoch, oder konfiguriert Vast.ai-Data-Sharing, um Daten zwischen Instanzen zu teilen.
Ein wesentlicher Vorteil von Vast.ai ist das dynamische Preismodell. Anders als bei Hyperscalern, die feste Stundensätze verlangen, variieren die Preise je nach Angebot und Nachfrage. Versteht ihr diese Mechanik, könnt ihr erheblich sparen.
Die billigsten Instanzen sind oft ältere GPUs wie RTX 3090 oder 3080. Für viele Anwendungen sind diese vollkommen ausreichend und kosten teilweise nur 0,15-0,25 Dollar pro Stunde. Wer nicht zwingend die neueste Hardware benötigt, findet hier ein hervorragendes Preis-Leistungs-Verhältnis.
Das Vast.ai-Interface zeigt eine Verfügbarkeitsquote für jede Maschine an. Maschinen mit niedriger Verfügbarkeit sind günstiger, können aber jederzeit vom Host zurückgezogen werden. Für unterbrechbare Workloads wie Trainingsjobs, die automatisch gespeichert werden, ist
Künstliche Intelligenz und Machine Learning haben in den letzten Jahren eine beispiellose Entwicklung durchlaufen. Trainings von Large Language Models, Stable Diffusion, Video-Generierung und wissenschaftliche Berechnungen erfordern leistungsstarke GPUs, die für die meisten Privatpersonen und kleinen Unternehmen nicht erschwinglich sind. Vast.ai hat sich als einer der führenden Marktplätze etabliert, um GPUs stundenweise zu mieten.
Im Gegensatz zu klassischen Cloud-Providern wie AWS, Google Cloud oder Azure, wo GPU-Instanzen oft das Dreifache kosten, bietet Vast.ai einen Peer-to-Peer-Marktplatz, auf dem Privatpersonen und Rechenzentren ihre ungenutzten GPU-Ressourcen anbieten. Dies führt zu Preisen, die oft 50-80% unter den Preisen der Hyperscaler liegen.
In diesem umfassenden Guide erfährst du alles, was du über das Mieten von GPUs auf Vast.ai wissen musst. Wir erklären die Funktionsweise, vergleichen die Preise mit Alternativen, zeigen die Einrichtung und geben Tipps für die optimale Nutzung deiner gemieteten GPU.
Vast.ai wurde 2018 gegründet und hat sich schnell zum größten dezentralen GPU-Marktplatz der Welt entwickelt. Die Plattform bringt Anbieter von GPU-Ressourcen (Hosts) und Mieter (Clients) zusammen, wobei Vast.ai als Vermittler und für die Qualitätssicherung fungiert. Hosts stellen ihre ungenutzten GPUs zur Verfügung und können so einen Teil ihrer Hardware-Investitionen wieder einspielen.
Die Plattform unterscheidet zwischen verschiedenen Maschinentypen: On-Demand Instances sind sofort verfügbar und können jederzeit gestartet werden, Interruptible Instances sind günstiger, können aber vom Host jederzeit beendet werden, und Reserved Instances bieten langfristige Verfügbarkeit zu reduzierten Preisen. Für die meisten Anwendungsfälle sind On-Demand Instances die beste Wahl.
Die Vast.ai-Infrastruktur basiert auf Docker-Containern, die über SSH oder Jupyter-Notebooks erreichbar sind. Du wählst aus hunderten vorkonfigurierten Templates das passende für deinen Anwendungsfall aus, startest die Instanz mit wenigen Klicks und hast innerhalb von Sekunden Zugriff auf eine leistungsstarke GPU. Bezahlt wird stundenweise per Kreditkarte oder Kryptowährung.
Vast.ai bietet eine breite Palette an GPU-Modellen verschiedener Generationen und Hersteller. Die Auswahl reicht von günstigen Consumer-GPUs für Einsteiger bis hin zu professionellen Datacenter-Karten für anspruchsvolle KI-Workloads. Die Preise variieren dabei um ein Vielfaches, je nach Leistungsklasse und Verfügbarkeit.
Die beliebtesten GPU-Modelle auf Vast.ai sind die NVIDIA RTX 3090 und RTX 4090, die ein ausgezeichnetes Preis-Leistungs-Verhältnis für KI-Workloads bieten. Die RTX 4090 mit 24 GB VRAM ist besonders für Stable Diffusion, Fine-Tuning von LLMs und mittelgroße Trainingjobs beliebt. Für professionelle Anwendungen werden H100, A100 und RTX A6000 angeboten.
Die folgende Tabelle gibt einen Überblick über die gängigsten GPU-Modelle und ihre typischen Einsatzgebiete:
| GPU-Modell | VRAM | Rechenleistung (FP16) | Preis/Stunde (ca.) | Empfohlene Workloads |
|---|---|---|---|---|
| RTX 3060 | 12 GB | 13 TFLOPS | 0,10-0,20 $ | Stable Diffusion, kleine LLMs |
| RTX 3090 | 24 GB | 36 TFLOPS | 0,25-0,45 $ | Fine-Tuning, Stable Diffusion XL |
| RTX 4090 | 24 GB | 82 TFLOPS | 0,40-0,70 $ | LLM-Training, SDXL, Video-Gen |
| RTX A5000 | 24 GB | 77 TFLOPS | 0,50-0,80 $ | Professionelles Training |
| RTX A6000 | 48 GB | 77 TFLOPS | 0,80-1,20 $ | Große Modelle, Research |
| A100 40GB | 40 GB | 312 TFLOPS | 1,50-2,50 $ | Enterprise-Training |
| A100 80GB | 80 GB | 312 TFLOPS | 2,00-3,00 $ | Large Language Models |
| H100 80GB | 80 GB | 989 TFLOPS | 3,00-5,00 $ | Cutting-Edge AI-Training |
Der größte Vorteil von Vast.ai ist der Preis. Vergleicht man die stündlichen Kosten für eine vergleichbare GPU-Leistung, so liegt Vast.ai oft bei 30-50% der Kosten von AWS, GCP oder Azure. Besonders bei High-End-GPUs wie der H100 sind die Einsparungen enorm, da die Hyperscaler hier sehr hohe Margen aufschlagen.
Ein konkreter Vergleich: Eine NVIDIA H100 SXM auf AWS schlägt mit etwa 12-16 Dollar pro Stunde zu Buche, auf Google Cloud mit 10-14 Dollar. Auf Vast.ai ist dieselbe GPU bereits ab 3-5 Dollar pro Stunde verfügbar. Bei einem typischen 24-Stunden-Training sparst du so mehrere hundert Dollar.
Allerdings hat der günstigere Preis auch seinen Preis. Die Zuverlässigkeit ist nicht mit den Hyperscalern vergleichbar, da viele Hosts private Hardware mit unterschiedlicher Qualität betreiben. Auch die Netzwerkperformance kann stark variieren, und für hochverfügbare Produktionsworkloads sind die Hyperscaler weiterhin die erste Wahl. Für Experimente, Forschung und nicht-kritische Produktion ist Vast.ai jedoch unschlagbar.
| Anbieter | RTX 4090 | A100 40GB | A100 80GB | H100 80GB |
|---|---|---|---|---|
| Vast.ai | ab 0,40 $ | ab 1,50 $ | ab 2,00 $ | ab 3,00 $ |
| RunPod | ab 0,50 $ | ab 1,80 $ | ab 2,40 $ | ab 4,00 $ |
| Lambda Cloud | ab 0,60 $ | ab 2,10 $ | ab 2,80 $ | ab 4,50 $ |
| AWS EC2 | - | ca. 4,00 $ | ca. 5,50 $ | ca. 12-16 $ |
| Google Cloud | - | ca. 3,50 $ | ca. 5,00 $ | ca. 10-14 $ |
Die Anmeldung bei Vast.ai ist unkompliziert. Besuche die Webseite vast.ai und erstelle einen Account per E-Mail oder Google-Login. Nach der Bestätigung deiner E-Mail-Adresse lädst du dein Konto mit Guthaben auf, wahlweise per Kreditkarte, PayPal oder Kryptowährung. Das Mindestguthaben liegt bei 5 Dollar, empfehlenswert sind anfangs 20-50 Dollar zum Testen.
Nach dem Login landest du im Dashboard, das eine Übersicht über verfügbare Instanzen, deine laufenden Maschinen und deine Abrechnungshistorie bietet. Über den Reiter "Search" oder "Create Instance" kannst du nach verfügbaren GPUs filtern. Wichtige Filterkriterien sind das GPU-Modell, der VRAM, der Preis pro Stunde, der Standort und die Bewertung des Hosts.
Die Konfiguration einer Instanz erfolgt in mehreren Schritten. Zuerst wählst du das passende Template aus, etwa PyTorch, TensorFlow oder ein vorkonfiguriertes Stable Diffusion Image. Anschließend konfigurierst du den Speicher (mindestens 50 GB empfohlen), die Ports und eventuell zusätzliche Umgebungsvariablen. Nach dem Klick auf "Rent" ist die Instanz in der Regel innerhalb von 30 Sekunden bis 2 Minuten verfügbar.
Vast.ai bietet eine umfangreiche Bibliothek an vorkonfigurierten Docker-Images, die für verschiedene Anwendungsfälle optimiert sind. Diese Images enthalten bereits CUDA, cuDNN, Python und die gängigsten ML-Frameworks, sodass du sofort mit der Arbeit beginnen kannst. Beliebte Templates sind pytorch, tensorflow, jupyter, stable-diffusion und oobabooga.
Für Stable Diffusion empfehlen wir das Template "runpod/stable-diffusion-webui" oder "vladmandic/automatic", das bereits AUTOMATIC1111 oder SD WebUI Forge enthält. Für LLM-Training ist das pytorch-Template mit zusätzlichen Volumes die beste Wahl. Eigene Images können über den "Custom Docker Image"-Modus verwendet werden, was die Flexibilität maximiert.
Beim Erstellen einer Instanz stehen dir zahlreiche Optionen zur Verfügung. Die wichtigsten sind: Disk Space (50-500 GB), On-Subnet (für schnelle interne Kommunikation), Jupyter Lab Modus, SSH-Zugang mit eigenem Key, Docker Options für erweiterte Konfiguration und Launch Mode (ssh, jupyter, oder beides). Für die meisten Use-Cases ist Jupyter Lab die komfortabelste Option.
Das Datenmanagement auf Vast.ai-Instanzen erfordert etwas Planung, da die Instanzen flüchtig sind und nach dem Stoppen gelöscht werden können. Für persistente Daten solltest du externe Storage-Lösungen verwenden oder die Instanz nicht stoppen, sondern einfach laufen lassen. Vast.ai bietet einen integrierten Cloud-Speicher, der als Volume an die Instanz gemountet werden kann.
Für den Datenupload stehen mehrere Methoden zur Verfügung: SCP/SFTP über SSH, direkter Download per wget oder curl aus dem Internet, das Vast.ai-CLI-Tool, das Hochladen in den Cloud-Storage oder die direkte Integration mit Hugging Face Hub. Besonders elegant ist die direkte Nutzung von Hugging Face Datasets, da viele KI-Modelle und Datensätze dort kostenlos gehostet werden.
Die folgende Übersicht zeigt die verschiedenen Methoden mit ihren Vor- und Nachteilen:
| Methode | Geschwindigkeit | Einfachheit | Speicherort | Empfehlung |
|---|---|---|---|---|
| SCP/SFTP | Mittel | Hoch | Lokal | Kleine Dateien |
| wget/curl | Schnell | Mittel | URL | Öffentliche Datensätze |
| Vast.ai CLI | Mittel | Hoch | Cloud-Storage | Große Datenmengen |
| Hugging Face Hub | Schnell | Hoch | HF Hub | KI-Modelle |
| Cloud Volume | Schnell | Hoch | Vast.ai Storage | Persistente Daten |
Stable Diffusion ist einer der populärsten Anwendungsfälle für gemietete GPUs, da die Generierung von Bildern viel Rechenleistung erfordert. Auf Vast.ai kannst du AUTOMATIC1111, ComfyUI, SD WebUI Forge oder Fooocus in wenigen Minuten einrichten und sofort mit dem Generieren beginnen. Die Kosten für hunderte Bilder liegen oft unter einem Dollar.
Der Einstieg ist denkbar einfach: Wähle das Template "stable-diffusion-webui" oder "comfyui", starte die Instanz und öffne die entsprechende URL im Browser. Innerhalb weniger Minuten hast du Zugriff auf das Web-Interface und kannst mit dem Generieren beginnen. Die mitgelieferten Modelle sind ein guter Start, aber du kannst problemlos eigene Modelle von CivitAI oder Hugging Face hinzufügen.
Für optimale Performance empfe
Mistral Large, Mixtral 8x7B & 8x22B selbst hosten: MoE-Architektur, GPU-RAM-Anforderungen, Quantisierung für Consumer-Hardware, Vergleichstabelle und Hardware-Leitfaden 2026.
Mistral Large, Mixtral 8x7B & 8x22B selbst hosten: MoE-Architektur, GPU-RAM-Anforderungen, Quantisierung für Consumer-Hardware, Vergleichstabelle und Hardware-Leitfaden 2026.
Cloud GPU Kosten 2026 im großen Vergleich: RunPod, Vast.ai, Lambda, TensorDock, DataCrunch, JarvisLabs & Nebius AI. ✓ A100 ✓ H100 ✓ RTX 4090 ✓ L40S ✓ A6000 – Preise pro Stunde, Sparpotenzial & Empfehl
GPU-Backends für lokale LLMs 2026: CUDA (NVIDIA), ROCm (AMD), Vulkan (Universal), SYCL (Intel) im Vergleich. Kompatibilität, Performance, Setup & Hardware-Guide mit Benchmark-Ergebnissen.
DeepSeek R1 und V3 lokal hosten: MoE-Architektur, GPU-Anforderungen, Quantisierung (GGUF/Q4/Q8). Komplette Setup-Schritte für Ollama, vLLM & SGLang. Mit Kostenvergleich & Performance-Benchmarks.
Docker-Container für LLM-Inference: GPU-Passthrough mit NVIDIA Container Toolkit, Ollama & vLLM in Docker Compose, Multi-Container-Setup mit Open WebUI, Ressourcenlimits & Best Practices 2026.
GPU mieten für KI/LLMs 2026: NVIDIA A100, H100, RTX 4090, L40S, A6000 Preise und Performance bei RunPod, Vast.ai, Lambda, TensorDock, DataCrunch. Mit Kostenvergleichs-Tabelle.