GPU-Server Übersicht

GPU-Server sind Bare-Metal-Einzelmandanten-Maschinen mit NVIDIA-Beschleunigern, die für KI-Training, Inferenz und Rendering dimensioniert sind. Diese Anleitung behandelt die vier Tiers, wie Bestellung und Lieferung tatsächlich funktionieren, was die Setup-Gebühr abdeckt, und wie man eine GPU-Maschine nach der Inbetriebnahme verwaltet.

Was ein GPU-Server ist

Ein GPU-Server ist eine dedizierte physische Maschine mit einer oder mehreren NVIDIA-GPUs sowie der CPU, dem Systemspeicher und dem schnellen Speicher, der benötigt wird, um sie zu versorgen. Die gesamte Maschine gehört dir: niemand sonst teilt sich die Beschleuniger, die PCIe-Bandbreite oder die Festplatten.

Du installierst deinen eigenen Stack und führst ihn so aus, wie du möchtest. CUDA-Workloads, PyTorch, TensorFlow, JAX und die üblichen Serving-Frameworks funktionieren alle genau wie auf jeder Bare-Metal-Linux-Box, denn das ist es.

Der Grund für die Wahl der Einzelmandanz hier ist nicht nur die Leistung. GPU-Workloads laufen normalerweise stundenlang mit voller Last, und gemeinsam genutzte Beschleuniger verhalten sich unter dieser Art von Dauerlast sehr unterschiedlich als unter Benchmark-Bedingungen.

Die vier Tiers

Spark ist der Einstiegspunkt: genug GPU-Speicher für kleinere Modelle, Fine-Tuning, Inferenz und Rendering-Arbeiten. Forge, Foundry und Reactor nutzen denselben Beschleuniger und erhöhen den Systemspeicher um ihn herum, was wichtig ist, wenn du große Datensätze bereitstellst oder mehrere Modelle im Host-Speicher hältst.

Jedes Tier wird sowohl unverwaltet als auch verwaltet angeboten. Unverwaltet gibt dir Root-Zugriff und überlässt dir das Betriebssystem. Verwaltet behält die gleiche Hardware mit unseren Ingenieuren in der Softwareschicht. Siehe Managed vs Unmanaged Cloud Servers.

Aktuelle Preise in deiner eigenen Währung findest du, wenn du im KPanel Store und dann die GPU Compute Karte öffnest.

Ein Tier auswählen

Beginne mit dem Modell, nicht mit dem Preis.

• Wie viel GPU-Speicher benötigt dein Modell in der Form, in der du es ausführst? Das ist die harte Einschränkung. Wenn Gewichte plus Aktivierungen nicht passen, hilft keine Menge an System-RAM.
• Trainierst du oder versorgst du? Training ist speicherintensiv und langwierig. Inferenz ist oft durch die Geschwindigkeit begrenzt, mit der du Daten zur GPU bringen kannst, was bedeutet, dass System-RAM und Festplatte wichtiger sind.
• Wie groß ist dein Arbeitssatz? Wenn du einen Datensatz streamen, der nicht in den Host-Speicher passt, sind die Foundry- und Reactor-Konfigurationen genau dafür da.

Falls du dir unsicher bist, teile uns mit, was du ausführst, die Modellgröße, das Framework und wie viel GPU-Speicher du benötigst. Wir werden dich zum richtigen Tier führen, anstatt dich zum Überverkauf zu verleiten. GPU and AI Compute Servers hat mehr zur Workload-Seite.

Wie Bestellung tatsächlich funktioniert

GPU-Hardware ist knapp und teuer, daher ist der Prozess absichtlich nicht mit einem Klick erledigt.

1. Melde dich bei KPanel an.
2. Klicke auf Store in der linken Seitenleiste.
3. Klicke unter Servers auf die GPU Compute Karte.
4. Wechsle zwischen Unmanaged und Managed und wähle ein Tier.
5. Schließe den Checkout ab.

Nach dem Checkout erhältst du eine Auftragsbestätigungs-E-Mail, und unser Team bestätigt die aktuelle Kapazität und den Build, bevor Hardware dir zugewiesen wird.

Du wirst auf jeden Fall von uns hören. Wenn du bezahlt hast und nicht die erwartete Rückmeldung erhalten hast, antworte auf die Bestätigungs-E-Mail oder öffne ein Ticket von Support und wir sagen dir genau, wo die Bestellung steht.

Setup-Gebühr und Abrechnung

GPU-Server haben eine einmalige Setup-Gebühr zusätzlich zum monatlichen Preis, gemeinsam mit dedizierten und Speicher-Servern, da eine physische Maschine gebaut und übergeben wird. Cloud-Server haben keine Setup-Gebühr.

Die Setup-Gebühr wird einmal berechnet, wiederholt sich nie und wird beim Checkout separat vom monatlichen Preis angezeigt.

Da ein GPU-Tier ein monatliches Engagement für teure Hardware ist und nicht an Miete pro Stunde, nimm die Entscheidung entsprechend ernst. Wenn du eine GPU nur für einen kurzen Burst benötigst, teile uns das mit, wenn du mit uns sprichst.

Ein Tier reservieren

Wenn ein Tier keine Kapazität hat, bietet die Plan-Karte eine Reservierung anstelle einer Konfigurationsaktion. Der Beitritt zur Warteschlange zeichnet dein Interesse an diesem Tier auf.

Einen GPU-Server verwalten

Sobald eine GPU-Maschine live ist, wird sie genau wie jeder andere Bare-Metal-Server verwaltet, von Dedicated Servers in der KPanel-Seitenleiste. Es gibt kein separates GPU-Element in der Seitenleiste.

Das Toolset, das vollständig in Managing a Dedicated Server dokumentiert ist, umfasst:

• Power: sanfter Neustart, Hardware-Reset, erzwungener Power-Zyklus und Wake-on-LAN.
• Rettungssystem: eine temporäre Linux-Umgebung oder eine browserbasierte virtuelle Konsole.
• Reverse DNS: PTR-Datensätze für jede geroutete IP.
• IPs und Subnetze: was zur Maschine geroutet wird, sowie zusätzliche IPv4.
• Traffic: ein- und ausgehendes Volumen pro Tag, Monat oder Jahr.
• Firewall: ein vorgelagerter Filter, der angewendet wird, bevor der Traffic die Maschine erreicht.
• Advanced: eine vollständige Neuinstallation des Betriebssystems mit typisierter Bestätigung.

Konsolenzugriff für eine Maschine, die nicht hochfährt, ist in Dedicated Server Console Access enthalten.

Praktische Hinweise vor dem Start

Treiber sind auf einer unverwalteten Maschine deine Verantwortung. Installiere den NVIDIA-Treiber und CUDA-Stack, der zu den Framework-Versionen passt, die du ausführen möchtest, und halte sie fest. Nicht übereinstimmende Treiber- und Toolkit-Versionen sind die häufigste Ursache für eine GPU, die vorhanden ist, aber nicht nutzbar.

Achte auf deine Festplatte. Modell-Checkpoints und Datensätze füllen eine Festplatte schneller als alles andere auf einem Server. Wenn Kapazität dein echtes Problem und nicht die Rechenleistung ist, ist ein storage server neben der GPU-Maschine normalerweise billiger als ein größeres GPU-Tier.

Firewall es richtig. Eine GPU-Box mit einem Inferenz-Endpunkt ist ein attraktives Ziel. Verwende die vorgelagerte Firewall, um nur das zuzulassen, das darauf zugreifen muss, und halten Allow platform services aktiviert, damit du dich selbst nicht aussperrst.

Neuinstallation löscht alles. Die Neuinstallationsaktion unter Advanced löscht alle Festplatten ohne Rückgängigmachen und erstellt für dich kein Backup. Kopiere deine Checkpoints zuerst ab.

Hilfe erhalten

GPU ist das Produkt, bei dem ein erstes Gespräch mit uns das meiste Geld spart. Stelle eine Frage an Kora in KPanel, öffne ein Ticket von Support, oder sende eine E-Mail an support@kapsulehost.com mit dem, was du ausführst und wie viel GPU-Speicher du benötigst.

Für den Rest der Compute-Range siehe Cloud Servers Overview und Dedicated Servers Overview.