GPU- en AI-rekenservers

Een Kapsule GPU server is een single-tenant fysieke machine met NVIDIA grafische processors en de CPU, geheugen en snelle opslag die nodig zijn om deze te voeden, gebouwd voor AI-training, inferencing en ander werk met veel parallelle verwerking.

Je krijgt de hele machine. Niemand anders voert taken uit die je GPU, je geheugenbandwijdte of je schijf delen, wat het verschil is tussen een benchmark die je kunt reproduceren en een die je niet kunt reproduceren. Deze handleiding behandelt de vier niveaus, waarvoor ze geschikt zijn, hoe bestellen werkt gezien het feit dat GPU-aanbod werkelijk beperkt is, en waar de instellingskosten voor zijn.

De vier niveaus

Prijzen zijn getoond exclusief GST in je factuurvaluta. Elk niveau is beschikbaar als onbeheerd of beheerd, dezelfde keuze als onze cloudservers.

De sprong van Spark naar Forge is de belangrijkste. Spark is een startpunt voor development, kleinere modellen en inferencing-werk. Forge, Foundry en Reactor delen dezelfde 96 GB GPU-geheugen en verschillen in systeemgeheugen, wat bepaalt hoeveel je in host-RAM naast het model kunt houden: dataset staging, preprocessing pipelines en het serveren van veel gelijktijdige verzoeken.

Wat je kunt uitvoeren

Je hebt volledige controle over de machine, dus je voert je eigen stack uit. Dit omvat PyTorch, TensorFlow, JAX, raw CUDA workloads en de gebruikelijke training- en serving frameworks erop.

Typische toepassingen:

• Model training en fine-tuning voor machine learning en deep learning.
• Inferencing en serving in productie, waarbij een GPU een onaanvaardbare responstijd in een aanvaardbare omzet.
• Batch AI workloads: embeddings, transcriptie, afbeeldings- en videogeneratie, rendering.
• Wetenschappelijk en parallel compute dat voordeel heeft van GPU-acceleratie.

Beschikbaarheid en hoe bestellen werkt

GPU-hardware is in hoge vraag in de hele industrie en het aanbod is beperkt. Dit is een feit over de markt, niet een Kapsule beleid, en het bepaalt hoe deze worden besteld.

• Dit zijn fysieke machines, dus ze worden op bestelling ingericht in plaats van in seconden.
• De beschikbaarheid varieert per niveau en locatie, en wordt live gecontroleerd wanneer je de planningspagina bekijkt.
• Spark is momenteel aanbodbeperkt. Wanneer het geen voorraad heeft, biedt het panel je de reserveringswachtrij in plaats van een mislukte bestelling.

Voor grotere of aangepaste configuraties bevestigen we de exacte build en exacte prijs met je voordat we gaan inrichten, dus je weet altijd wat je krijgt. We quoten geen configuratie die we niet kunnen leveren.

De reserveringswachtrij

Wanneer een GPU-niveau niet op voorraad is, kun je het in plaats daarvan reserveren:

1. Reserveer het niveau vanaf de planningspagina. Je krijgt een reserveringsreferentie.
2. Niets wordt in rekening gebracht. Een reservering is gratis en geen abonnement begint.
3. Wanneer capaciteit beschikbaar komt, richten we de machine automatisch voor je in.
4. Je eerste betaling wordt alleen in rekening gebracht zodra de server live is, en je factureringsdatum begint op die dag.
5. Annuleer op elk moment terwijl je wacht, zonder kosten.

Regio's, beschikbaarheid en de reserveringswachtrij legt de mechanica volledig uit.

Er een bestellen

1. Log in op KPanel.
2. Open Store in de linker sidebar en kies GPU, of ga direct naar /plans/compute?group=gpu.
3. Gebruik de Unmanaged en Managed toggle om het formulier te kiezen dat je wilt.
4. Elk niveau toont zijn GPU, zijn VRAM, zijn systeemgeheugen, zijn maandelijkse prijs en eenmalige instellingskosten, plus een live voorraad badge.

De instellingskosten

Een GPU server heeft naast de terugkerende maandelijkse prijs eenmalige instellingskosten bij checkout, omdat een fysieke machine voor je moet worden gebouwd en ingericht.

• Eenmaal in rekening gebracht, bij inrichting. Dit verschijnt nooit bij een vernieuwing.
• Weergegeven als zijn eigen regel bij checkout, gelabeld als Setup (one-time), met zijn eigen ontvangstbewijs.
• Onderworpen aan GST wanneer je accountvaluta NZD is.

Zie Cloud Server Pricing and GST voor hoe eenmalige en terugkerende kosten op je facturen verschijnen.

Hoe GPU servers verschillen van cloudservers

Voordat je bestelt

Zorg dat je deze antwoorden paraat hebt, want ze bepalen het niveau:

• Training of inferencing? Training is meestal geheugenintensief en lang durend. Inferencing is meestal latency-gevoelig en gelijktijdig.
• Welk model, met welke precisie? Dit stelt de GPU-geheugen ondergrens in.
• Hoeveel data, en waar staat deze? Het staging van een grote dataset is waarvoor systeemgeheugen en schijf voor zijn.
• Welk framework? Zodat we driver- en CUDA-verwachtingen vooraf kunnen bevestigen.

Vertel ons die vier dingen en we wijzen je naar het juiste niveau, of stellen een configuratie samen als geen van de standaard vier past. Vraag Kora binnen KPanel, of stuur een e-mail naar support@kapsulehost.com, en ons Nieuw-Zeelands team helpt je graag.

Probleemoplossing

Het niveau dat ik wil, toont Out of stock. Reserveer het. Je betaalt niets terwijl je wacht en we richten automatisch in wanneer capaciteit terugkeert.

Mijn model past niet in VRAM. Upgrade naar een hoger niveau, of verminder precisie of batchgrootte. Forge, Foundry en Reactor hebben allemaal 96 GB GPU-geheugen.

Ik heb meer dan een GPU nodig, of een configuratie die je niet weergeeft. Neem contact met ons op met je vereisten en we bevestigen wat we kunnen bouwen en wat het kost voordat iets wordt in rekening gebracht.

Kan ik eerst proberen voordat ik me ertoe verbind? Praat met ons over het starten op Spark voor development-werk en het upgraden zodra je pipeline is bewezen.