Uw eigen GPU-server, van 20 tot 96 GB kaartgeheugen.
De hele machine luistert naar u, met volledige roottoegang, een driverstack die u zelf kiest en vastzet, en elk uur van de kaart besteed aan uw eigen werk.
VanafUS$330per maand
GPU-server bestellenU kiest de machine en de prijs die u ziet, en wij bouwen hem op uw bestelling.
- Elke core en elke kaart, alleen van u
- Volledige roottoegang en uw eigen driverstack
- Inkomend en uitgaand verkeer van de machine is inbegrepen
- Een maandprijs, vast zolang u hem houdt
De machines die wij bouwen
- Spark
- Forge
- Foundry
- Reactor
Gebouwd voor het werk dat u echt doet.
Elke machine hier houdt een heel model in het kaartgeheugen, van 20 GB op de instapmachine tot 96 GB op de grootste, zodat uw werk op een enkele kaart draait en daar blijft.
- Uw eigen model fijnafstemmenNeem een open model en uw eigen data mee, train het op een kaart die de hele trainingsrun lang alleen van u is, en houd elk checkpoint op een machine die alleen u kunt bereiken.
- Een model aan uw gebruikers serverenDraai inferentie de klok rond met de hele kaart voor uzelf, zodat de responstijden die u op maandag meet dezelfde responstijden zijn die uw gebruikers op vrijdag krijgen.
- Batchwerk dat 's nachts draaitZet renders, transcodes of embeddings in de wachtrij en laat de machine op volle kracht doorlopen tot de klus klaar is, allemaal voor die ene maandprijs.
Kies de machine die bij uw model past.
Het geheugen op de kaart bepaalt hoe groot het model is dat u kunt laden, en het geheugen in de machine eromheen geeft u ruimte om uw data klaar te zetten en de kaart tijdens het werk gevoed te houden.
Spark
- 20 GB geheugen op de kaart
- De hele machine, alleen van u
- Beheerde tweeling beschikbaar
Forge
- 96 GB geheugen op de kaart
- 256 GB geheugen in de machine
- De hele machine, alleen van u
- Beheerde tweeling beschikbaar
Foundry
- 96 GB geheugen op de kaart
- 512 GB geheugen in de machine
- De hele machine, alleen van u
- Beheerde tweeling beschikbaar
Reactor
- 96 GB geheugen op de kaart
- 768 GB geheugen in de machine
- De hele machine, alleen van u
- Beheerde tweeling beschikbaar
Elke machine wordt op bestelling gebouwd, dus u krijgt precies de configuratie die u koos, tegen de prijs op de kaart.
Uw prijs ligt vast zolang u de machine houdt.
Vind de machine waarop uw model draait.
Stel in hoe groot uw model is en hoe u het laadt, en wij tonen u de kleinste machine die het aankan en wat die kost.
8 miljard parameters op 16-bit komt neer op ongeveer 16 GB aan gewichten.
Wat elke machine aankan
- Sparkop de kaart20 GB4 GB over
- Forgeop de kaart96 GBin de machine256 GB80 GB over
- Foundryop de kaart96 GBin de machine512 GB80 GB over
- Reactorop de kaart96 GBin de machine768 GB80 GB over
Houd ruimte boven de gewichten, dan houdt de kaart uw werk op volle snelheid draaiend.
Inbegrepen bij elke GPU-server.
- De hele machine, alleen van uElk uur dat de kaart werkt, werkt zij aan uw taak, en de machine luistert alleen naar u.
- Uw driverstack, vastgezet waar u hem zetKies de driver en de toolkit, zet ze samen vast, en ze blijven van de ene run tot de volgende precies staan waar u ze hebt gezet.
- Een schone Linux wanneer u er een wiltHerinstalleer vanuit het paneel met een paar klikken, en de machine komt terug met uw eigen SSH-sleutels er al op.
- Rescue-modus, op uw commandoStart vanuit het paneel op elk uur van de dag op in een rescue-systeem, met uw eigen sleutels, en neem binnen enkele minuten de regie terug.
Wat een GPU-server is.
Een GPU-server is een computer met een grafische kaart erin, en een grafische kaart is heel goed in het miljoenen keren tegelijk uitvoeren van dezelfde kleine som, en precies daaruit bestaat het trainen en draaien van een model.
Er een bij ons huren betekent dat de hele machine van u is: de kaart, de processor en het geheugen eromheen, allemaal van u zolang u hem houdt.
U installeert erop wat u maar wilt, en wij houden hem van stroom, verbinding en koeling voorzien.
De vragen die mensen stellen.
- Hoe weet ik welke machine ik nodig heb?
- Begin bij het geheugen op de kaart, want dat bepaalt hoe groot het model is dat u kunt laden. Serveren zit comfortabel dicht bij de omvang van de gewichten, en trainen beloont ruimte daarboven, dus reken royaal als u traint.
- Hoe kom ik eraan?
- Kies de machine die u wilt tegen de prijs op de kaart en wij bouwen hem op bestelling. Vraag ons hoe een klasse er die dag voor staat en wij vertellen het u.
- Wie zorgt er voor de drivers?
- Dat doet u zelf, op een onbeheerde machine, en dat is wat de meeste mensen hier willen. Kies de driver en de toolkit, zet ze samen vast, en ze blijven precies staan waar u ze hebt gezet. Op een beheerde tweeling houden onze engineers het besturingssysteem voor u bij.
- Hoe wordt er gefactureerd?
- Een maandprijs voor de hele machine, alleen van u zolang u hem houdt, en hij verlengt tegen de prijs waarvoor u hem nam.
Vertel ons wat u draait.
Wij vertellen u welke machine het aankan en wat die kost.
GPU-server bestellen