Ihr eigener GPU-Server, von 20 bis 96 GB Kartenspeicher.
Der ganze Server hört auf Sie, mit vollem Root-Zugriff, einem Treiber-Stack, den Sie selbst wählen und festlegen, und jeder Stunde der Karte, die in Ihre eigene Arbeit fließt.
AbUS$330pro Monat
GPU-Server buchenSie wählen den Server und den Preis, den Sie sehen, und wir bauen ihn nach Ihrer Bestellung.
- Jeder Kern und jede Karte gehören Ihnen allein
- Voller Root-Zugriff und Ihr eigener Treiber-Stack
- Ein- und ausgehender Verkehr der Maschine ist enthalten
- Ein Monatspreis, fest, solange Sie ihn behalten
Die Server, die wir bauen
- Spark
- Forge
- Foundry
- Reactor
Gebaut für die Arbeit, die Sie wirklich machen.
Jeder Server hier hält ein ganzes Modell im Kartenspeicher, von 20 GB beim Einstiegsserver bis 96 GB beim größten, damit Ihre Arbeit auf einer Karte läuft und dort bleibt.
- Ihr eigenes Modell feinjustierenBringen Sie ein offenes Modell und Ihre eigenen Daten mit, trainieren Sie es auf einer Karte, die Ihnen den gesamten Trainingslauf lang allein gehört, und behalten Sie jeden Checkpoint auf einem Server, den allein Sie erreichen.
- Ein Modell für Ihre Nutzer betreibenBetreiben Sie Inferenz rund um die Uhr mit der ganzen Karte für sich, sodass die Antwortzeiten, die Sie am Montag messen, genau die Antwortzeiten sind, die Ihre Nutzer am Freitag bekommen.
- Stapelverarbeitung über NachtReihen Sie Renderings, Transkodierungen oder Embeddings ein und lassen Sie den Server mit voller Leistung laufen, bis die Aufgabe fertig ist, alles zum einen Monatspreis.
Wählen Sie den Server, der zu Ihrem Modell passt.
Der Speicher auf der Karte bestimmt, wie groß das Modell sein darf, das Sie laden, und der Speicher im Server drumherum gibt Ihnen Platz, Ihre Daten bereitzustellen und die Karte während der Arbeit durchgehend zu versorgen.
Spark
- 20 GB Speicher auf der Karte
- Der ganze Server, nur für Sie
- Verwaltete Variante verfügbar
Forge
- 96 GB Speicher auf der Karte
- 256 GB Speicher im Server
- Der ganze Server, nur für Sie
- Verwaltete Variante verfügbar
Foundry
- 96 GB Speicher auf der Karte
- 512 GB Speicher im Server
- Der ganze Server, nur für Sie
- Verwaltete Variante verfügbar
Reactor
- 96 GB Speicher auf der Karte
- 768 GB Speicher im Server
- Der ganze Server, nur für Sie
- Verwaltete Variante verfügbar
Jeder Server wird auf Bestellung gebaut, Sie bekommen also genau die Konfiguration, die Sie gewählt haben, zum Preis auf der Karte.
Ihr Preis bleibt fest, solange Sie den Server behalten.
Finden Sie den Server, auf dem Ihr Modell läuft.
Stellen Sie die Größe Ihres Modells ein und wie Sie es laden, und wir zeigen Ihnen den kleinsten Server, der es fasst, und was er kostet.
8 Milliarden Parameter bei 16-bit ergeben etwa 16 GB an Gewichten.
Was jeder von ihnen fasst
- Sparkauf der Karte20 GB4 GB übrig
- Forgeauf der Karte96 GBim Server256 GB80 GB übrig
- Foundryauf der Karte96 GBim Server512 GB80 GB übrig
- Reactorauf der Karte96 GBim Server768 GB80 GB übrig
Lassen Sie sich Raum über den Gewichten, dann hält die Karte Ihre Arbeit durchgehend auf voller Geschwindigkeit.
Bei jedem GPU-Server dabei.
- Der ganze Server, nur für SieJede Stunde, die die Karte arbeitet, arbeitet sie an Ihrer Aufgabe, und der Server hört allein auf Sie.
- Ihr Treiber-Stack, festgelegt, wo Sie ihn setzenWählen Sie den Treiber und das Toolkit, legen Sie beide gemeinsam fest, und sie bleiben von einem Durchlauf zum nächsten genau dort, wo Sie sie gesetzt haben.
- Ein frisches Linux, wann immer Sie eines wollenInstallieren Sie über das Panel mit wenigen Klicks neu, und der Server kommt mit Ihren eigenen SSH-Schlüsseln bereits an Bord zurück.
- Rescue-Modus, auf Ihr KommandoStarten Sie über das Panel zu jeder Stunde in ein Rescue-System, mit Ihren eigenen Schlüsseln, und holen Sie sich die Kontrolle in Minuten zurück.
Was ein GPU-Server ist.
Ein GPU-Server ist ein Computer mit einer Grafikkarte darin, und eine Grafikkarte ist sehr gut darin, dieselbe kleine Rechnung millionenfach gleichzeitig auszuführen, und genau daraus bestehen das Training und der Betrieb eines Modells.
Wenn Sie einen bei uns mieten, gehört Ihnen der ganze Server: die Karte, der Prozessor und der Speicher darum herum, alles Ihres, solange Sie ihn behalten.
Sie installieren darauf, was Sie möchten, und wir halten ihn mit Strom, Netz und Kühlung am Laufen.
Die Fragen, die uns gestellt werden.
- Woher weiß ich, welchen Server ich brauche?
- Beginnen Sie beim Speicher auf der Karte, denn er bestimmt, wie groß das Modell sein darf, das Sie laden. Für den Betrieb reicht komfortabel etwa die Größe der Gewichte, und beim Training zahlt sich Raum darüber aus, planen Sie also großzügig, wenn Sie trainieren.
- Wie bekomme ich einen?
- Wählen Sie den Server, den Sie möchten, zum Preis auf seiner Karte, und wir bauen ihn auf Bestellung. Fragen Sie uns, wie eine Stufe an dem Tag steht, und wir sagen es Ihnen.
- Wer kümmert sich um die Treiber?
- Sie selbst, auf einem unverwalteten Server, und genau das wollen die meisten hier. Wählen Sie den Treiber und das Toolkit, legen Sie beide gemeinsam fest, und sie bleiben genau dort, wo Sie sie gesetzt haben. Bei einer verwalteten Variante pflegen unsere Ingenieure das Betriebssystem für Sie.
- Wie wird abgerechnet?
- Ein Monatspreis für den ganzen Server, der Ihnen allein gehört, solange Sie ihn behalten, und er verlängert sich zu dem Preis, zu dem Sie ihn genommen haben.
Sagen Sie uns, was Sie betreiben.
Wir sagen Ihnen, welcher Server es fasst und was er kostet.
GPU-Server buchen