Il tuo server GPU, da 20 a 96 GB di memoria sulla scheda.
La macchina intera risponde a te, con accesso root completo, uno stack di driver che scegli e fissi tu, e ogni ora della scheda dedicata al tuo lavoro.
DaUS$330al mese
Attiva un server GPUScegli la macchina e il prezzo che vedi, e noi la costruiamo su tua ordinazione.
- Ogni core e ogni scheda, solo tuoi
- Accesso root completo e il tuo stack di driver
- Il traffico in entrata e in uscita dalla macchina è incluso
- Un prezzo mensile, fisso per tutto il tempo che la tieni
Le macchine che costruiamo
- Spark
- Forge
- Foundry
- Reactor
Costruita per il lavoro che fai davvero.
Ogni macchina qui tiene un modello intero nella memoria della scheda, da 20 GB sulla macchina di ingresso fino a 96 GB sulla più grande, così il tuo lavoro gira su una sola scheda e resta lì.
- Affinare il tuo modelloPorta un modello aperto e i tuoi dati, addestralo su una scheda che resta tua per tutto l'addestramento, e tieni ogni checkpoint su una macchina che raggiungi solo tu.
- Servire un modello ai tuoi utentiEsegui l'inferenza giorno e notte con la scheda intera a tua disposizione, così i tempi di risposta che misuri il lunedì sono gli stessi che i tuoi utenti ottengono il venerdì.
- Lavori in batch che girano di notteMetti in coda render, transcodifiche o embedding e lascia che la macchina vada a pieno regime finché il lavoro è finito, tutto per l'unico prezzo mensile.
Scegli la macchina adatta al tuo modello.
La memoria sulla scheda decide quanto può essere grande il modello che carichi, e la memoria nella macchina attorno ti dà spazio per preparare i dati e tenere la scheda alimentata mentre lavora.
Spark
- 20 GB di memoria sulla scheda
- La macchina intera, solo tua
- Versione gestita disponibile
Forge
- 96 GB di memoria sulla scheda
- 256 GB di memoria nella macchina
- La macchina intera, solo tua
- Versione gestita disponibile
Foundry
- 96 GB di memoria sulla scheda
- 512 GB di memoria nella macchina
- La macchina intera, solo tua
- Versione gestita disponibile
Reactor
- 96 GB di memoria sulla scheda
- 768 GB di memoria nella macchina
- La macchina intera, solo tua
- Versione gestita disponibile
Ogni macchina è costruita su ordinazione, così ottieni esattamente la configurazione che hai scelto, al prezzo indicato sulla sua scheda.
Il tuo prezzo resta fisso per tutto il tempo che tieni la macchina.
Trova la macchina su cui gira il tuo modello.
Imposta quanto è grande il tuo modello e come lo carichi, e ti mostriamo la macchina più piccola che lo contiene e quanto costa.
8 miliardi di parametri a 16-bit corrispondono a circa 16 GB di pesi.
Quanto contiene ciascuna
- Sparksulla scheda20 GB4 GB di margine
- Forgesulla scheda96 GBnella macchina256 GB80 GB di margine
- Foundrysulla scheda96 GBnella macchina512 GB80 GB di margine
- Reactorsulla scheda96 GBnella macchina768 GB80 GB di margine
Lasciati margine sopra i pesi e la scheda tiene il tuo lavoro sempre alla massima velocità.
Incluso in ogni server GPU.
- La macchina intera, solo tuaOgni ora in cui la scheda lavora, lavora al tuo compito, e la macchina risponde solo a te.
- Il tuo stack di driver, fissato dove lo mettiScegli il driver e il toolkit, fissali insieme, e restano esattamente dove li hai messi da un'esecuzione alla successiva.
- Un Linux pulito quando vuoiReinstalla dal pannello in pochi clic e la macchina torna con le tue chiavi SSH già sopra.
- Modalità rescue, al tuo comandoAvvia un sistema rescue dal pannello a qualsiasi ora, con le tue chiavi, e riprendi il controllo in pochi minuti.
Che cos'è un server GPU.
Un server GPU è un computer con dentro una scheda grafica, e una scheda grafica è bravissima a fare lo stesso piccolo calcolo milioni di volte insieme, ed è esattamente di questo che sono fatti l'addestramento e l'esecuzione di un modello.
Prenderne uno a noleggio da noi significa che la macchina intera è tua: la scheda, il processore e la memoria attorno, tutto tuo per tutto il tempo che la tieni.
Ci installi sopra quello che vuoi, e noi la teniamo alimentata, collegata e raffreddata.
Le domande che ci fanno.
- Come faccio a sapere quale macchina mi serve?
- Parti dalla memoria sulla scheda, perché è quella a stabilire quanto può essere grande il modello che carichi. Il serving sta comodamente vicino alla dimensione dei pesi, e il training premia il margine sopra di essi, quindi lasciati spazio se stai addestrando.
- Come la ottengo?
- Scegli la macchina che vuoi al prezzo indicato sulla sua scheda e la costruiamo su ordinazione. Chiedici a che punto è un livello quel giorno e te lo diciamo.
- Chi si occupa dei driver?
- Te ne occupi tu, su una macchina che amministri tu stesso, ed è quello che qui vuole la maggior parte delle persone. Scegli il driver e il toolkit, fissali insieme, e restano esattamente dove li hai messi. Sulla versione gestita i nostri ingegneri curano il sistema operativo per te.
- Come viene fatturata?
- Un prezzo mensile per la macchina intera, solo tua per tutto il tempo che la tieni, e si rinnova al prezzo a cui l'hai presa.