Su propio servidor GPU, de 20 a 96 GB de memoria en la tarjeta.
La máquina entera responde ante usted, con acceso root completo, una pila de controladores que usted elige y fija, y cada hora de la tarjeta dedicada a su propio trabajo.
DesdeUS$330al mes
Contratar un servidor GPUUsted elige la máquina y el precio que ve, y nosotros la construimos a su medida.
- Cada núcleo y cada tarjeta, solo para usted
- Acceso root completo y su propia pila de controladores
- El tráfico de entrada y de salida de la máquina está incluido
- Un precio mensual, fijo mientras conserve la máquina
Las máquinas que construimos
- Spark
- Forge
- Foundry
- Reactor
Hecho para el trabajo que tiene entre manos.
Cada máquina de aquí aloja un modelo entero en la memoria de la tarjeta, de 20 GB en la máquina de entrada a 96 GB en la mayor, así que su trabajo corre en una sola tarjeta y ahí se queda.
- Ajustar su propio modeloTraiga un modelo abierto y sus propios datos, entrénelo en una tarjeta que es suya durante todo el entrenamiento, y guarde cada checkpoint en una máquina a la que solo usted llega.
- Servir un modelo a sus usuariosEjecute inferencia a todas horas con la tarjeta entera para usted, de modo que los tiempos de respuesta que mide el lunes son los que reciben sus usuarios el viernes.
- Trabajo por lotes que corre de nocheEncole renders, transcodificaciones o embeddings y deje la máquina a pleno rendimiento hasta terminar el trabajo, todo por el mismo precio mensual.
Elija la máquina que encaja con su modelo.
La memoria de la tarjeta decide qué tamaño de modelo puede cargar, y la memoria de la máquina que la rodea le da espacio para preparar sus datos y mantener la tarjeta alimentada mientras trabaja.
Spark
- 20 GB de memoria en la tarjeta
- La máquina entera, solo para usted
- Versión gestionada disponible
Forge
- 96 GB de memoria en la tarjeta
- 256 GB de memoria en la máquina
- La máquina entera, solo para usted
- Versión gestionada disponible
Foundry
- 96 GB de memoria en la tarjeta
- 512 GB de memoria en la máquina
- La máquina entera, solo para usted
- Versión gestionada disponible
Reactor
- 96 GB de memoria en la tarjeta
- 768 GB de memoria en la máquina
- La máquina entera, solo para usted
- Versión gestionada disponible
Cada máquina se construye por encargo, así que recibe exactamente la configuración que eligió, al precio de su tarjeta.
Su precio queda fijo mientras conserve la máquina.
Encuentre la máquina en la que corre su modelo.
Indique el tamaño de su modelo y cómo lo carga, y le mostramos la máquina más pequeña que lo soporta y lo que cuesta.
8 mil millones de parámetros a 16-bit equivalen a unos 16 GB de pesos.
Lo que soporta cada una
- Sparken la tarjeta20 GB4 GB de margen
- Forgeen la tarjeta96 GBen la máquina256 GB80 GB de margen
- Foundryen la tarjeta96 GBen la máquina512 GB80 GB de margen
- Reactoren la tarjeta96 GBen la máquina768 GB80 GB de margen
Deje margen por encima de los pesos y la tarjeta mantendrá su trabajo a toda velocidad.
Incluido en todos los servidores GPU.
- La máquina entera, solo para ustedCada hora que la tarjeta trabaja, trabaja en su tarea, y la máquina responde únicamente ante usted.
- Su pila de controladores, fijada donde usted la dejóElija el controlador y el toolkit, fíjelos juntos, y se quedan exactamente donde usted los puso de una ejecución a la siguiente.
- Un Linux limpio siempre que lo quieraReinstale desde el panel en unos pocos clics y la máquina vuelve con sus propias claves SSH ya puestas.
- Modo rescate, a su ordenArranque un sistema de rescate desde el panel a cualquier hora, con sus propias claves, y recupere el control en minutos.
Qué es un servidor GPU.
Un servidor GPU es un ordenador con una tarjeta gráfica dentro, y una tarjeta gráfica es buenísima haciendo la misma cuenta pequeña millones de veces a la vez, que es justo de lo que están hechos el entrenamiento y la ejecución de un modelo.
Alquilar uno con nosotros significa que la máquina entera es suya: la tarjeta, el procesador y la memoria que los rodea, todo suyo mientras la conserve.
Usted instala en ella lo que quiera, y nosotros la mantenemos con energía, conectada y refrigerada.
Las preguntas que nos hacen.
- ¿Cómo sé qué máquina necesito?
- Empiece por la memoria de la tarjeta, porque es la que decide qué tamaño de modelo puede cargar. Servir un modelo cabe holgadamente cerca del tamaño de los pesos, y entrenar agradece margen por encima de ellos, así que dese espacio si va a entrenar.
- ¿Cómo la consigo?
- Elija la máquina que quiere al precio de su tarjeta y la construimos por encargo. Pregúntenos cómo está cada nivel ese día y se lo diremos.
- ¿Quién se ocupa de los controladores?
- Usted, en una máquina autogestionada, y es lo que quiere casi todo el mundo aquí. Elija el controlador y el toolkit, fíjelos juntos, y se quedan exactamente donde usted los puso. En la versión gestionada, nuestros ingenieros mantienen el sistema operativo por usted.
- ¿Cómo se factura?
- Un precio mensual por la máquina entera, solo para usted mientras la conserve, y se renueva al precio al que la contrató.
Cuéntenos qué va a ejecutar.
Le diremos qué máquina lo soporta y lo que cuesta.
Contratar un servidor GPU