Ваш собственный GPU-сервер, с памятью карты от 20 до 96 GB.
Вся машина слушается только вас: полный root доступ, набор драйверов, который вы выбираете и фиксируете сами, и каждый час работы карты уходит на вашу собственную задачу.
ОтUS$330в месяц
Подключить GPU-серверВы выбираете машину и цену, которую видите, а мы собираем её под ваш заказ.
- Каждое ядро и каждая карта работают только на вас
- Полный root доступ и собственный набор драйверов
- Входящий и исходящий трафик машины включён в цену
- Одна месячная цена, зафиксированная на всё время, пока машина у вас
Машины, которые мы собираем
- Spark
- Forge
- Foundry
- Reactor
Собрано под работу, которой вы занимаетесь на самом деле.
Каждая машина здесь держит целую модель в памяти карты, от 20 GB на начальной машине до 96 GB на самой крупной, так что ваша работа идёт на одной карте и остаётся на ней.
- Дообучение своей моделиВозьмите открытую модель и свои данные, обучайте её на карте, которая остаётся только вашей на всё время обучения, и держите каждую контрольную точку на машине, доступной только вам.
- Обслуживание модели для ваших пользователейЗапускайте инференс круглосуточно, имея всю карту в своём распоряжении, так что время отклика, которое вы измерили в понедельник, ваши пользователи получат и в пятницу.
- Пакетные задачи на всю ночьСтавьте в очередь рендеры, перекодирование или эмбеддинги и дайте машине работать на полную вплоть до завершения задачи, и всё это за одну месячную цену.
Выберите машину под вашу модель.
Память на карте задаёт, насколько крупную модель вы сможете загрузить, а память в машине вокруг карты даёт вам простор, чтобы готовить данные и всё время держать карту загруженной работой.
Spark
- 20 GB памяти на карте
- Вся машина принадлежит только вам
- Есть управляемый двойник
Forge
- 96 GB памяти на карте
- 256 GB памяти в машине
- Вся машина принадлежит только вам
- Есть управляемый двойник
Foundry
- 96 GB памяти на карте
- 512 GB памяти в машине
- Вся машина принадлежит только вам
- Есть управляемый двойник
Reactor
- 96 GB памяти на карте
- 768 GB памяти в машине
- Вся машина принадлежит только вам
- Есть управляемый двойник
Каждая машина собирается под заказ, поэтому вы получаете именно ту конфигурацию, которую выбрали, по цене на её карточке.
Ваша цена зафиксирована на всё время, пока машина у вас.
Найдите машину, на которой пойдёт ваша модель.
Задайте размер вашей модели и способ загрузки, и мы покажем самую маленькую машину, которая её вмещает, и её цену.
8 миллиардов параметров при 16-bit дают примерно 16 GB весов.
Что вмещает каждая
- Sparkна карте20 GB4 GB останется в запасе
- Forgeна карте96 GBв машине256 GB80 GB останется в запасе
- Foundryна карте96 GBв машине512 GB80 GB останется в запасе
- Reactorна карте96 GBв машине768 GB80 GB останется в запасе
Оставьте себе запас над весами, и карта будет держать вашу работу на полной скорости.
Входит в каждый GPU-сервер.
- Вся машина принадлежит только вамКаждый час работы карты уходит на вашу задачу, и машина слушается только вас.
- Ваш набор драйверов, зафиксированный там, где вы его поставилиВыберите драйвер и набор инструментов, зафиксируйте их вместе, и они останутся ровно там, куда вы их поставили, от запуска к запуску.
- Чистый Linux в любой момент, когда он вам нуженПереустановите систему из панели в несколько кликов, и машина вернётся уже с вашими ключами SSH.
- Аварийный режим по вашей командеЗапустите аварийную систему из панели в любой час со своими ключами и верните себе управление за считаные минуты.
Что такое GPU-сервер.
GPU-сервер работает как обычный компьютер, в который поставили видеокарту, а видеокарта прекрасно умеет делать один и тот же маленький расчёт миллионы раз сразу, и ровно из этого состоит обучение модели и её запуск.
Аренда такой машины у нас означает, что вся машина ваша: карта, процессор и память вокруг них принадлежат вам всё время, пока машина у вас.
Вы ставите на неё всё, что вам нравится, а мы обеспечиваем питание, связь и охлаждение.
Вопросы, которые нам задают.
- Как понять, какая машина мне нужна?
- Начните с памяти на карте, потому что именно она задаёт, насколько крупную модель вы сможете загрузить. Обслуживание спокойно укладывается близко к размеру весов, а обучение вознаграждает запас поверх них, так что при обучении закладывайте себе простор.
- Как её получить?
- Выберите машину, которую хотите, по цене на её карточке, и мы соберём её под заказ. Спросите нас, как обстоят дела с уровнем в этот день, и мы расскажем.
- Кто следит за драйверами?
- На неуправляемой машине вы сами, и большинству здесь нужно именно это. Выберите драйвер и набор инструментов, зафиксируйте их вместе, и они останутся ровно там, куда вы их поставили. На управляемом двойнике операционную систему наши инженеры ведут за вас.
- Как выставляется счёт?
- Одна месячная цена за всю машину, которая принадлежит только вам всё время, пока она у вас, и продлевается по той цене, по которой вы её взяли.
Расскажите, что вы запускаете.
Мы скажем, какая машина это вместит и сколько она стоит.
Подключить GPU-сервер