Visão Geral dos Servidores GPU

Servidores GPU são máquinas bare-metal single-tenant equipadas com aceleadores NVIDIA, dimensionadas para treinamento, inferência e renderização de IA. Este guia aborda os quatro tiers, como o pedido e a entrega funcionam na prática, o que a taxa de configuração cobre e como gerenciar uma máquina GPU após ela ficar ativa.

O que é um Servidor GPU

Um servidor GPU é uma máquina física dedicada com uma ou mais GPUs NVIDIA, além da CPU, memória do sistema e armazenamento rápido necessários para alimentá-las. A máquina toda é sua: ninguém mais está compartilhando os aceleadores, a largura de banda do PCIe ou os discos.

Você instala sua própria stack e a executa como desejar. Cargas de trabalho CUDA, PyTorch, TensorFlow, JAX e os frameworks de serving usuais funcionam da forma como funcionariam em qualquer caixa Linux bare-metal, porque é exatamente isso que é.

A razão para querer single tenancy aqui não é apenas o desempenho. Cargas de trabalho GPU tendem a ser executadas continuamente por horas, e aceleadores compartilhados se comportam muito diferentemente sob esse tipo de carga sustentada do que em um benchmark.

Os Quatro Tiers

Spark é o ponto de entrada: memória GPU suficiente para modelos menores, fine-tuning, inferência e trabalho de renderização. Forge, Foundry e Reactor compartilham o mesmo acelerador e aumentam a memória do sistema ao seu redor, que é o que importa quando você está organizando grandes conjuntos de dados ou mantendo vários modelos na memória do host.

Todo tier é vendido tanto não gerenciado quanto gerenciado. Não gerenciado lhe dá acesso root e deixa o sistema operacional por sua conta. Gerenciado mantém o mesmo hardware com nossos engenheiros na camada de software. Veja Servidores de Nuvem Gerenciados vs Não Gerenciados.

Para preços em tempo real em sua própria moeda, abra Store no KPanel, depois o card GPU Compute.

Escolhendo um Tier

Comece pelo modelo, não pelo preço.

• Quanta memória GPU seu modelo precisa da forma como você está executando? Essa é a restrição difícil. Se pesos mais ativações não cabem, nenhuma quantidade de RAM do sistema ajuda.
• Você está treinando ou servindo? Treinamento consome muita memória e é de longa duração. Inferência é frequentemente limitada pela velocidade com que você consegue obter dados para a GPU, que é onde RAM do sistema e disco importam mais.
• Qual é o tamanho do seu conjunto de trabalho? Se você estiver transmitindo um conjunto de dados que não cabe na memória do host, as configurações Foundry e Reactor existem exatamente para esse fim.

Se não tiver certeza, nos diga o que você está executando, o tamanho do modelo, o framework e quanta memória GPU você acha que precisa. Apontaremos o tier certo em vez de deixar você comprar em excesso. Servidores GPU e Computação de IA tem mais informações sobre o lado da carga de trabalho.

Como o Pedido Funciona na Prática

Hardware GPU é escasso e caro, então o processo deliberadamente não é um clique.

1. Faça login em KPanel.
2. Clique em Store na barra lateral esquerda.
3. Em Servers, clique no card GPU Compute.
4. Alterne entre Unmanaged e Managed e escolha um tier.
5. Complete o checkout.

Após o checkout você recebe um email de confirmação de pedido, e nossa equipe confirma a capacidade atual e o build antes do hardware ser alocado para você.

Você ouvirá de nós de qualquer forma. Se você pagou e não recebeu um acompanhamento que esperava, responda ao email de confirmação ou abra um ticket em Support e diremos exatamente onde o pedido se encontra.

Taxa de Configuração e Faturamento

Servidores GPU carregam uma taxa de configuração única em cima do preço mensal, assim como servidores dedicados e de armazenamento, porque uma máquina física é construída e entregue. Servidores de nuvem não carregam taxa de configuração.

A taxa de configuração é cobrada uma vez, nunca recorre e é mostrada separadamente do preço mensal no checkout.

Como um tier GPU é um compromisso mensal em hardware caro em vez de um aluguel por hora, trate a decisão accordingly. Se você apenas precisar de uma GPU para um burst curto, nos diga quando conversar com a gente.

Reservando um Tier

Quando um tier não tem capacidade, o card do plano oferece uma reserva em vez de uma ação de configurar. Entrar na fila registra seu interesse naquele tier.

Gerenciando um Servidor GPU

Uma vez que uma máquina GPU está ativa, é gerenciada exatamente como qualquer outro servidor bare-metal, em Dedicated Servers na barra lateral do KPanel. Não há um item GPU separado na barra lateral.

O conjunto de ferramentas, documentado completamente em Gerenciando um Servidor Dedicado, cobre:

• Power: reinicialização graciosa, reset de hardware, ciclo de energia forçado e Wake-on-LAN.
• Sistema de resgate: um ambiente Linux temporário ou console virtual baseado em navegador.
• DNS reverso: registros PTR para cada IP roteado.
• IPs e subnets: o que é roteado para a máquina, mais IPv4 adicional.
• Tráfego: volume de entrada e saída por dia, mês ou ano.
• Firewall: um filtro upstream aplicado antes do tráfego chegar à máquina.
• Advanced: uma reinstalação completa do sistema operacional, atrás de uma confirmação digitada.

Acesso ao console para uma máquina que não vai inicializar está em Acesso ao Console do Servidor Dedicado.

Notas Práticas Antes de Começar

Drivers são seus em uma máquina não gerenciada. Instale o driver NVIDIA e a stack CUDA que correspondem às versões do framework que você pretende executar e fixe-os. Versões incompatíveis de driver e toolkit são a causa mais comum de uma GPU que está presente mas inutilizável.

Observe seu disco. Checkpoints de modelo e conjuntos de dados preenchem um disco mais rápido do que qualquer outra coisa em um servidor. Se capacidade é seu problema real em vez de computação, um servidor de armazenamento ao lado da máquina GPU geralmente é mais barato do que um tier GPU maior.

Firewall apropriadamente. Uma caixa GPU executando um endpoint de inferência é um alvo atrativo. Use o firewall upstream para permitir apenas o que precisa alcançá-la e mantenha Allow platform services ativado para não se trancar.

Reinstalar apaga tudo. A ação de reinstalar em Advanced limpa cada disco sem desfazer e não faz backup para você. Copie seus checkpoints primeiro.

Obtendo Ajuda

GPU é o produto onde conversar conosco primeiro economiza mais dinheiro. Pergunte ao Kora dentro do KPanel, abra um ticket em Support ou envie um email para support@kapsulehost.com com o que você está executando e quanta memória GPU você precisa.

Para o resto do range de computação, veja Visão Geral de Servidores de Nuvem e Visão Geral de Servidores Dedicados.