Serveurs cloud
Serveurs GPU et calcul IA
A Kapsule GPU server is a single-tenant physical machine fitted with NVIDIA graphics processors and the CPU, memory and fast storage needed to keep them fed, built for AI training, inference and…
Un serveur GPU Kapsule est une machine physique à un seul client équipée de processeurs graphiques NVIDIA et du processeur, de la mémoire et du stockage rapide nécessaires pour les alimenter, conçu pour l'entraînement d'IA, l'inférence et autres travaux massivement parallèles.
Vous disposez de la machine entière. Le travail de personne d'autre ne partage votre GPU, votre bande passante mémoire ou votre disque, ce qui est la différence entre un benchmark que vous pouvez reproduire et un que vous ne pouvez pas. Ce guide couvre les quatre niveaux, à quoi ils conviennent, comment fonctionne la commande étant donné que l'offre de GPU est réellement serrée, et à quoi sert les frais de configuration.
Les Quatre Niveaux
| Niveau | GPU | Mémoire GPU | Mémoire système | Mensuel | Configuration unique |
|---|---|---|---|---|---|
| Spark | NVIDIA RTX 4000 | 20 GB | Incluse dans la configuration | US$330.00 | Oui |
| Forge | NVIDIA RTX PRO 6000 | 96 GB | 256 GB | US$1,680.00 | Oui |
| Foundry | NVIDIA RTX PRO 6000 | 96 GB | 512 GB | US$2,520.00 | Oui |
| Reactor | NVIDIA RTX PRO 6000 | 96 GB | 768 GB | US$3,240.00 | Oui |
Les prix sont affichés hors TVA dans votre devise de facturation. Chaque niveau est disponible non géré ou géré, le même choix que nos serveurs cloud.
Le saut de Spark à Forge est le changement significatif. Spark est un point d'entrée pour le développement, les modèles plus petits et les travaux d'inférence. Forge, Foundry et Reactor partagent les mêmes 96 GB de mémoire GPU et diffèrent par la mémoire système, qui détermine la quantité que vous pouvez conserver dans la RAM hôte aux côtés du modèle : préparation d'ensemble de données, pipelines de prétraitement et traitement de nombreuses demandes concurrentes.
Ce Que Vous Pouvez Exécuter
Vous avez le contrôle total de la machine, vous exécutez donc votre propre pile. Cela comprend PyTorch, TensorFlow, JAX, les charges de travail CUDA brutes et les frameworks d'entraînement et de traitement habituels au-dessus.
Utilisations typiques :
- Entraînement de modèle et ajustement fin pour l'apprentissage automatique et l'apprentissage profond.
- Inférence et traitement en production, où un GPU transforme un temps de réponse inacceptable en un temps acceptable.
- Charges de travail IA par lot : plongements, transcription, génération d'images et vidéos, rendu.
- Calcul scientifique et parallèle qui bénéficie de l'accélération GPU.
Dimensionnez d'abord la mémoire GPU. L'erreur la plus courante est de choisir un niveau sur le prix et de découvrir ensuite que le modèle ne rentre pas dans la VRAM. Déterminez la mémoire dont votre modèle a besoin à votre précision et taille de lot prévues, ajoutez une marge, et choisissez le niveau qui la satisfait. La mémoire système et le CPU sont beaucoup plus faciles à contourner qu'un modèle qui ne se chargera pas.
Disponibilité et Fonctionnement des Commandes
Le matériel GPU est très demandé dans l'ensemble de l'industrie et l'offre est limitée. C'est un fait sur le marché, pas une politique de Kapsule, et cela façonne la manière dont ceux-ci sont commandés.
- Ce sont des machines physiques, elles sont donc provisionnées à la commande plutôt qu'en quelques secondes.
- La disponibilité varie selon le niveau et l'emplacement, et elle est vérifiée en direct lorsque vous consultez la page des plans.
- Spark est actuellement limité en approvisionnement. Lorsqu'il n'a pas de stock, le panneau vous propose la file d'attente de réserve plutôt qu'une commande brisée.
Pour les configurations plus grandes ou personnalisées, nous confirmons la construction exacte et le prix exact avec vous avant le provisionnement, afin que vous sachiez toujours ce que vous obtenez. Nous ne proposons pas une configuration que nous ne pouvons pas livrer.
La File d'Attente de Réserve
Quand un niveau GPU est en rupture de stock, vous pouvez le réserver au lieu de vous en aller :
- Réservez le niveau à partir de la page des plans. Vous obtenez une référence de réservation.
- Rien n'est facturé. Une réservation est gratuite et aucun abonnement ne commence.
- Lorsque la capacité est disponible, nous provisionnons la machine pour vous automatiquement.
- Votre premier paiement n'est prélevé qu'une fois le serveur actif, et votre date de facturation commence à partir de ce jour.
- Annulez à tout moment pendant que vous attendez, sans frais.
Régions, Disponibilité et File d'Attente de Réserve explique la mécanique en détail.
Ne mettez pas une réservation GPU sur un délai strict. La capacité revient quand elle revient, et nous préférons vous le dire clairement plutôt que de promettre une date que nous ne pouvons pas tenir. Si vous avez une date de livraison fixe, contactez-nous avant de commander.
Commander Un Serveur
- Connectez-vous à KPanel.
- Ouvrez Store dans la barre latérale gauche et choisissez GPU, ou allez directement à
/plans/compute?group=gpu. - Utilisez le bouton bascule Unmanaged et Managed pour choisir le formulaire que vous souhaitez.
- Chaque niveau affiche son GPU, sa VRAM, sa mémoire système, son prix mensuel et ses frais de configuration unique, plus un badge de stock en direct.
Les Frais de Configuration
Un serveur GPU entraîne des frais de configuration unique à la caisse en plus du prix mensuel récurrent, car une machine physique doit être construite et provisionnée pour vous.
- Facturé une fois, lors du provisionnement. Il n'apparaît jamais lors d'un renouvellement.
- Affiché comme sa propre ligne à la caisse, libellée Setup (one-time), avec son propre reçu.
- Assujetti à la TVA lorsque votre devise de compte est NZD.
Consultez Cloud Server Pricing and GST pour voir comment les frais uniques et récurrents apparaissent sur vos factures.
Comment les Serveurs GPU Diffèrent des Serveurs Cloud
| Serveurs Cloud | Serveurs GPU | |
|---|---|---|
| Matériel | Machines virtuelles | Machines physiques à un seul client avec GPU NVIDIA |
| Provisionnement | Immédiat, selon le stock disponible | À la commande, parfois via la file d'attente de réserve |
| Frais de configuration | Aucun | Unique |
| Redimensionnement en direct dans KPanel | Oui | Non |
| Dimensionné sur | vCPU, mémoire, disque | D'abord la mémoire GPU, puis la mémoire système |
Les serveurs GPU ne peuvent pas être redimensionnés sur place. Passer d'un niveau à un autre signifie commander la nouvelle machine et migrer votre travail vers celle-ci. Choisissez le niveau qui correspond aux modèles que vous vous attendez à exécuter, pas seulement celui que vous exécutez cette semaine.
Avant de Commander
Ayez ces réponses prêtes, car elles déterminent le niveau :
- Entraînement ou inférence ? L'entraînement consomme généralement beaucoup de mémoire et dure longtemps. L'inférence est généralement sensible à la latence et concurrente.
- Quel modèle, à quelle précision ? Cela définit le plancher de la mémoire GPU.
- Combien de données, et où vivent-elles ? La préparation d'un grand ensemble de données est à quoi servent la mémoire système et le disque.
- Quel framework ? Pour que nous puissions confirmer les attentes du pilote et CUDA à l'avance.
Dites-nous ces quatre choses et nous vous orienterons vers le niveau approprié, ou nous assemblerons une configuration si aucune des quatre standard ne convient. Demandez à Kora dans KPanel, ou envoyez un e-mail à support@kapsulehost.com, et notre équipe de Nouvelle-Zélande vous aidera.
Dépannage
Le niveau que je veux affiche En rupture de stock. Réservez-le. Vous ne payez rien pendant que vous attendez et nous provisionnons automatiquement lorsque la capacité revient.
Mon modèle ne rentre pas dans la VRAM. Montez d'un niveau, ou réduisez la précision ou la taille de lot. Forge, Foundry et Reactor comportent tous 96 GB de mémoire GPU.
J'ai besoin de plus d'un GPU, ou d'une configuration que vous ne listez pas. Contactez-nous avec vos exigences et nous confirmerons ce que nous pouvons construire et ce que cela coûte avant que quelque chose ne soit facturé.
Puis-je essayer avant de m'engager ? Parlez-nous de commencer avec Spark pour les travaux de développement et de monter en niveau une fois votre pipeline éprouvé.