क्लाउड सर्वर
GPU और AI Compute Servers
A Kapsule GPU server is a single-tenant physical machine fitted with NVIDIA graphics processors and the CPU, memory and fast storage needed to keep them fed, built for AI training, inference and…
Kapsule GPU सर्वर एक single-tenant भौतिक मशीन है जो NVIDIA ग्राफिक्स प्रोसेसर और CPU, मेमोरी तथा तेज स्टोरेज से लैस है जो उन्हें फीड रखने के लिए आवश्यक है, AI प्रशिक्षण, inference और अन्य भारी समानांतर कार्य के लिए निर्मित है।
आप पूरी मशीन प्राप्त करते हैं। किसी और का job आपके GPU, आपकी मेमोरी bandwidth या आपकी डिस्क को साझा नहीं कर रहा है, जो एक benchmark के बीच का अंतर है जिसे आप पुनरुत्पादित कर सकते हैं और एक जो आप नहीं कर सकते। यह गाइड चार tiers, वे क्या उपयुक्त हैं, GPU supply genuinely कम होने के कारण ordering कैसे काम करती है, और setup fee किसके लिए है, इस पर केंद्रित है।
चार Tiers
| Tier | GPU | GPU मेमोरी | सिस्टम मेमोरी | मासिक | एकबारी setup |
|---|---|---|---|---|---|
| Spark | NVIDIA RTX 4000 | 20 GB | बिल्ड में शामिल | US$330.00 | हाँ |
| Forge | NVIDIA RTX PRO 6000 | 96 GB | 256 GB | US$1,680.00 | हाँ |
| Foundry | NVIDIA RTX PRO 6000 | 96 GB | 512 GB | US$2,520.00 | हाँ |
| Reactor | NVIDIA RTX PRO 6000 | 96 GB | 768 GB | US$3,240.00 | हाँ |
कीमतें आपकी बिलिंग मुद्रा में GST को छोड़कर दिखाई जाती हैं। प्रत्येक tier unmanaged या managed आता है, जो हमारे cloud servers के समान विकल्प है।
Spark से Forge तक की छलांग महत्वपूर्ण है। Spark विकास, छोटे मॉडल और inference कार्य के लिए एक प्रवेश बिंदु है। Forge, Foundry और Reactor समान 96 GB GPU मेमोरी साझा करते हैं और सिस्टम मेमोरी में भिन्न होते हैं, जो यह नियंत्रित करता है कि आप मॉडल के साथ host RAM में कितना रख सकते हैं: dataset staging, preprocessing pipelines, और कई concurrent requests को serve करना।
आप क्या चला सकते हैं
आप मशीन पर पूर्ण नियंत्रण प्राप्त करते हैं, इसलिए आप अपना own stack चलाते हैं। इसमें PyTorch, TensorFlow, JAX, raw CUDA workloads, और उन पर top training और serving frameworks शामिल हैं।
विशिष्ट उपयोग:
- मॉडल प्रशिक्षण और fine-tuning मशीन लर्निंग और deep learning के लिए।
- Inference और serving production में, जहाँ GPU एक अस्वीकार्य response time को स्वीकार्य में बदल देता है।
- Batch AI workloads: embeddings, transcription, image और video generation, rendering।
- वैज्ञानिक और समानांतर compute जो GPU acceleration से लाभान्वित होता है।
पहले GPU मेमोरी पर size करें। सबसे आम गलती price पर tier चुनना और फिर यह खोजना है कि मॉडल VRAM में fit नहीं होता है। अपने intended precision और batch size पर अपने मॉडल की आवश्यक मेमोरी का पता लगाएं, headroom जोड़ें, और ऐसा tier चुनें जो इसे साफ करे। सिस्टम मेमोरी और CPU एक ऐसे मॉडल की तुलना में काम करना बहुत आसान है जो load नहीं होगा।
उपलब्धता और Ordering कैसे काम करती है
GPU hardware पूरे उद्योग में high demand में है और supply सीमित है। यह बाजार के बारे में एक तथ्य है, Kapsule नीति नहीं है, और यह इन्हें कैसे order किया जाता है यह आकार देता है।
- ये physical machines हैं, इसलिए ये seconds में नहीं बल्कि order के अनुसार provisioned हैं।
- उपलब्धता tier और location के आधार पर भिन्न होती है, और जब आप plans page देखते हैं तो यह live जाँची जाती है।
- Spark currently supply-constrained है। जब इसमें कोई stock नहीं होता है, तो panel आपको एक broken order के बजाय reserve queue प्रदान करता है।
बड़े या custom configurations के लिए हम provisioning से पहले आपके साथ exact build और exact price की पुष्टि करते हैं, इसलिए आप हमेशा जानते हैं कि आपको क्या मिल रहा है। हम ऐसा configuration quote नहीं करते हैं जिसे हम deliver नहीं कर सकते।
Reserve Queue
जब कोई GPU tier out of stock होता है, तो आप चली जाने के बजाय इसे reserve कर सकते हैं:
- Plans page से tier को reserve करें। आपको एक reservation reference मिलता है।
- कुछ भी charge नहीं होता है। एक reservation free है और कोई subscription शुरू नहीं होता है।
- जब capacity दिखाई देता है, तो हम आपके लिए automatically मशीन को provision करते हैं।
- आपका पहला payment केवल तभी लिया जाता है जब सर्वर live हो, और आपकी billing date उस दिन से शुरू होती है।
- जब आप wait करते हैं तो किसी भी समय बिना cost के cancel करें।
Regions, Availability and the Reserve Queue पूरी mechanics को समझाता है।
GPU reservation को hard deadline पर न रखें। Capacity तब return होती है जब यह return होती है, और हम आपको किसी ऐसी date का वादा करने के बजाय plainly बताना पसंद करते हैं जिसे हम hold नहीं कर सकते। यदि आपके पास fixed delivery date है, तो order करने से पहले हमसे बात करें।
एक Order करना
- KPanel में sign in करें।
- बाएं sidebar में Store खोलें और GPU चुनें, या सीधे
/plans/compute?group=gpuपर जाएं। - चुनने के लिए Unmanaged और Managed toggle का use करें।
- प्रत्येक tier अपना GPU, अपना VRAM, अपनी सिस्टम मेमोरी, अपनी monthly price और अपनी one-time setup fee, साथ ही एक live stock badge दिखाता है।
Setup Fee
एक GPU server checkout पर recurring monthly price के अतिरिक्त एक one-time setup fee के साथ आता है, क्योंकि एक physical machine को आपके लिए build और provision किया जाना चाहिए।
- एकबारी, provisioning पर charge किया जाता है। यह कभी renewal पर दिखाई नहीं देता है।
- Checkout पर इसकी own line के रूप में दिखाया जाता है, जिसे Setup (one-time) लेबल किया जाता है, इसकी own receipt के साथ।
- जब आपकी account currency NZD हो तो GST के अधीन।
Cloud Server Pricing and GST देखें कि कैसे one-off और recurring charges आपके invoices पर दिखाई देते हैं।
GPU Servers Cloud Servers से कैसे भिन्न हैं
| Cloud Servers | GPU Servers | |
|---|---|---|
| Hardware | Virtual machines | Single-tenant physical machines with NVIDIA GPUs |
| Provisioning | तत्काल, stock के अधीन | Order के अनुसार, कभी-कभी reserve queue के via |
| Setup fee | कोई नहीं | One-time |
| KPanel में live resize | हाँ | नहीं |
| Sized on | vCPU, मेमोरी, डिस्क | पहले GPU मेमोरी, फिर सिस्टम मेमोरी |
GPU servers को जगह में resize नहीं किया जा सकता। Tiers के बीच जाने का मतलब है नई मशीन order करना और अपने काम को migrate करना। ऐसा tier चुनें जो मॉडल को fit करे जिसे आप चलाने की उम्मीद करते हैं, केवल वह नहीं जो आप इस हफ्ते चला रहे हैं।
Order करने से पहले
ये उत्तर तैयार रखें, क्योंकि वे tier निर्धारित करते हैं:
- प्रशिक्षण या inference? प्रशिक्षण आमतौर पर memory-hungry और long-running होता है। Inference आमतौर पर latency-sensitive और concurrent होता है।
- कौन सा मॉडल, किस precision पर? यह GPU मेमोरी floor set करता है।
- कितना डेटा, और यह कहाँ रहता है? एक बड़े dataset को stage करना यह है कि सिस्टम मेमोरी और डिस्क किसके लिए हैं।
- कौन सा framework? ताकि हम driver और CUDA expectations को up front पुष्टि कर सकें।
हमें वे चार चीजें बताएं और हम आपको सही tier की ओर निर्देशित करेंगे, या यदि standard चार में से कोई भी fit नहीं करता है तो एक configuration तैयार करेंगे। KPanel में Kora से पूछें, या support@kapsulehost.com को email करें, और हमारी New Zealand टीम आपकी मदद करेगी।
Troubleshooting
जो tier मैं चाहता हूँ वह Out of stock दिखाता है। इसे reserve करें। आप wait करते समय कुछ नहीं भुगतान करते हैं और जब capacity return होती है तो हम automatically provision करते हैं।
मेरा मॉडल VRAM में fit नहीं होगा। एक tier ऊपर move करें, या precision या batch size को कम करें। Forge, Foundry और Reactor सभी 96 GB GPU मेमोरी carry करते हैं।
मुझे एक से अधिक GPU की आवश्यकता है, या एक configuration जिसे आप list नहीं करते हैं। अपनी requirements के साथ हमसे संपर्क करें और हम पुष्टि करेंगे कि हम क्या build कर सकते हैं और इसकी cost क्या है कुछ भी charge होने से पहले।
क्या मैं commit करने से पहले try कर सकता हूँ? Spark पर development work के लिए शुरू करने और एक बार आपकी pipeline proven हो जाए तो ऊपर move करने के बारे में हमसे बात करें।