आपका अपना GPU सर्वर, 20 से 96 GB तक की कार्ड मेमोरी।
पूरी मशीन आपके ही कहे पर चलती है, पूरे रूट एक्सेस के साथ, ड्राइवर स्टैक आप खुद चुनकर पिन करते हैं, और कार्ड का हर घंटा आपके अपने काम में लगता है।
शुरुआतUS$330प्रति माह से
GPU सर्वर लेंमशीन और दिख रही कीमत आप चुनते हैं, और हम उसे आपके ऑर्डर के मुताबिक बनाते हैं।
- हर कोर और हर कार्ड, सिर्फ आपका
- पूरा रूट एक्सेस और आपका अपना ड्राइवर स्टैक
- मशीन में आने और मशीन से जाने वाला ट्रैफ़िक शामिल है
- एक मासिक कीमत, जब तक मशीन आपके पास है तब तक वही
हम जो मशीनें बनाते हैं
- Spark
- Forge
- Foundry
- Reactor
उसी काम के लिए बनी जो आप सचमुच कर रहे हैं।
यहां हर मशीन पूरा मॉडल कार्ड मेमोरी में रखती है, एंट्री मशीन पर 20 GB से लेकर सबसे बड़ी पर 96 GB तक, इसलिए आपका काम एक ही कार्ड पर चलता है और वहीं टिका रहता है।
- अपना मॉडल फ़ाइन-ट्यून करनाकोई ओपन मॉडल और अपना डेटा लाएं, उसे ऐसे कार्ड पर ट्रेन करें जो पूरे ट्रेनिंग रन के दौरान सिर्फ आपका रहता है, और हर चेकपॉइंट ऐसी मशीन पर रखें जहां सिर्फ आप पहुंच सकते हैं।
- अपने यूज़र्स को मॉडल सर्व करनापूरा कार्ड अपने पास रखते हुए चौबीसों घंटे इन्फ़रेंस चलाएं, ताकि सोमवार को आप जो रिस्पॉन्स टाइम मापते हैं, शुक्रवार को आपके यूज़र्स को वही मिले।
- रात भर चलने वाला बैच कामरेंडर, ट्रांसकोड या एम्बेडिंग कतार में लगाएं और मशीन को काम पूरा होने तक पूरी ताक़त पर चलने दें, यह सब एक ही मासिक कीमत में।
वह मशीन चुनें जो आपके मॉडल पर फिट बैठे।
कार्ड की मेमोरी तय करती है कि आप कितना बड़ा मॉडल लोड कर सकते हैं, और उसके चारों ओर मशीन की मेमोरी आपको इतनी जगह देती है कि आप अपना डेटा तैयार रखें और कार्ड को काम करते समय लगातार डेटा मिलता रहे।
Forge
- कार्ड पर 96 GB मेमोरी
- मशीन में 256 GB मेमोरी
- पूरी मशीन, सिर्फ आपके लिए
- मैनेज्ड वर्ज़न भी उपलब्ध
Foundry
- कार्ड पर 96 GB मेमोरी
- मशीन में 512 GB मेमोरी
- पूरी मशीन, सिर्फ आपके लिए
- मैनेज्ड वर्ज़न भी उपलब्ध
Reactor
- कार्ड पर 96 GB मेमोरी
- मशीन में 768 GB मेमोरी
- पूरी मशीन, सिर्फ आपके लिए
- मैनेज्ड वर्ज़न भी उपलब्ध
हर मशीन ऑर्डर पर बनती है, इसलिए आपको ठीक वही कॉन्फ़िगरेशन मिलता है जो आपने चुना, उसके कार्ड पर लिखी कीमत पर।
जब तक मशीन आपके पास है, आपकी कीमत वही रहती है।
वह मशीन ढूंढें जिस पर आपका मॉडल चलता है।
अपने मॉडल का आकार और लोड करने का तरीका बताएं, और हम आपको सबसे छोटी मशीन दिखाते हैं जो इसे संभाल ले, उसकी कीमत के साथ।
16-bit पर 8 अरब पैरामीटर का मतलब है करीब 16 GB वेट्स।
हर एक में कितना समाता है
- Sparkकार्ड पर20 GB4 GB बचा हुआ
- Forgeकार्ड पर96 GBमशीन में256 GB80 GB बचा हुआ
- Foundryकार्ड पर96 GBमशीन में512 GB80 GB बचा हुआ
- Reactorकार्ड पर96 GBमशीन में768 GB80 GB बचा हुआ
वेट्स के ऊपर अपने लिए जगह छोड़ें, और कार्ड आपके काम को पूरी रफ़्तार पर चलाता रहता है।
हर GPU सर्वर के साथ शामिल।
- पूरी मशीन, सिर्फ आपके लिएकार्ड जितने घंटे काम करता है, आपके ही काम पर करता है, और मशीन सिर्फ आपके कहे पर चलती है।
- आपका ड्राइवर स्टैक, जहां रखा वहीं पिनड्राइवर और टूलकिट चुनें, दोनों को साथ पिन करें, और वे एक रन से दूसरे रन तक ठीक वहीं बने रहते हैं जहां आपने रखा।
- जब चाहें, एक साफ़ Linuxपैनल से कुछ ही क्लिक में फिर से इंस्टॉल करें, और मशीन आपकी अपनी SSH कीज़ के साथ वापस आती है।
- रेस्क्यू मोड, आपके कहने परकिसी भी समय पैनल से रेस्क्यू सिस्टम में बूट करें, अपनी कीज़ के साथ, और मिनटों में कंट्रोल वापस अपने हाथ में लें।
GPU सर्वर क्या होता है।
GPU सर्वर एक कंप्यूटर है जिसमें ग्राफ़िक्स कार्ड लगा होता है, और ग्राफ़िक्स कार्ड एक ही छोटा हिसाब लाखों बार एक साथ करने में बहुत माहिर होता है, और मॉडल को ट्रेन करना और चलाना ठीक इसी चीज़ से बना है।
हमसे एक मशीन किराए पर लेने का मतलब है कि पूरी मशीन आपकी है: कार्ड, प्रोसेसर और उनके चारों ओर की मेमोरी, जब तक वह आपके पास है तब तक सब आपकी।
आप उस पर जो चाहें इंस्टॉल करें, और बिजली, कनेक्शन और कूलिंग हम संभालते हैं।
लोग जो सवाल पूछते हैं।
- मुझे कैसे पता चले कि कौन सी मशीन चाहिए?
- कार्ड की मेमोरी से शुरू करें, क्योंकि वही तय करती है कि आप कितना बड़ा मॉडल लोड कर सकते हैं। सर्विंग वेट्स के आकार के आसपास आराम से बैठ जाती है, और ट्रेनिंग उनके ऊपर छोड़ी गई जगह का इनाम देती है, इसलिए ट्रेनिंग कर रहे हों तो अपने लिए जगह रखें।
- मुझे यह कैसे मिलेगी?
- जो मशीन चाहिए उसे उसके कार्ड की कीमत पर चुनें, और हम उसे ऑर्डर पर बना देते हैं। जिस दिन आप पूछें उस दिन कोई टियर कहाँ खड़ा है, हम बता देंगे।
- ड्राइवर्स का ध्यान कौन रखता है?
- अनमैनेज्ड मशीन पर आप खुद, और यहां ज़्यादातर लोग यही चाहते हैं। ड्राइवर और टूलकिट चुनें, दोनों को साथ पिन करें, और वे ठीक वहीं बने रहते हैं जहां आपने रखा। मैनेज्ड वर्ज़न पर ऑपरेटिंग सिस्टम की देखभाल हमारे इंजीनियर आपके लिए करते हैं।
- बिलिंग कैसे होती है?
- पूरी मशीन के लिए एक मासिक कीमत, जब तक वह आपके पास है तब तक अकेले आपकी, और रिन्यूअल उसी कीमत पर होता है जिस पर आपने इसे लिया था।
बताएं आप क्या चला रहे हैं।
हम बता देंगे कि कौन सी मशीन इसे संभालेगी और उसकी कीमत क्या है।
GPU सर्वर लें