GPU ve AI İşlem Sunucuları

Kapsule GPU sunucusu, NVIDIA grafik işlemcileri ve onları beslemek için gerekli CPU, bellek ve hızlı depolama alanı ile donatılmış, yapay zeka eğitimi, çıkarımı ve diğer yoğun paralel işler için tasarlanmış tek kiracılı fiziksel bir makinedir.

Tüm makineyi siz kullanırsınız. Başka kimsenin işi GPU'nuzu, bellek bant genişliğinizi veya diskinizi paylaşmaz; bu, yeniden üretebileceğiniz bir kıyaslama ile yeniden üretemeceğiniz arasındaki fark budur. Bu rehber dört katmanı, hangi işlere uygun olduklarını, GPU arzı gerçekten sıkı olduğu için siparişin nasıl çalıştığını ve kurulum ücretinin ne amaçla alındığını kapsar.

Dört Katman

Fiyatlar faturalandırma para biriminizde GST hariç gösterilmektedir. Her katman yönetilmeyen veya yönetilen olarak sunulur; bulut sunucularımız için olduğu gibi aynı seçenektir.

Spark'tan Forge'a sıçrama önemli olandır. Spark, geliştirme, daha küçük modeller ve çıkarım işi için bir başlangıç noktasıdır. Forge, Foundry ve Reactor aynı 96 GB GPU belleğine sahiptir ve sistem belleğine göre farklılık gösterir; bu, model yanında ana bellekte ne kadar tutabileceğinizi belirler: veri seti hazırlama, ön işleme işlem hatları ve birçok eş zamanlı isteği hizmet etme.

Çalıştırabileceğiniz Neler

Makinenin tam kontrolüne sahipsiniz, bu nedenle kendi yığını çalıştırırsınız. Buna PyTorch, TensorFlow, JAX, ham CUDA iş yükleri ve bunların üstünde olağan eğitim ve hizmet sunma çerçeveleri dahildir.

Tipik kullanımlar:

• Model eğitimi ve ince ayar makine öğrenmesi ve derin öğrenme için.
• Çıkarım ve hizmet sunma üretimde, GPU bir kabul edilemez yanıt süresini kabul edilebilir bir süreye dönüştürür.
• Toplu yapay zeka iş yükleri: gömülüler, transkripsiyon, görüntü ve video oluşturma, işleme.
• GPU hızlandırmasından yararlanan bilimsel ve paralel hesaplama.

Kullanılabilirlik ve Siparişin Nasıl Çalıştığı

GPU donanımı tüm endüstride yüksek talep görmektedir ve arz sınırlıdır. Bu pazar hakkında bir gerçektir, Kapsule politikası değildir ve bu da bunların nasıl sipariş edildiğini şekillendirir.

• Bunlar fiziksel makinelerdir, bu nedenle saniyeler içinde değil sipariş üzerine sağlanırlar.
• Kullanılabilirlik katmana ve konuma göre değişir ve planlar sayfasına baktığınızda canlı olarak kontrol edilir.
• Spark şu anda arz kısıtlı durumdadır. Stok olmadığında, panel bozuk bir sipariş yerine sizin için rezerv kuyruğunu sunar.

Daha büyük veya özel yapılandırmalar için, sağlanmadan önce tam yapıyı ve tam fiyatı sizinle teyit ederiz, böylece her zaman ne aldığınızı bilirsiniz. Sunabileceğimiz bir yapılandırmayı teklif etmeyiz.

Rezerv Kuyruğu

Bir GPU katmanı stokta olmadığında, uzaklaşmak yerine onu rezerve edebilirsiniz:

1. Planlar sayfasından katmanı rezerve edin. Bir rezervasyon referansı alırsınız.
2. Hiçbir şey tahsil edilmez. Bir rezervasyon ücretsizdir ve abonelik başlamaz.
3. Kapasite göründüğünde, makinenin sağlanması otomatik olarak gerçekleşir.
4. İlk ödemeniz yalnızca sunucu canlı olduktan sonra alınır ve faturalandırma tarihiniz o günden başlar.
5. Bekleme sırasında istediğiniz zaman hiçbir ücret ödemeden iptal edin.

Bölgeler, Kullanılabilirlik ve Rezerv Kuyruğu mekaniği tam olarak açıklar.

Bir Tane Sipariş Etme

1. KPanel oturumunu açın.
2. Sol kenar çubuğundan Store açın ve GPU seçin veya doğrudan /plans/compute?group=gpu adresine gidin.
3. İstediğiniz formu seçmek için Unmanaged ve Managed geçişini kullanın.
4. Her katman GPU'yu, VRAM'ını, sistem belleğini, aylık fiyatını ve tek seferlik kurulum ücretini, artı canlı stok rozeti gösterir.

Kurulum Ücreti

Bir GPU sunucusu, fiziksel bir makinenin sizin için inşa edilmesi ve sağlanması gerektiğinden, yinelenen aylık fiyata ek olarak ödeme sırasında tek seferlik kurulum ücreti taşır.

• Sağlama sırasında bir kez tahsil edilir. Yenilemenin üzerinde hiçbir zaman görünmez.
• Ödeme sırasında kendi satırı olarak gösterilir, Setup (one-time) etiketli, kendi makbuzlu.
• Hesap para biriminiz NZD olduğunda GST'ye tabidir.

Tek seferlik ve yinelenen ücretlerin faturalarınızda nasıl görüntülendiğini öğrenmek için Cloud Server Pricing and GST konusuna bakın.

GPU Sunucuları Bulut Sunucularından Nasıl Farklı

Sipariş Vermeden Önce

Bu cevapları hazır bulundurun, çünkü katmanı belirlerler:

• Eğitim mi yoksa çıkarım mı? Eğitim genellikle bellek açısından ağır ve uzun süreli çalışır. Çıkarım genellikle gecikme duyarlı ve eş zamanlıdır.
• Hangi model, hangi hassasiyette? Bu GPU belleği tabanını belirler.
• Ne kadar veri ve nerede yaşıyor? Büyük bir veri seti hazırlamak sistem belleği ve disk için nedir.
• Hangi çerçeve? Böylece sürücü ve CUDA beklentilerini önceden teyit edebiliriz.

Bize bu dört şeyi söyleyin ve sizi doğru katmanın yönüne yönlendirelim ya da standart dörtten hiçbiri uymazsa bir yapılandırma bir araya getirelim. KPanel içinde Kora ile konuşun veya support@kapsulehost.com adresine e-posta gönderin ve Yeni Zelanda ekibimiz yardımcı olacaktır.

Sorun Giderme

İstediğim katman Stokta Yok gösteriyor. Onu rezerve edin. Bekleme sırasında hiçbir şey ödemeyin ve kapasite geri döndüğünde otomatik olarak sağlarız.

Modelim VRAM'a sığmayacak. Bir katman yukarı taşıyın veya hassasiyeti veya toplu işlem boyutunu azaltın. Forge, Foundry ve Reactor'un tümü 96 GB GPU belleği taşır.

Birden fazla GPU'ya veya listelemediğim bir yapılandırmaya ihtiyacım var. Gereksinimlerinizle bizimle iletişime geçin ve hiçbir şey tahsil edilmeden önce ne yapabileceğimizi ve maliyetinin ne olduğunu teyit edeceğiz.

Taahhüt etmeden önce deneyelim mi? Spark'ta geliştirme işleri başlamak ve işlem hattınız ispatlandıktan sonra yukarı taşınmak hakkında bizimle konuşun.