Manaaki LLM tuwhera-puna
Whakahaerehia Llama, Mistral, Gemma, Qwen me etahi atu tauira i runga i te pumanawa e aro ana e koe.
Nga tauira
Whanau Llama, Mistral, Gemma, nga momo whakamanahia
GPU / AI Compute
GPU, e watea ana inaianei.
Tuturu, utu ora.
GPU compute mo nga LLM tuwhera-puna, tirohanga rorohiko, whakatika-pai, me nga whakauru. Nga utu ora kei raro nei. Ka tohaina te rokiroki GPU ma ia ota, ka whakaritea a-ringa, no reira kaore te whakaritenga e tere tonu.
Ota i tenei ra, ka tohaina ma ia ota Utu ora i to moni Uru pakiaka me te mana whakahaere katoa
kpanel.kapsulecloud.com/compute
Tātai GPU
Nga utu ora, ota i tenei ra
Tauanga pūnahaKua whakaaetia
Ngā tāhūnui AI kua tāruarua kēKua whakaaetia
API + KPanel mataKua whakaaetia
Tauira utuIa hāora kua whakaaetia
Utu oraKua whakaaetia
He whakahaere raraunga e hāngai ana ki te GDPRKua whakaaetia
Tohu pono: ka tohaina te rokiroki ma ia ota, ka whakaritea a-ringa.
NVIDIA
Nga GPU karaehe-RTX
4 taumata
Mai i Spark ki Reactor
Ia ota
Whakaritea a-ringa
API
Whakangahau + aroturuki
Nga mahi arongoaTatau LLM tuwhera-puna·Tirohanga kaiararere·Whakamanahia·Raina ahuatanga·Tauira whakamaheretanga·Tauira oro / korero
Te arawhata katoa
Ia taumata, kore whakahaere me te whakahaere
Forge
$1,680.00Kore whakahaere /marama
NVIDIA RTX PRO 6000 · 96 GB VRAM · 256 GB RAM
Whakahaere /marama: $3,850.00
Foundry
$2,520.00Kore whakahaere /marama
NVIDIA RTX PRO 6000 · 96 GB VRAM · 512 GB RAM
Whakahaere /marama: $5,770.00
Reactor
$3,240.00Kore whakahaere /marama
NVIDIA RTX PRO 6000 · 96 GB VRAM · 768 GB RAM
Whakahaere /marama: $7,420.00
Iti, rāhuitia ina poto
He aha tau e whakahaerehia ai
Nga mahi ka arongoa matou.
Ko enei nga kawenga mahi i hangaia ai nga taumata GPU. Mena e hangai ana tau, tohua te taumata e tika ana ka ota.
Tirohanga kaiararere
Whakaraupapahia ahua, kitenga ahanoa, wehewehe. Whakangungu me te tatau ki runga i tetahi papatono kaore e tukua ano.
Nga tauira
YOLO, SAM, nga tauira PyTorch / TensorFlow ritenga
Whakamanahia
Ko nga whakamanahia LoRA / QLoRA i runga i nga tauira matua tuwhera. Ko te utu ia-haora ka taea e koe te utu mo te wa whakangungu tuturu anake.
Nga tauira
LoRA, QLoRA, whakamanahia katoa i runga i nga tauira iti
Ahuatanga + RAG
Waihanga ahuatanga i te paepae mo nga raina tirotiro-aunoa-hono. Honoa ki tou DB hua.
Nga tauira
sentence-transformers, BGE, e5, nga kaitakahi ritenga
Whakaaro-maheretanga / waihanga-ahua
Stable Diffusion, FLUX, Kandinsky. Hanga raupunga, tukua ranei hei mutunga API.
Nga tauira
SD, SDXL, FLUX, ControlNet, nga pounamu ritenga
Oro / korero
Korero-ki-tuhinga, tuhinga-ki-korero, tapana reo. Nga raina korerorero Whisper.
Nga tauira
Whisper, Coqui, Bark, TTS ritenga
Ka waatea ināianei
Me hiahia compute aianei? Whakamahia Cloud VPS + JupyterHub.
Ko ta matou raina Cloud VPS ka whakahaerehia JupyterHub hei whakauru patopato-kotahi. Ko te tatau LLM-here-CPU (nga tauira iti), waihanga ahuatanga, raina raraupuni, ka mahi katoa i reira aianei kaore he tatari mo GPU.
- Whakauru JupyterHub patopato-kotahi i runga i tetahi paepae Cloud VPS
- Mai i $35.00/marama Comet (2 vCPU, 4 GB) ki $440.00/marama Nova (16 vCPU tuku, 64 GB)
- Utu ia-haora, rokiroki NVMe Gen4, SSH pakiaka
- Nekeneke ki GPU compute i te whakatuwhera, ka mahi tonu tou waehere
Patai Auau
Nga patai e pataia auau ana
Kia pehea te tere o taku whiwhi i tetahi pouaka GPU?+
Ota i tetahi taumata i tenei ra i te utu e whakaaturia ana. Ka tohaina te rokiroki GPU ma ia ota, ka whakaritea a-ringa (nga taputapu karaehe-Robot), no reira he wa poto i waenga i te ota me te tuku, kaua ko te whakarite-whaiaro tere tonu. Ka whakau matou i te wa i te utu.
Ka whakamahi i tehea pūmanawa?+
Nga GPU NVIDIA puta noa i nga taumata e wha: ko Spark kei runga i te RTX 4000, ko Forge, Foundry, me Reactor kei runga i te RTX PRO 6000 me te maharatanga punaha e piki haere ana. Ka whakaatu ia taumata i tona GPU, VRAM, me te RAM kei te matiti utu i runga ake nei.
Kei hea nga GPU?+
Ka whakau matou i te waahi tika o te pokapu raraunga ki a koe i mua i te tuku. Ka tohaina te rokiroki ma ia ota, ka whakaritea a-ringa, no reira ka pono matou mo te rohe me nga korero i te whakatuwhera.
He aha mo te utu?+
Kei tenei wharangi nga utu marama ora, ma ia taumata, i to moni. Ka whakaatuhia nga utu kore-whakahaere me nga utu whakahaere.
Ka taea e ahau te mahi mea pai i naianei i a e tatari ana?+
Ae. Whakaara Cloud VPS me JupyterHub whakauru-patopato-kotahi. Ko te tatau LLM-here-CPU (nga tauira iti), waihanga ahuatanga, raina raraupuni, ka mahi katoa i reira aianei. I te taenga o GPU ka nekeneke koe i te waehere, kaore he tuhi hou.
Ko ehea nga mahi kaore e rite ana?+
Ko te whakangungu tauira turanga-nui mai i te timatanga (ka arongoa matou ki te whakamanahia me te tatau, ehara i te paepae-whakangungu >$10M). Ko nga tauira taura-katia e hiahia ana i nga whakaaetanga kaiwhakarato. Ko tetahi mea e hiahia ana i nga paiaka multi-GPU paepae-InfiniBand i te whakatuwhera (ko te multi-GPU ko te mahere, ehara i te GA).
Me pehea te tohatoha o te rokiroki GPU?+
Ka tohaina te rokiroki ma ia ota, ka whakaritea a-ringa, no reira tera pea he wa poto i waenga i te ota me te tuku. Koia tonu te ara whakarite a-ringa e rite ana ki a matou raarangi tumau me te rokiroki.
Ka mohio Kora ki te awhina i ahau mo nga mahi GPU?+
E mohio ana a Kora ki te hua GPU compute: nga taputapu, nga utu, nga anga tautoko, me nga tauira tuku.
GPU / AI Compute
Timata i tetahi pouaka GPU i tenei ra.
Nga utu marama ora ma ia taumata, uru pakiaka. Ka tohaina te rokiroki ma ia ota, ka whakaritea a-ringa, no reira kaore te whakaritenga e tere tonu.