カードメモリ20から96 GBまで、あなただけのGPUサーバー。
マシンはまるごとあなたの指示で動きます。root権限は完全に開放され、ドライバースタックは自分で選んで固定でき、カードが働く時間はすべてあなたの仕事のために使われます。
月額US$330から
GPUサーバーを申し込むマシンと表示の価格はお客さまがお選びいただき、ご注文どおりに組み上げます。
- すべてのコアとカードが、あなただけのもの
- 完全なroot権限と、自分で選ぶドライバースタック
- マシンに出入りする通信はすべて料金に含まれます
- 月額はひとつ、使い続けるかぎり同じ価格
私たちが組み上げるマシン
- Spark
- Forge
- Foundry
- Reactor
あなたがいま進めている仕事のために組み上げます。
ここにあるマシンはどれも、モデルをまるごとカードメモリに収めます。入門機の20 GBから最上位の96 GBまで、あなたの仕事はカード一枚の上で走り、そこにとどまります。
- 自分のモデルをファインチューニングオープンモデルと自分のデータを持ち込み、学習が終わるまでずっとあなた専用のカードで回し、すべてのチェックポイントをあなただけが触れるマシンに保管できます。
- ユーザーにモデルを提供カードをまるごと自分のものとして一日中推論を回せるので、月曜に測った応答時間が、金曜にユーザーが受け取る応答時間になります。
- 夜間に走らせるバッチ処理レンダリングやトランスコード、埋め込みの生成をキューに積んでおけば、マシンは仕事が仕上がるまで全力で回り続けます。それも月額ひとつの価格のままです。
モデルに合うマシンを選んでください。
カード上のメモリが、読み込めるモデルの大きさを決めます。その周りにあるマシンのメモリは、データを手前に用意しておき、カードに次の仕事を渡し続けるための余裕です。
マシンはすべてご注文に合わせて組み上げます。お選びいただいた構成そのままを、カードに表示の価格でお作りします。
この価格は、マシンを使い続けるかぎりそのまま維持されます。
モデルが動くマシンを見つけましょう。
モデルの大きさと読み込み方を指定すると、それが収まるいちばん小さなマシンと、その料金をお見せします。
8Bのパラメータを16-bitで読み込むと、重みはおよそ16 GBになります。
それぞれが収められる量
- Sparkカード上20 GB4 GBの余裕
- Forgeカード上96 GBマシン内256 GB80 GBの余裕
- Foundryカード上96 GBマシン内512 GB80 GBの余裕
- Reactorカード上96 GBマシン内768 GB80 GBの余裕
重みの上に余裕を残しておくと、カードはあなたの処理を全速で回し続けます。
どのGPUサーバーにも標準で付いてきます。
- マシンをまるごと、あなただけのものにカードが働く時間はすべてあなたの仕事のために使われ、マシンが応えるのはあなたにだけです。
- 自分で固定したドライバースタック、そのままドライバーとツールキットを選んで組みで固定すれば、次に実行するときも置いたときのまま残ります。
- いつでも、まっさらなLinuxをパネルから数クリックで再インストールでき、戻ってきたマシンにはあなたのSSH鍵がすでに入っています。
- レスキューモードは、あなたの合図でパネルからいつでも自分の鍵でレスキューシステムを起動でき、数分で主導権を取り戻せます。
GPUサーバーとは。
GPUサーバーとは、グラフィックスカードが入ったコンピューターのことです。グラフィックスカードは、同じ小さな計算を一度に何百万回もこなすのがとても得意で、モデルの学習も実行も、まさにその積み重ねでできています。
私たちから借りるということは、マシンがまるごとあなたのものになるということです。カードも、プロセッサーも、その周りのメモリも、使い続けるかぎりすべてあなたのものです。
中に入れるものはあなたが自由に決め、電源とネットワークと冷却は私たちが受け持ちます。
よく寄せられる質問です。
- どのマシンが必要か、どう判断しますか。
- まずカード上のメモリから考えてください。読み込めるモデルの大きさは、そこで決まります。サービングは重みの大きさに近いところで気持ちよく収まり、トレーニングは重みの上に取った余裕がそのまま成果に返ってくるので、トレーニングをするなら余裕をたっぷり見ておいてください。
- どうすれば手に入りますか。
- ご希望のマシンをカードの価格でお選びいただければ、ご注文どおりに組み上げます。お尋ねいただいた日の各ティアの状況も、そのときにお伝えします。
- ドライバーは誰が管理しますか。
- アンマネージドマシンではあなたが管理します。ここではそれを望む方がほとんどです。ドライバーとツールキットを選んで組みで固定すれば、置いたときのままの状態で残ります。マネージド版では、OSの管理を私たちのエンジニアが引き受けます。
- 料金はどう請求されますか。
- マシンまるごとで、月額ひとつの価格です。使い続けるかぎりそのマシンはあなただけのもので、契約したときの価格のまま更新されます。