あなたのMLキャンペーン。
あなたのGPU予算。

最初の試行では、ある問いに答える必要があります

まず読み込み、次に最もメモリを消費するフェーズを検証します。推論では、想定されるコンテキストと並行性をテストします。トレーニングでは、逆伝播とオプティマイザを含めます。小さな成功例は、負荷全体の容量を証明しません。

ノートが選択の理由を保つ

モデルのバージョン、制御したパラメータ、品質、観測した測定値を記録します。失敗もその原因とともに残します。MLノートはあなたのメモを保管しますが、テレメトリを自動収集せず、計算ファイルも保存しません。

カードを選ぶ前にメモリを見積もる。

当社のサイザーは、選択した余裕分を含めて重みの密なボリュームを推定します。この範囲を使って選定の準備をし、その後ワークロード全体のサイクルのピークを測定してください。

実験ノートには仮説と予算が保存されます。これにより、採用した構成を成功基準と評価すべき結果に関連付けることができます。

記入可能な既製のプロトコルを使う。

IteraGPU Lab v1 には、ノートブック、測定スクリプト、未記入の結果テーブルが含まれます。この枠組みを選んで測定結果を記録し、一定の品質で試行を比較できます。

Lab は準備用のツールを提供します。その限界と計装の試みは方法論に詳述されています。ワークロードのパフォーマンスは採用した構成で測定されます。

あなたの実験が後に残すもの。

レンタルは終わっても、良い観察結果は活用し続けられます。正確なモデル、パラメータ、コードのバージョン、結論を注文番号とともに保管しましょう。MLノートは、なぜある設定を採用したのか、次の試行で何を確認すべきかを思い出す助けになります。

次の判断を準備する

成功したバリエーション、メモリを超えたもの、品質が合わないものを分類します。その後、より多くの容量が必要か、別のフォーマットか、より的を絞ったプロトコルかを判断します。測定されたニーズを持ってカタログに戻れます。