使用状況エクスプローラー¶
使用状況エクスプローラーでは、プラットフォーム全体におけるグラフィックス処理装置(GPU)、中央処理装置(CPU)、大規模言語モデル(LLM)APIの使用状況、エージェントスパン、ストレージの使用状況をユーザーに表示し、サービス別に分類された一般的な使用状況の情報を提供します。
使用状況エクスプローラーのサービス
使用状況エクスプローラーに表示されるサービスは、参照する使用状況のタイプによって異なる場合があります。 使用状況エクスプローラーでは、以下のサービスが追跡されます。
- エージェントオブザーバビリティ
- カスタム推論モデル
- カスタムジョブ
- カスタムモデルNIM
- カスタムモデル
- カスタムタスクフィット
- データ管理
- GenAIのプレイグラウンド
- モデルマネジメント {: #model-management }
- モデリング
- モデレーション
- NVIDIA AI Enterprise
- ノートブック
- 予測値
- 予測オブザーバビリティ
- セグメンテーション
- Sparkデータ準備
- ベクターデータベースの作成
利用状況エクスプローラーにアクセスするには、アカウント設定 > 利用状況エクスプローラーを開きます。 ここから、指定した日付範囲におけるサービス別のリソース使用状況を確認できます。また、レポートを.csvファイルとしてエクスポートすることも可能です。
| 要素 | 説明 | |
|---|---|---|
| 1 | 日付範囲セレクター | 2つのフィールドを使用して、特定の日付範囲における使用情報を表示します。 |
| 2 | エクスポート | レポートを.csvファイルとしてダウンロードします。 |
| 3 | 使用状況に関するオプション | 表示したい使用状況の情報(GPU、LLM、CPU、エージェントスパン、またはストレージ)を選択します。 |
GPUの使用状況¶
GPUの使用状況ページでは、GPUの利用に関するデータを報告し、一般的な使用情報をサービス別に提供します。 たとえば、GenAIの機能は、LLMのトレーニング、ホスティング、推論の実行に関連するさまざまなワークロードにおいて、GPUハードウェアに依存しています。
GPUの使用状況のページにアクセスするには、使用状況エクスプローラーでGPUの使用状況をクリックします。
このページは、リソースを使用しているサービスの名前と、そのサービスの各タスクに関する以下の詳細を表示するテーブルで構成されています。
| フィールド | サマリー |
|---|---|
| サービス | GPUを使用したサービス(例:ノートブック、モデリング、ベクターデータベースの作成など)。 |
| リソース名 | タスクで使用されたGPUの数、CPUの数、RAM/VRAMの量。 |
| クラウド | リソースを実行しているクラウドプロバイダー。 |
| 地域 | コストが計算されるリージョン。 |
| 単価(1時間あたり) | リソースの1時間あたりの総コスト。 |
| 使用量 | 指定の期間内に各タスクがリソースを使用した時間。 |
| 金額 | タスクの現在のコスト。 |
LLM APIの使用状況¶
LLM APIの使用状況のページでは、どのサービスでどのLLMモデルを利用しているか、また各モデルがどの程度利用されているかを示すデータを報告します。 このページでは、一般的な使用情報をサービス別に提供し、各タスクのトークン消費を追跡します。 この詳細な監視は、さまざまなサービスの中で、LLMリソースを最も消費しているサービスを特定するのに役立ちます。
LLM APIの使用状況のページにアクセスするには、使用状況エクスプローラーでLLM APIの使用状況をクリックします。
このページは、リソースを使用しているサービスの名前と、そのサービスの各タスクに関する以下の詳細を表示するテーブルで構成されています。
| フィールド | サマリー |
|---|---|
| サービス | LLM APIを使用したサービス(カスタムモデル、GenAIプレイグラウンドなど)。 |
| リソース名 | API経由で呼び出されるLLMモデルの名前。 |
| クラウド | リソースを実行しているクラウドプロバイダー。 |
| 地域 | コストが計算されるリージョン。 |
| 単価(1時間あたり) | リソースの1時間あたりの総コスト。 |
| 使用量 | タスクが使用したトークンの数。 |
| 金額 | タスクの現在のコスト。 |
CPU使用率¶
CPUの使用状況ページでは、中央処理装置(CPU)の概要を、サービス別に分類して確認できます。 これにより、どのユーザーやサービスがCPUリソースを最も消費しているかを簡単に監視でき、最適化が必要な領域や予算上の懸念事項の特定に役立つ可能性があります。
CPUの使用状況のページにアクセスするには、使用状況エクスプローラーでCPUの使用状況をクリックします。
このページは、リソースを使用しているサービスの名前と、そのサービスの各タスクに関する以下の詳細を表示するテーブルで構成されています。
| フィールド | サマリー |
|---|---|
| サービス | CPUを使用したサービス(例:カスタム推論モデル、データ管理など) |
| リソース名 | タスクが使用したプロセッサーの数とRAMの量。 |
| クラウド | リソースを実行しているクラウドプロバイダー。 |
| 地域 | コストが計算されるリージョン。 |
| 単価(1時間あたり) | リソースの1時間あたりの総コスト。 |
| 使用量 | 各タスクがCPUを使用した時間。 |
| 金額 | タスクの現在のコスト。 |
エージェントスパンの使用状況¶
エージェントスパンのページでは、プラットフォーム全体におけるエージェントスパンの使用状況の概要が表示されます。
エージェントスパンのページにアクセスするには、使用状況エクスプローラーでエージェントスパンをクリックします。
このページは、エージェントスパンの名前および各スパンに関する以下の詳細を表示するテーブルで構成されています。
| フィールド | サマリー |
|---|---|
| サービス | スパンを使用したサービス(例:エージェントオブザーバビリティ)。 |
| リソース名 | 使用されたエージェントスパンの名前。 |
| クラウド | リソースを実行しているクラウドプロバイダー。 |
| 地域 | コストが計算されるリージョン。 |
| 単価(1000スパンあたり) | 1000スパンごとのリソースの総コスト。 |
| 使用量 | 使用されたスパンの総数。 |
| 金額 | 現在の使用コスト。 |
ストレージの使用状況¶
ストレージの使用状況のページでは、プラットフォーム全体におけるストレージの使用状況の概要が表示されます。
ストレージの使用状況のページにアクセスするには、使用状況エクスプローラーでストレージの使用状況をクリックします。
このページは、ストレージの名前および各ストレージに関する以下の詳細を表示するテーブルで構成されています。
| フィールド | サマリー |
|---|---|
| サービス | ストレージリソースを使用したサービス(例:予測オブザーバビリティ)。 |
| リソース名 | 使用されたストレージリソースの名前。 |
| クラウド | リソースを実行しているクラウドプロバイダー。 |
| 地域 | コストが計算されるリージョン。 |
| 単価(1ギガバイトあたり) | 1ギガバイトごとのリソースの総コスト。 |
| 使用量 | 使用されたストレージの合計容量(ギガバイト単位)。 |
| 金額 | 現在の使用コスト。 |





