使用状況エクスプローラー¶
The Usage Explorer provides users visibility into graphics processing unit (GPU), central processing unit (CPU), and large language model (LLM) API usage across the platform, providing general usage information broken down by service.
使用状況エクスプローラーでは、以下のサービスが追跡されます。
- モデリング
- 推論
- NVIDIA AI Enterprise
- ベクターデータベースの作成
- GenAIのプレイグラウンド
- カスタムモデル
- モデレーション
- データ管理
- 予測
備考
使用状況エクスプローラーに表示されるサービスは、参照する使用状況のタイプによって異なる場合があります。
To access the Usage Explorer, open Account settings > Usage Explorer. From here, you can view resource consumption by service for a given date range, as well as export the report as a .csv file.
| 要素 | 説明 | |
|---|---|---|
| 1 | 日付範囲セレクター | 2つのフィールドを使用して、特定の日付範囲における使用情報を表示します。 |
| 2 | エクスポート | レポートを.csvファイルとしてダウンロードします。 |
| 3 | 使用状況に関するオプション | 表示する使用情報（GPU、LLM、またはCPU）を選択します。 |
GPUの使用状況¶
The GPU Usage page reports data on GPU usage, providing general usage information broken down by service. たとえば、GenAIの機能は、LLMのトレーニング、ホスティング、推論の実行に関連するさまざまなワークロードにおいて、GPUハードウェアに依存しています。
GPUの使用状況のページにアクセスするには、使用状況エクスプローラーでGPUの使用状況をクリックします。
このページは、リソースを使用しているサービスの名前と、そのサービスの各タスクに関する以下の詳細を表示するテーブルで構成されています。
| フィールド | サマリー |
|---|---|
| サービス | The service that used the GPU (e.g., Notebooks, Modeling, Vector Database Creation, etc.). |
| Resource name | タスクで使用されたGPUの数、CPUの数、RAM/VRAMの量。 |
| クラウド | The cloud provider executing the resource. |
| 地域 | Region where costs are computed. |
| Unit cost (per 1 hour) | The total cost of the resource each hour. |
| 使用量 | 指定の期間内に各タスクがリソースを使用した時間。 |
| 金額 | The current cost of the task. |
LLM APIの使用状況¶
LLM APIの使用状況のページでは、どのサービスでどのLLMモデルを利用しているか、また各モデルがどの程度利用されているかを示すデータを報告します。 The page provides general usage information broken down by service, tracking token consumption for each task. この詳細な監視は、さまざまなサービスの中で、LLMリソースを最も消費しているサービスを特定するのに役立ちます。
LLM APIの使用状況のページにアクセスするには、使用状況エクスプローラーでLLM APIの使用状況をクリックします。
このページは、リソースを使用しているサービスの名前と、そのサービスの各タスクに関する以下の詳細を表示するテーブルで構成されています。
| フィールド | サマリー |
|---|---|
| サービス | The service that used the LLM API (e.g., Custom Models, GenAI Playground, etc.). |
| Resource name | API経由で呼び出されるLLMモデルの名前。 |
| クラウド | The cloud provider executing the resource. |
| 地域 | Region where costs are computed. |
| Unit cost (per 1 hour) | The total cost of the resource each hour. |
| 使用量 | タスクが使用したトークンの数。 |
| 金額 | The current cost of the task. |
CPU使用率¶
The CPU Usage page provides an overview of central processing unit (CPU) broken down by service. これにより、どのユーザーやサービスがCPUリソースを最も消費しているかを簡単に監視でき、最適化が必要な領域や予算上の懸念事項の特定に役立つ可能性があります。
CPUの使用状況のページにアクセスするには、使用状況エクスプローラーでCPUの使用状況をクリックします。
このページは、リソースを使用しているサービスの名前と、そのサービスの各タスクに関する以下の詳細を表示するテーブルで構成されています。
| フィールド | サマリー |
|---|---|
| サービス | CPUを使用したサービス（例：カスタム推論モデル、データ管理など） |
| Resource name | タスクが使用したプロセッサーの数とRAMの量。 |
| クラウド | The cloud provider executing the resource. |
| 地域 | Region where costs are computed. |
| Unit cost (per 1 hour) | The total cost of the resource each hour. |
| 使用量 | 各タスクがCPUを使用した時間。 |
| 金額 | The current cost of the task. |