使用状況エクスプローラー¶

使用状況エクスプローラーは、プラットフォーム全体でのグラフィックス処理装置（GPU）、中央処理装置（CPU）、および大規模言語モデル（LLM）APIの使用状況を可視化し、一般的な使用情報をサービス別に提供します。

使用状況エクスプローラーでは、以下のサービスが追跡されます。

• モデリング
• 推論
• NVIDIA AI Enterprise
• ベクターデータベースの作成
• GenAIのプレイグラウンド
• カスタムモデル
• モデレーション
• データ管理
• 予測

利用状況エクスプローラーにアクセスするには、アカウント設定 > 利用状況エクスプローラーを開きます。 ここから、指定した日付範囲におけるサービス別のリソース使用状況を確認できます。また、レポートを.csvファイルとしてエクスポートすることも可能です。

GPUの使用状況¶

GPUの使用状況ページでは、GPUの利用に関するデータを報告し、一般的な使用情報をサービス別に提供します。 たとえば、GenAIの機能は、LLMのトレーニング、ホスティング、推論の実行に関連するさまざまなワークロードにおいて、GPUハードウェアに依存しています。

GPUの使用状況のページにアクセスするには、使用状況エクスプローラーでGPUの使用状況をクリックします。

このページは、リソースを使用しているサービスの名前と、そのサービスの各タスクに関する以下の詳細を表示するテーブルで構成されています。

LLM APIの使用状況¶

LLM APIの使用状況のページでは、どのサービスでどのLLMモデルを利用しているか、また各モデルがどの程度利用されているかを示すデータを報告します。 このページでは、一般的な使用情報をサービス別に提供し、各タスクのトークン消費を追跡します。 この詳細な監視は、さまざまなサービスの中で、LLMリソースを最も消費しているサービスを特定するのに役立ちます。

LLM APIの使用状況のページにアクセスするには、使用状況エクスプローラーでLLM APIの使用状況をクリックします。

このページは、リソースを使用しているサービスの名前と、そのサービスの各タスクに関する以下の詳細を表示するテーブルで構成されています。

CPU使用率¶

CPUの使用状況ページでは、中央処理装置（CPU）の概要を、サービス別に分類して確認できます。 これにより、どのユーザーやサービスがCPUリソースを最も消費しているかを簡単に監視でき、最適化が必要な領域や予算上の懸念事項の特定に役立つ可能性があります。

CPUの使用状況のページにアクセスするには、使用状況エクスプローラーでCPUの使用状況をクリックします。

このページは、リソースを使用しているサービスの名前と、そのサービスの各タスクに関する以下の詳細を表示するテーブルで構成されています。