Skip to content

アプリケーション内で をクリックすると、お使いのDataRobotバージョンに関する全プラットフォームドキュメントにアクセスできます。

「カスタム指標」タブ

デプロイのカスタム指標タブでは、 データのエクスポートタブから収集するデータ(または他のカスタム指標を介して計算されたデータ)を使用して、最大25のカスタムビジネスまたはパフォーマンス指標を計算および監視できます。 これらの指標は、設定可能なカスタム指標サマリーダッシュボードに記録され、そこで各指標の経時変化を監視、視覚化、およびエクスポートします。 この機能により、組織固有の指標を実装して、DataRobotに組み込まれている[サービスの正常性] (service-health)、データドリフト精度の各指標によって提供されるインサイトを拡張できます。

What types of custom metrics are supported?

Three types of custom metrics are available for use. External metrics are generally available in Classic and NextGen, hosted custom metrics are available for preview in Classic and NextGen, and hosted custom metric templates are available for preview in NextGen:

カスタム指標の種類 成熟 説明
外部カスタム指標 一般提供
  • What: A custom metric where the calculations of the metric are not directly hosted by DataRobot. An external metric is a simple API used to submit a metric value for DataRobot to save and visualize. The metric calculation is handled externally, by the user. External metrics can be combined with other tools in DataRobot like Notebooks, Jobs, or Custom Models, or external tools like Airflow or cloud providers to provide the hosting and calculation needed for a particular metric.
  • Where: On the Custom Metrics tab of any deployment, click Add custom metric > New external metric (or Create new external metric in Classic).
  • Why: Provides a simple option to save a number from your AI solution that you want for tracking and visualization in DataRobot. For example, you could track the change in LLM cost, calculated by your LLM provider, over time.
ホストされたカスタム指標 プレビュー
  • What: A custom metric where the metric calculations are hosted in a custom job within DataRobot. For hosted metrics, DataRobot orchestrates pulling the data, computing the metric values, saving the values to storage, and visualizing the data. No outside tools or infrastructure are required.
  • Where: On the Custom Metrics tab of any deployment, click Add custom metric > New hosted metric (or Create new hosted metric in Classic).
  • Why: Provides a complete end-to-end workflow for building business-specific metrics and dashboards in DataRobot.
ホストされたカスタム指標テンプレート プレビュー
  • What: A template or ready-to-use example of a hosted custom metric, where DataRobot provides the user the code and automates the creation process for a hosted custom metric. For metric templates, the result is a hosted metric, without starting from scratch. Templates are provided by DataRobot and can be used as-is or modified to calculate new metrics.
  • Where: On the Custom Metrics tab of any deployment in NextGen only, click Add custom metric > Create new from template.
  • Why: Provides the simplest way to get started with custom metrics, where DataRobot provides an example implementation and a complete end-to-end workflow. They are ready to use in just a few clicks.

カスタム指標にアクセスするには、上部のナビゲーションバーでデプロイをクリックし、デプロイタブでカスタム指標を作成するデプロイをクリックします。 次に、デプロイで、カスタム指標タブをクリックします。 サマリータブが開きます。

カスタム指標を追加

カスタム指標タブでは、最大25の指標を追跡できます。 カスタム指標を追加するには:

  1. カスタム指標 > サマリータブで、+ カスタム指標を追加をクリックします。

  2. カスタム指標を追加ダイアログボックスで、新しい外部指標を作成をクリックし、次へをクリックしてから、指標設定を設定します。

    フィールド 説明
    名前 指標の説明的な名前。 この名前は、カスタム指標サマリーダッシュボードに表示されます。
    説明 カスタム指標の説明。たとえば、目的、計算方法などを説明することができます。
    Y軸の名前(ラベル) 従属変数の説明的な名前。 この名前は、カスタム指標サマリーダッシュボードのカスタム指標のチャートに表示されます。
    デフォルトの間隔 The default interval used by the selected Aggregation type. HOURのみサポートされています。
    ベースライン The value used as a basis for comparison when calculating the x% better or x% worse values.
    集計タイプ If the metric is calculated as a Sum, Average, or Gauge.
    指標の方向 The directionality of the metric and changes how changes the metric are visualized. 大きいほど良いまたは低いほど良いを選択できます。 たとえば、低いほど良いを選択すると、カスタム指標の計算値が10%減少することが、10%改善とみなされ、緑色で表示されます。
    モデル固有 この設定を有効にすると、データセットで提供されたモデルパッケージID(登録されているモデルバージョンID)を使用して、指標をモデルにリンクします。 この設定は、値が集計(またはアップロード)される場合に影響します。 例:
    • モデル固有(有効):モデルの精度指標はモデル固有であるため、値は完全に個別に集計されます。 モデルを置換すると、カスタム精度指標のチャートには、置換後の日についてのデータだけが表示されます。
    • モデル固有ではありません(無効):収益指標はモデル固有ではないため、値は一緒に集計されます。 モデルを置換しても、カスタム収益指標のチャートは変更されません。
    このフィールドは、指標を作成した後は編集できません。
    列名の定義
    タイムスタンプ列 The column in the dataset containing a timestamp.
    値列 カスタム指標の計算に使用される値を含むデータセット内の列。
    日付形式 タイムスタンプ列で使用される日付形式。

    備考

    カスタム指標にデータをアップロードするときに、列名の定義設定をオーバーライドできます。

  3. カスタム指標を追加をクリックします。

カスタム指標にデータをアップロード

カスタム指標を作成した後、データを提供して指標を計算できます。

  1. カスタム指標タブで、データをアップロードするカスタム指標を見つけ、データをアップロードするアイコンをクリックします。

  2. データをアップロードダイアログボックスで、アップロード方法を選択してから、次へをクリックします:

    アップロード方法 説明
    データをファイルとしてアップロード ファイルを選択ダイアログボックスで、アップロードするファイルをドラッグアンドドロップするか、ファイルを選択 > ローカルファイルをクリックしてローカルファイルシステムを参照し、データを送信をクリックします。 1つのファイルでアップロードできるアップロードサイズは最大10GBです。
    AIカタログを使用 AIカタログからデータセットを選択ダイアログボックスで、リストからデータセットをクリックしてから、データセットを選択をクリックします。 AIカタログには、 データのエクスポートタブからのデータセットが含まれています。
    APIを使用 APIクライアントを使用ダイアログボックスで、クリップボードにコピーをクリックしてから、APIスニペットを変更し、それを使用してデータセットをアップロードします。 1回のAPI呼び出しで最大10,000個の値をアップロードできます。
  3. データセット列を選択ダイアログボックスで、以下を設定します。

    フィールド 説明
    タイムスタンプ列 The column in the dataset containing a timestamp.
    値列 カスタム指標の計算に使用される値を含むデータセット内の列。
    関連付けID The row containing the association ID required by the custom metric to link predicted values to actuals.
    日付形式 タイムスタンプ列で使用される日付形式。
  4. データをアップロードするをクリックします。

カスタム指標を管理

カスタム指標ダッシュボードでは、カスタム指標を追加した後、それらを編集、配置、または削除できます。

指標を編集または削除するには、カスタム指標タブで、管理するカスタム指標を見つけてから、その他のオプションアイコンをクリックします。

  • 指標を編集するには、編集をクリックし、変更可能な設定を更新して、カスタム指標を更新をクリックします。

  • 指標を削除するには、削除をクリックします。

カスタム指標サマリーダッシュボードで指標を並べ替えたり非表示にしたりするには、移動または非表示にするカスタム指標を見つけます。

  • 指標を移動するには、指標タイルの左側にあるグリッドアイコン()をクリックしてから、指標を新しい場所にドラッグします。

  • 指標のチャートを非表示にするには、指標名の横にあるチェックボックスをオフにします。

カスタム指標ダッシュボードの表示設定を設定

以下の設定を行い、ダッシュボードに表示するカスタム指標の計算を指定します。

設定 説明
1 モデル カスタム指標を表示するデプロイのモデル(現在または以前)を選択します。
2 範囲 (UTC) カスタム指標を表示する期間の開始日と終了日を選択します。
3 単位 日付スライダーの時間単位を選択します。 選択した時間範囲に基づき、単位を毎時、毎日、毎週、毎月から選択します。 時間範囲が7日を超える場合、単位を毎時にすることはできません。
4 表示を更新 カスタム指標ダッシュボードを更新します。
5 リセット カスタム指標ダッシュボードの表示設定をデフォルトに戻します。

更新しました March 4, 2024