Skip to content

モデル リーダーボード

タイル 説明
構築された全モデルのリストと各モデルの概要情報を開くとともに、モデルの取得可能なインサイトにアクセスします。

モデリングを開始すると、ワークベンチでは、モデルリーダーボードの構築が開始されます。リーダーボードでは、モデルがパフォーマンス順にランク付けされるので、モデルの迅速な評価に役立ちます。 リーダーボードには、エクスペリメントで構築された各モデルについてのスコアリング情報を含む情報のサマリーが表示されます。 リーダーボードから、モデルをクリックして視覚化にアクセスして、さらに詳しく調べることができます。 これらのツールを使用すると、次のエクスペリメントで何をする必要があるかを評価するのに役立ちます。

DataRobotは、リーダーボードを構築する際にモデルを入力し、最初は最大50のモデルを表示します。 追加のモデルをロードをクリックすると、クリックするたびに50のモデルが読み込まれます。

クイックモードを実行した場合、ワークベンチでサンプルサイズフェーズが64%完了すると、最も精度の高いモデルが選択され、100%のデータでトレーニングされます。 そのモデルには、デプロイの準備済みバッジが付けられます。

デプロイの準備済みモデルがリーダーボードの先頭に表示されないのはなぜですか?

ワークベンチでデプロイするモデルが準備されると、100%のデータでモデルがトレーニングされます。 最も精度の高いものが準備対象として選択されましたが、64%のサンプルサイズに基づいて選択されたものです。 デプロイ用の最も精度の高いモデルの準備の一環として、ワークベンチはホールドアウトのロックを解除し、準備されたモデルを元のデータとは異なるデータでトレーニングします。 リーダーボードをホールドアウトで並べ替えるように変更しない場合、左側のバーの検定スコアは、準備されたモデルが最も正確ではないかのように表示されます。

リーダーボードは、次の2つの要素で構成されます。

  • リーダーボード自体。エクスペリメントで構築されたすべてのモデルの管理可能なリストです。
  • サマリー情報とモデルインサイトへのアクセスを提供するモデルの概要ページ。

モデルリスト

デフォルトでは、リーダーボードは展開された全幅表示で開き、エクスペリメント内のすべてのモデルとそのトレーニング設定の概要、および検定、交差検証、ホールドアウトの各スコアが表示されます。 バッジによって、モデルの識別とスコアリングに関する情報をすばやく確認でき、モデル名の前のアイコンはモデルタイプを示します。

任意のモデルをクリックすると、さらにスコアリング情報が表示され、モデルのインサイトにアクセスできます。 閉じるをクリックすると、全幅表示に戻ります。

リーダーボードに表示可能な数を超えるバッジがモデルにある場合は、ドロップダウンを使用します。

モデルリストの表示

リーダーボードには、モデルリストのフィルター処理と並べ替えを行うためのさまざまな方法が用意されており、関連のあるモデルの表示と絞り込みが簡単にできます。 検索機能の利用だけでなく、モデルのフィルター、並べ替え、「お気に入り」登録も可能です。

検索のフィルターには、任意のフィルターを組み合わせることができます。 まず、モデルタイプやブループリント番号などを検索し、次に「フィルター」を選択して、そのタイプのモデルの中から、追加の条件を満たすモデルのみを検索します。

モデルのフィルター

フィルターを使用すると、関連するモデルの表示とフォーカスが容易になります。 フィルターをクリックして、ワークベンチのリーダーボードに表示されるモデルの条件を設定します。 各フィルターで使用できる選択は、エクスペリメントおよびモデルタイプ(少なくとも1つのリーダーボードモデルで使用されたタイプ)に依存し、モデルがエクスペリメントに追加されると変更される可能性があります。 例:

フィルター 表示されるモデル
ラベルが設定されたモデル リストされたタグが付与されたモデル( スター付きモデルまたは デプロイ推奨モデル
特徴量セット 選択した特徴量セットで構築されたモデル
サンプルサイズ(ランダムまたは層化抽出パーティション) 選択したサンプルサイズでトレーニングされたモデル
トレーニング期間(日付/時刻パーティション) 選択した期間メカニズムによって定義されたバックテストでトレーニングされました。
モデルファミリー 選択したモデルファミリーに属するモデル:
  • GBM(Gradient Boosting Machine)。Light Gradient Boosting on ElasticNet Predictions、eXtreme Gradient Boosted Trees Classifierなど
  • GLMNET(Lasso and ElasticNet Regularized Generalized Linear Models)。ElasticNet Classifier、Generalized Additive2など
  • RI(Rule Induction)。RuleFit Classifierなど
  • RF(Random Forest)。RandomForest ClassifierやRegressorなど
  • NN(Neural Network)。Kerasなど
プロパティ GPUを使用して構築されました。

使用可能なフィールドとそのフィールドの設定は、プロジェクトやモデルタイプによって異なります。 たとえば、日付/時刻以外のモデルではサンプルサイズでのフィルターが可能ですが、時間認識モデルではトレーニング期間を設定できます。

備考

フィルターは包括的です。 つまり、すべてのフィルターではなく、いずれかのフィルターに一致するモデルが結果として表示されます。 また、選択可能なオプションには、基準に一致するモデルが少なくとも1 つリーダーボードにあるものを含めます。

モデルの並べ替え

デフォルトでは、リーダーボードは、選択した 最適化指標を使用して、検定パーティションのスコアに基づいてモデルをソートします。 ただし、制御によるモデルの並べ替えを使用して、モデルを評価するときに表示パラメーターの基準を変更できます。

ワークベンチでは、データにとって最適な指標を使用してプロジェクトが構築されていますが、各モデルに適用される多くの指標が計算されることに注意してください。 構築が完了した後、別の指標に基づいてリーダーボードのリストを再表示できます。 モデル内の値は変更されませんが、この代替指標でのパフォーマンスに基づいてモデルの一覧の表示順序が変更されます。

それぞれの詳細については、 最適化指標のページを参照してください。

お気に入りでフィルター

リーダーボードに表示される1つまたは複数のモデルにタグ(星)を付けて、アプリケーションをナビゲートするときにモデルを容易に参照できます。 クリックして星を付けてから、フィルターを使用すると、星付きモデルのみが表示されます。

モデル概要

リーダーボードのリストからモデルを選択すると、モデル概要が表示され、以下の操作が可能です。

モデル構築の失敗

モデルの構築に失敗した場合、オートパイロットの実行中にジョブキューにその旨が表示されます。 完了すると、そのモデルはリーダーボードに表示されますが、失敗したことが示されます。 モデルをクリックすると、失敗の原因となった問題のログが表示されます。

リーダーボードからそのモデルを削除するには、失敗したモデルを削除ボタンを使用します。

エクスペリメントツール

リーダーボードからモデルにアクセスできるほか、以下の操作も可能です。

  • モデリングを再実行を使用して、特徴量セットまたはモデリングモードを変更するか、自動化設定を追加してオートパイロットを再実行する。
  • エクスペリメントを複製

エクスペリメントの複製

現在のエクスペリメントを複製するには、リーダーボードの上部にあるリンクを使用します。 これにより新しいエクスペリメントが作成され、データを再アップロードするよりも速くデータを操作できます。

複製をクリックすると、モーダルが開き、新しいエクスペリメント名を指定するオプションが表示されます。 次に、データセットだけをコピーするか、データセットとエクスペリメント設定をコピーするかを選択します。 設定を含めることを選択した場合、ターゲット、および元のプロジェクトに関連付けられた詳細設定とカスタム特徴量セットが複製されます。

完了すると、新しいエクスペリメント設定ページが開き、モデル構築プロセスを開始できます。