Skip to content

アプリケーション内で をクリックすると、お使いのDataRobotバージョンに関する全プラットフォームドキュメントにアクセスできます。

モデル比較

備考

モデル比較は多クラスプロジェクトでは使用できません。

少なくとも2つのモデルが構築されたプロジェクトでモデルを比較するには、次のいずれかの操作を行います。

  • モデル比較タブを選択します。
  • リーダーボードから2つのモデルを選択し、「リーダーボード」メニューの選択対象を比較オプションを使用します。

モデルの比較は、事業利益が最大化するモデルの特定に役立ちます。また、アンサンブルモデルの候補を選択する場合にも役立ちます。例えば、2つのモデルが大幅に離れている場合、これらのモデルをアンサンブルすることによって予測を向上させることができます。または、比較的強力な2つのモデルがある場合でも、これらのモデルをアンサンブルすることによって、より良い結果を作成することができます。

モデル比較を使用するには、ドロップダウンからモデルを選択します。関連するモデル統計が更新され、現在選択されているモデルに反映されます。

要件(ニーズ)に最適なモデルを選択したら、モデルメニューから直接デプロイできます。モデル比較ページでは、さまざまな評価ツールを使用してモデルを比較できます。リフトチャート、ROC曲線、および収益曲線の場合、使用可能なパーティションに応じて、表示の基盤として使用するデータソースを選択できます。

ツール 説明
精度指標 選択したモデルのさまざまな精度指標を表示します。
予測時間 DataRobotがモデルのホールドアウトをスコアリングするのに必要な時間を報告します。
デュアルリフトチャート 複数のモデル予測値の間の違いに基づいて、実際の結果と比較したモデルの精度を示します。各ペアをクリックしてモデルのデータを計算します。
リフトチャート モデルがターゲットの予測においてどれだけ効果を挙げているかを表し、そのモデルの効果を視角的に捉えることが可能になります。
ROC曲線 選択したモデルに関連する分類、パフォーマンス、および統計を参照する際に役立ちます。モデル比較では、選択したモデルのROC曲線の視覚化と選択したサマリー統計が表示されます。また、モデリング、予測、およびデプロイに使用される予測しきい値を表示することもできます。
収益曲線 選択した2つのモデルで推定されるビジネスのインパクトを比較するのに役立ちます。視覚化には、ペイオフ行列および付随するグラフの両方が含まれます。また、モデリング、予測、およびデプロイに使用される予測しきい値を表示することもできます。詳細については、タブを参照してください。
時系列の精度(OTV、時系列のみ) 各モデルの予測が時間の経過とともにどのように変化するかを視覚化されるため、モデルのパフォーマンスの比較に役立ちます。チャートの任意のポイントにカーソルを合わせると、各モデルの予測値と実測値が表示されます。表示のパーティションと予測距離を変更できます。値は検定パーティションに基づいています。トレーニングデータを表示するには、最初に評価 > 時系列の精度タブからトレーニング予測を計算する必要があります。
時系列の異常(OTV、時系列のみ) データのタイムライン上で異常が発生すると、そのことを視覚化します。時系列の精度チャートに似ていますが、こちらでは異常が表示されます。チャートの任意のポイントにカーソルを合わせると、各モデルの予測異常スコアが表示されます。表示用のパーティションと各モデルの異常しきい値を変更できます。値は検定パーティションに基づいています。トレーニングデータを表示するには、最初に評価 > 異常検知タブからトレーニング予測を計算する必要があります。

デュアルリフトチャート

デュアルリフトチャートは、2つのモデルが相互にどのように競合するのか(相違および相対プラットフォームの度合い)視覚的に捉えるための方法です。各モデルでの個体群のセグメント化のレベルはどれ位でしょうか。リフトチャートと同様に、デュアルリフトでもプロットの基準としてビニングが使用されます。しかし、標準のリフトチャートでは予測高度なオプションエクスポージャーパラメーターを設定している場合は調整済み予測)がソートされて、グループ化されますが、デュアルリフトチャートでは、以下のようにグループ化されます。

  1. 各モデルの予測スコア(エクスポージャーが設定されている場合は調整済み予測のスコア)の間の違いが計算されます。
  2. 違いに基づいて行がソートされます。
  3. 要求されたビンの数に基づいて結果がグループ化されます。

デュアルリフトチャートには、以下の要素がプロットされます。

チャートの要素 説明
上位または下位モデル予測(1) 各モデル(モデル名に応じて色分け)について、データポイントは、そのビンの行の平均予測スコアを表します。これらの値は、リフトチャートに示される値に一致します。
差分測定(2) 左と右のモデルの違いを示す網掛け表示。
実測値(3) ビンの行の実際のパーセンテージまたは値。
頻度(4) 各ビンの行数の測定。頻度はビンの数が変化すると変化します。

デュアルリフトチャートは、アンサンブルモデリングの候補を評価するための優れたツールです。ターゲット率(オレンジの線)で違いが大きい複数の異なるモデルを見つけると、アンサンブルを作成するモデルの優れたペアが示される場合があります。これは、あるモデルがデータの特定の象限に強度を示すかどうかを意味します。反対側の象限に強いモデルとアンサンブルすることで、強力なアンサンブルを作成することができます。

リフトチャートの解釈

リフトチャートのポイントは、各ビンの平均パーセンテージ(二値分類)または平均値(連続値)のいずれかを示します。リフトチャートを計算するために、ビニングされた予測値に基づいて実測値がソートされ、各モデルの平均実測値がチャートに表示されます。

リフトチャートは、傾向モデリング(行動を起こす可能性が最も高い顧客を特定するのに最適なモデルを見つける場合など)に特に役立ちます。このため、リフトチャートのポイントは、各モデルの各ビンの平均実測値を示します。リフトチャートの一般的な説明については、リーダーボードタブの説明を参照してください。

リフトチャートの値を理解するために、以下のサンプルモデル比較を行うリフトチャートを例に説明します。

両方のモデルでは、ビン5、8、9、および11で非常に類似した予測が作成されます。この事から、分布の平均において、両方のモデルでは適切な予測が行われていると考えることができます。しかし、左側のマジョリティークラス分類子(黄色の線)では、SVM分類子(青の線)に比べて一貫して過大な予測が行われています。右側では、マジョリティークラス分類器が過小に予測されていることが分かります。注意:

  1. 勾配が急なリフトチャートは優れたモデルを意味します。リフトチャートの「勾配が急」なので、青のモデルは黄色のモデルよりも優れています。

  2. 青のモデルが優れているという点を考慮すると、黄色のモデルは分布のテールの部分が特に悪いことがわかります。青のモデルの予測が非常に低いビン1と青のモデルの予測が非常に高いビン10に注目します。

これらのモデルが意味することは、黄色のモデル(マジョリティークラス分類器)は、このデータに特に適していないということがわかります。青のモデル(SVM分類器)の傾向は一貫していますが、黄色のモデルの傾向にはばらつきがあります。青のモデルが好ましい選択と言えます。


更新しました February 22, 2022
Back to top