Skip to content

アプリケーション内で をクリックすると、お使いのDataRobotバージョンに関する全プラットフォームドキュメントにアクセスできます。

パフォーマンス監視

モデルを信頼してミッションクリティカルな操作を強化するには、モデルデプロイのすべての側面が信頼できるものである必要があります。モデルモニタリングは、本番環境でのMLモデルのパフォーマンスを詳細に追跡し、ビジネスに影響を及ぼす前に潜在的な問題を特定します。監視の範囲は、サービスがエラーなしでタイムリーに予測を確実に提供しているかどうかから、予測自体の信頼性を確保することまでです。

モデルの予測パフォーマンスは、通常、デプロイされるとすぐに低下し始めます。たとえば、誰かが顧客データを含むデータセットでライブ予測を行った場合、経済危機、市場の変動、自然災害、さらには天候により顧客の行動パターンが変化した可能性があります。現実を表していない古いデータでトレーニングされたモデルは、不正確であるだけでなく、不適切である可能性があり、予測結果は無意味または有害でさえあります。専用の本番モデルの監視がない場合、ユーザーまたはビジネスオーナーは、これがいつ発生するかを知ることも、検出することもできません。モデルの精度が検出されずに低下し始めると、ビジネスに影響を与え、リスクにさらされ、ユーザーの信頼を損なう結果につながる恐れがあります。

DataRobotは、モデルデプロイを自動的にモニタし、可能な限り早急に誤差およびモデル精度の低下を検知する中心的なハブを提供します。DataRobotでは、各デプロイの情報をステータスバナーで提供し、モデル固有の情報にも、デプロイインベントリページからアクセスできます。

モデルのデプロイの監視には以下のツールを使用できます。

タスク ツール 必要なデータ
デプロイインベントリの表示 デプロイ N/A
モデル固有のデプロイのレイテンシー、スループット、および誤差率 サービスの正常性 予測データ
データ分布に基づくモデル精度のモニタ データドリフト 予測データとトレーニングデータ
時間経過に伴うモデルのパフォーマンスの分析 精度 トレーニングデータ、予測データ、および実績データ
リモートモデルの監視 MLOpsエージェント リモートモデルと外部モデルパッケージデプロイが必要
デプロイ後のモデルパフォーマンスの比較 チャレンジャーモデル 予測データ
トレーニングデータと予測に対するセグメント化された分析のために属性を追跡 セグメント化された分析 予測データ(データのドリフトや精度を追跡するにはトレーニングデータも必要です)

更新しました February 22, 2022
Back to top