デプロイワークフロー¶
DataRobotのMLOpsによる監視は、DataRobot予測環境にデプロイされたすべてのモデル(ポータブル予測サーバーを使用した独自のインフラストラクチャ上のモデルを含む)で利用できます。 DataRobot MLOpsでは、オープンソースの言語やライブラリで記述されたモデルをデプロイし、リアルタイムまたはバッチの予測をサポートする本番品質のREST APIを公開できます。 カスタム推論モデルでは、事前トレーニング済みのモデルをDataRobotに取り込み、DataRobotのモデルと一緒に監視対象の予測を行うことができます。 さらに、MLOpsエージェントを使用して、外部予測環境で実行されているモデルを対象とした監視を設定できます。 以下のワークフローは、最も一般的なデプロイシナリオの概要を示すもので、各ステップの関連ドキュメントへのリンクも含まれています。
ワークフロータイプ¶
以下の一般的なモデルと環境の組み合わせで提供されるワークフローを使用して、DataRobot内または外部デプロイ用にコンテナ化されたDataRobot予測環境に、DataRobot AutoMLモデルとカスタム推論モデルをデプロイする方法を習得できます。 さらに、監視エージェントを使用すると、完全に外部の予測環境にデプロイされたモデルを監視できます。
モデルタイプ | 環境タイプ | ワークフロー |
---|---|---|
DataRobotモデル | DataRobot予測環境 | DataRobot予測環境でDataRobotモデルをデプロイする方法。 |
DataRobotモデル | ポータブル予測サーバー | DataRobotモデルをポータブル予測サーバー(PPS)にデプロイする方法。 |
カスタムモデル | DataRobot予測環境 | DataRobot予測環境でカスタムモデルをデプロイする方法。 |
カスタムモデル | ポータブル予測サーバー | カスタムモデルをポータブル予測サーバー(PPS)にデプロイする方法。 |
スコアリングコード | 外部予測環境 | エクスポートされたDataRobotモデルのスコアリングコードを、監視エージェントが有効になっている外部環境でデプロイする方法。 |
外部モデル | 外部予測環境 | 監視エージェントを有効にして、外部予測環境で外部モデルをデプロイする方法。 |
モデルタイプ¶
デプロイワークフローで参照されるモデルタイプは、次のように定義されています。
モデルタイプ | 説明 |
---|---|
DataRobotモデル | 標準のDataRobotモデル。 |
カスタムモデル | カスタムモデルワークショップで組み立てられた外部(Python、Java、またはR)モデル。 |
スコアリングコード | リーダーボードから選択した外部デプロイ用のDataRobotモデルをダウンロードする方法。 この方法でダウンロードされたモデルは、Javaアーカイブ(JAR)ファイルとしてパッケージ化されます。これにはDataRobot APIの計算ロジックと同じJava予測計算ロジックが含まれます。 ただし、スコアリングコードの予測は、API呼び出しではなくコマンドラインインターフェイス(CLI)を使用して行われるため、低レイテンシーの予測を行うことができます。 |
外部(リモート)モデル | DataRobotの完全に外部にあるモデルで、ローカルインフラストラクチャまたはその他の外部環境で予測を行います。 これらのモデルはMLOpsエージェントで監視でき、デプロイ情報をDataRobot MLOpsに報告することができます。 |
予測環境タイプ¶
デプロイワークフローで参照される予測環境は、次のように定義されています。
予測環境タイプ | 説明 | 評価 |
---|---|---|
DataRobot予測環境 | DataRobotインフラストラクチャ上のデフォルトのDataRobot予測環境。 | 最も簡単なデプロイ、予測、監視、およびモデルの置き換えプロセスを提供します。 ただし、予測はネットワークパフォーマンスの制限を受けます。 |
ポータブル予測サーバー | MLOpsによる監視を有効にして、DataRobotモデルがインフラストラクチャで予測を行うための、コンテナ化された(あらゆるインフラストラクチャでの実行に必要なすべてのリソースを備えた)DataRobot予測環境。 | APIベースの予測をローカルインフラストラクチャで行うと、低レイテンシー予測のパフォーマンスを向上させることができます。 ただし、デプロイ、予測、監視、およびモデルの置き換えプロセスはより複雑です。 |
カスタムモデルのポータブル予測サーバー | MLOpsによる監視を有効にして、カスタムモデルがインフラストラクチャで予測を行うための、コンテナ化された(あらゆるインフラストラクチャでの実行に必要なすべてのリソースを備えた)DataRobot予測環境。 カスタムモデルのPPSバンドルには、デプロイされたカスタムモデル、カスタム環境、および監視エージェントが含まれています。 | APIベースの予測をローカルインフラストラクチャで行うと、低レイテンシー予測のパフォーマンスを向上させることができます。 ただし、デプロイ、予測、監視、およびモデルの置き換えプロセスはより複雑です。 |
外部予測環境 | DataRobotの完全に外部にある予測環境で、監視エージェントにより監視され、DataRobot MLOpsに報告される予測を行うために使用します。 | 外部予測やスコアリングコード予測をローカルインフラストラクチャで実行すると、低レイテンシー予測のパフォーマンスを向上させることができます。 ただし、デプロイ、予測、監視、およびモデルの置き換えプロセスはより複雑です。 |