カスタムモデルをポータブル予測サーバーにデプロイ¶
カスタム推論モデルでは、カスタムモデルワークショップからトレーニング済みモデルをDataRobotで使用できます。 DataRobotは、Python、R、Javaを始めとするさまざまなコーディング言語で構築されたモデルをサポートします。 DataRobotでカスタムモデルを作成したら、ポータブル予測サーバー(PPS)と呼ばれるコンテナ化されたDataRobot予測環境にデプロイできます。 カスタムモデルをPPSにデプロイするには、カスタムモデルワークショップでモデルを準備してテストし、モデルレジストリに追加できます。 その後、PPSバンドルを使用してカスタムモデルをデプロイできます。これには、DataRobot内のデプロイ済みのモデルと一緒に監視しながら、モデルを外部にデプロイするために必要なものがすべて含まれています。
PPSでカスタムモデルを作成してデプロイするには、以下に概説するワークフローに従います。
graph TB
A[カスタムモデルの作成] --> B{カスタムモデル環境?}
B --> |はい|C[カスタムモデル環境の作成]
B --> |いいえ|D[カスタムモデルの準備];
C --> D
D --> E{ローカルでのテスト?}
E --> |いいえ|H[DataRobotでカスタムモデルをテスト]
E --> |はい|F[DataRobot Model Runnerのインストール]
F --> G[カスタムモデルをローカルでテスト]
G --> H
H --> I[カスタムモデルを登録]
I --> J{外部予測環境を作成?}
J --> |いいえ|L[カスタムモデルを外部予測環境にデプロイ]
J --> |はい|K[外部予測環境を追加]
K --> L
L --> M[カスタムモデルをPPSにデプロイ]
カスタムモデルの作成¶
カスタム推論モデルは、ユーザーが作成して、カスタムモデルワークショップを介してDataRobotにアップロードできる事前トレーニング済みのモデル(またはファイルのコレクション)です。
カスタム推論モデルは、以下のうちいずれかの方法で構築できます。
-
アセンブルタブで、モデル要件と
start_server.sh
ファイルを 指定しないで カスタムモデルを作成します。 このタイプのカスタムモデルはドロップイン環境を使用する必要があります。 ドロップイン環境には、モデルで使用される要件とstart_server.sh
ファイルが含まれます。 これらはワークショップ内のDataRobotによって提供されます。 独自のドロップインカスタム環境を作成を作成することもできます。 -
アセンブルタブで、モデル要件と
start_server.sh
ファイルを 指定して カスタムモデルを作成します。 このタイプのカスタムモデルは、カスタムまたはドロップイン環境と組み合わせることができます。
(オプション)カスタムモデル環境の作成¶
カスタム環境またはカスタムドロップイン環境を使用する場合は、カスタムモデルワークショップでその環境を作成する必要があります。 この方法で作成した環境を他のカスタムモデルで再利用できます。
カスタムモデル環境は、以下のうちいずれかの方法で構築できます。
-
モデルの要件と
start_server.sh
ファイルを使用して、カスタムドロップイン環境を作成します。 -
モデルの要件と
start_server.sh
ファイルを使用せずに、カスタム環境を作成します。 その代わりに、この環境で使用するカスタムモデルの要件とstart_server.sh
ファイルをモデルフォルダーに用意する必要があります。
カスタムモデルの準備¶
カスタムモデルと環境をDataRobotに追加する前に、モデルと環境を正常に実行するために必要なファイルを準備して構造化する必要があります。 カスタムモデルの準備に必要なツールとテンプレートは、カスタムモデルGitHubリポジトリで用意されています。(このリンクをクリックする前にGitHubにログインしてください。)。 モデルのファイルとフォルダー構造を確認したら、モデルのテストに進んでください。
(オプション)ローカルでのテスト¶
DataRobot Model Runner(DRUM)を使用して、ローカルでPython、R、およびJavaのカスタムモデルで作業できるようになりました。 DataRobotに追加する前に、カスタムモデルを実行して予測できることを確認できます。 ただし、このテストは開発用に意図されています。DataRobotではカスタムモデルワークショップを使用して、デプロイする予定のモデルをテストすることをお勧めします。
DataRobotでのテスト¶
カスタムモデルワークショップでカスタムモデルをテストすると、デプロイ前にモデルが機能することを確認できます。 これらのテストでは、モデル環境を使用してモデルを実行し、テストデータで予測を行います。
備考
テストをしないでカスタム推論モデルをデプロイすることもできますが、DataRobotでは、デプロイの前にモデルがカスタムモデルワークショップでのテストに合格をすることが強く推奨されます。
カスタムモデルの登録¶
カスタムモデルワークショップでカスタム推論モデルを正常に作成しテストしたら、モデルレジストリにデプロイ可能なモデルパッケージとして追加できます。
カスタムモデルを外部からPPSにデプロイ¶
カスタムモデルのポータブル予測サーバー(PPS)は、カスタムモデルを外部予測環境にデプロイするためのソリューションです。 PPSは、デプロイされたカスタムモデル、カスタムモデル環境、およびMLOpsエージェントを含むダウンロード可能なtarballです。 実行すると、PPSコンテナよりDataRobot API経由で予測が提供されます。
(オプション)外部予測環境を追加¶
PPSバンドルと互換性のあるMLOpsカスタムモデルのデプロイを作成するには、カスタムモデルパッケージを外部予測環境に追加する必要があります。 DataRobotに外部予測環境がない場合は、外部予測環境を作成します。
カスタムモデルパッケージを外部予測環境にデプロイ¶
外部予測環境でMLOpsカスタムモデルのデプロイを作成するには、カスタムモデルパッケージを外部予測環境にデプロイします。
カスタムモデルをPPSにデプロイ¶
カスタムモデルPPSバンドルは、デプロイインベントリ内に外部予測環境があることを示すタグが付けられたカスタムモデルがある場合に提供されます。 カスタムモデルのPPSバンドルをダウンロードして、カスタムモデルをデプロイおよび監視できます。