カスタムモデルをポータブル予測サーバーにデプロイ¶

カスタム推論モデルでは、カスタムモデルワークショップからトレーニング済みモデルをDataRobotで使用できます。 DataRobotは、Python、R、Javaを始めとするさまざまなコーディング言語で構築されたモデルをサポートします。 DataRobotでカスタムモデルを作成したら、ポータブル予測サーバー（PPS）と呼ばれるコンテナ化されたDataRobot予測環境にデプロイできます。 カスタムモデルをPPSにデプロイするには、カスタムモデルワークショップでモデルを準備してテストし、モデルレジストリに追加できます。 その後、PPSバンドルを使用してカスタムモデルをデプロイできます。これには、DataRobot内のデプロイ済みのモデルと一緒に監視しながら、モデルを外部にデプロイするために必要なものがすべて含まれています。

PPSでカスタムモデルを作成してデプロイするには、以下に概説するワークフローに従います。

graph TB
  A[Create a custom model] --> B{Custom model environment?} 
  B --> |Yes|C[Create a custom model environment]
  B --> |No|D[Prepare the custom model];
  C --> D
  D --> E{Test locally?}
  E --> |No|H[Test the custom model in DataRobot]
  E --> |Yes|F[Install the DataRobot Model Runner]
  F --> G[Test the custom model locally]
  G --> H
  H --> I[Register the custom model]
  I --> J{Create an external prediction environment?}
  J --> |No|L[Deploy the custom model to an external prediction environment]
  J --> |Yes|K[Add an external prediction environment]
  K --> L 
  L --> M[Deploy the custom model to a PPS] 

カスタムモデルの作成¶

カスタム推論モデルは、ユーザーが作成して、カスタムモデルワークショップを介してDataRobotにアップロードできる事前トレーニング済みのモデル（またはファイルのコレクション）です。

カスタム推論モデルは、以下のうちいずれかの方法でアセンブルできます。

• カスタムモデルを作成し、モデルのフォルダーにWebサーバーのスコアリングコードとstart_server.shシェルファイルを含めます。 このタイプのカスタムモデルは、カスタムまたはドロップイン環境と組み合わせることができます。

• モデルのフォルダーにWebサーバーのスコアリングコードとstart_server.shシェルファイルなしで、カスタムモデルを作成します。 このタイプのカスタムモデルには、モデルで使用するWebサーバースコアリングコードとstart_server.shファイルを指定するドロップイン環境が必要です。 You can use the drop-in environments provided by DataRobot, or you can create a custom drop-in environment.

カスタムモデルの作成

オプション カスタムモデル環境の作成¶

カスタム環境またはカスタムドロップイン環境を使用する場合は、カスタムモデルワークショップでその環境を作成する必要があります。 この方法で作成した環境を他のカスタムモデルで再利用できます。

カスタムモデル環境は、以下のうちいずれかの方法でアセンブルできます。

• Webサーバーのスコアリングコードとモデルのstart_server.shファイルを含めて、カスタムドロップイン環境を作成します。 DataRobotは、カスタムモデルワークショップから デフォルトのドロップイン環境をいくつか提供します。

• Webサーバーのスコアリングコードとstart_server.shファイルなしでカスタムモデルを作成します。 代わりに、この環境で使用する予定のカスタムモデルのモデルフォルダーに、Webサーバーのスコアリングコードとstart_server.shファイルを指定する必要があります。

Create a custom model environment

カスタムモデルの準備¶

カスタムモデルと環境をDataRobotに追加する前に、モデルと環境を正常に実行するために必要なファイルを準備して構造化する必要があります。 カスタムモデルの準備に必要なツールとテンプレートは、カスタムモデルGitHubリポジトリで用意されています。（このリンクをクリックする前にGitHubにログインしてください。）。 モデルのファイルとフォルダー構造を確認したら、モデルのテストに進んでください。

Prepare a custom model

オプション ローカルでのテスト¶

DataRobot Model Runner（DRUM）を使用して、ローカルでPython、R、およびJavaのカスタムモデルで作業できるようになりました。 DataRobotに追加する前に、カスタムモデルを実行して予測できることを確認できます。 ただし、このテストは開発用に意図されています。DataRobotではカスタムモデルワークショップを使用して、デプロイする予定のモデルをテストすることをお勧めします。

ローカルでのカスタムモデルのテスト

DataRobotでのテスト¶

カスタムモデルワークショップでカスタムモデルをテストすると、デプロイ前にモデルが機能することを確認できます。 これらのテストでは、モデル環境を使用してモデルを実行し、テストデータで予測を行います。

Test a custom model in DataRobot

カスタムモデルの登録¶

カスタムモデルワークショップでカスタム推論モデルを正常に作成しテストしたら、モデルレジストリにデプロイ可能なモデルパッケージとして追加できます。

カスタムモデルの登録

カスタムモデルを外部からPPSにデプロイ¶

カスタムモデルのポータブル予測サーバー（PPS）は、カスタムモデルを外部予測環境にデプロイするためのソリューションです。 PPSは、デプロイされたカスタムモデル、カスタムモデル環境、およびMLOpsエージェントを含むダウンロード可能なtarballです。 実行すると、PPSコンテナよりDataRobot API経由で予測が提供されます。

オプション 外部予測環境を追加¶

PPSバンドルと互換性のあるMLOpsカスタムモデルのデプロイを作成するには、カスタムモデルパッケージを外部予測環境に追加する必要があります。 DataRobotに外部予測環境がない場合は、外部予測環境を作成します。

外部予測環境を追加

カスタムモデルパッケージを外部予測環境にデプロイ¶

外部予測環境でMLOpsカスタムモデルのデプロイを作成するには、カスタムモデルパッケージを外部予測環境にデプロイします。

カスタムモデルを外部予測環境にデプロイ

カスタムモデルをPPSにデプロイ¶

カスタムモデルPPSバンドルは、デプロイインベントリ内に外部予測環境があることを示すタグが付けられたカスタムモデルがある場合に提供されます。 カスタムモデルのPPSバンドルをダウンロードして、カスタムモデルをデプロイおよび監視できます。

カスタムモデルをPPSにデプロイ