専用の予測環境からサーバーレス予測環境へのモデルの移行¶
サーバーレス予測環境は、Kubernetesベースのスケーラブルなデプロイアーキテクチャです。 専用の予測環境(DPE)とは異なり、サーバーレス予測環境ではリソース設定の変更が可能なため、デプロイされたモデルの要件に合わせて環境のリソース割り当てを変更できます。
セルフマネージドAIプラットフォームでは、10.2リリースから、DataRobotが新規にインストールされた環境すべてで、デフォルトのデプロイプラットフォームが、動的/静的予測エンドポイントからサーバーレス予測環境に変更されました。 DataRobot 10.2以上のセルフマネージド環境を利用している組織は、[予測環境]](nxt-pred-env){ target=_blank }ページで事前にプロビジョニングされたDataRobotサーバーレス予測環境にアクセスできます。
_マネージドAIプラットフォーム(SaaS)_では、2024年11月より後に作成された組織は、予測環境ページで事前にプロビジョニングされたDataRobotサーバーレス予測環境にアクセスできます。
モデルのデプロイをサーバーレス予測環境に移行する準備をする際には、以下の表のガイドラインを考慮してください。
デプロイカテゴリー | 推奨する操作 |
---|---|
新しいデプロイ | 新しいデプロイを作成するたびに、サーバーレス予測環境を使用します。 使われていない専用予測サーバーは、次回の更新時に削除されます。 |
既存のデプロイ | マネージドAIプラットフォーム(SaaS)では、次回更新時にサポートまたはアカウントチームからモデルの移行をお願いする場合があります。 できるだけ早くモデルをサーバーレス環境に移行し、2025年末までに移行を完了することを検討してください。新しいデプロイには、過去のオブザーバビリティデータは含まれません。このデータを保持する場合は、DataRobotサポートにお問い合わせください。 |
外部アプリケーションと連携したデプロイ | 移行が可能かどうか、またはいつ可能かについては、アプリケーションチームにご相談ください。 |
ご連絡ください
組織のモデルについて、専用の予測環境からサーバーレス予測環境への移行を2025年末までに完了させることが難しい場合は、DataRobotアカウントチームにお問い合わせください。
サーバーレス予測環境を使用する理由¶
サーバーレス予測環境のサポート:
- AutoMLモデル、時系列モデル、カスタムモデル、GenAIブループリント、ベクターデータベースのデプロイ。
- リアルタイムおよびバッチ予測API。
- DataRobotモデル向けのゼロスケールおよびCPUベースの自動スケーリング。
サーバーレス予測環境によって、以下のようにスケーラブルなモデルデプロイが可能になります。
- 分散コンピューティング:複数のコンピューティングノードでスコアリングを行います。
- 変更可能なリソース設定:各デプロイで利用可能です
- 同時実行可能なバッチ予測ジョブ:同時実行可能な最大数を設定できます。
- カスタムモデル用のマルチスレッド予測ゲートウェイ。
サーバーレス予測環境を利用するには?¶
サーバーレス予測環境にモデルを移行するには、登録モデルをレジストリからサーバーレス予測環境にデプロイします。
注意事項
サーバーレス予測環境にモデルを移行する際は、以下に注意してください。
-
サーバーレス環境では、リアルタイムAPIに新しいシグネチャが導入されました。この新しいシグニチャを使用するには、アプリケーションを調整します。 DataRobotには、コード経由でサーバーレスデプロイとの通信を可能にするヘルパー関数を備えたPythonライブラリが用意されています。
-
新しいデプロイには、過去のオブザーバビリティデータは含まれません。このデータを保持する場合は、DataRobotサポートにお問い合わせください。
-
コンソールでサーバーレス予測環境を作成します。
-
サーバーレス環境にモデルをデプロイします。
-
リアルタイム予測APIを使用するか、バッチ予測ジョブを介して、予測を行います。
-
デプロイが外部アプリケーションと連携している場合は、既存のアプリケーションとスクリプトを変更し、
datarobot-predict
ライブラリを使用して新しい予測エンドポイントを呼び出します。サーバーレス環境では、ボルトオンのガバナンスAPIもサポートされており、OpenAI APIの公式Pythonライブラリを通じて、デプロイ済みのGenAIブループリントとの通信が可能です。