ワークショップ¶
ワークショップでは、カスタムモデルを作成、テスト、デプロイするためのモデルアーティファクトを、一元化されたモデル管理・デプロイハブにアップロードすることができます。 カスタムモデルは、DataRobotのMLOps機能のほとんどをサポートする事前トレーニング済みのユーザー定義モデルです。 DataRobotは、Python、R、Javaを始めとするさまざまなコーディング言語で構築されたカスタムモデルをサポートします。 DataRobot以外でモデルを作成し、DataRobotにアップロードする場合は、ワークショップでモデルの内容とモデル環境を定義します。
カスタムモデルとは何ですか？
カスタムモデルは、カスタムDataRobotモデルではありません。 これらは、DataRobotの外部で作成されたユーザー定義モデルであり、デプロイ、監視、およびガバナンスを利用するためにワークショップで構築されます。 ワークショップを通じてDataRobotに取り込むモデルのローカル開発をサポートするために、 DataRobot Model Runnerは、DataRobotでの構築の前に、ローカルでのモデルの構築、デバッグ、テスト、および実行をするためのツールを提供します。 ワークショップにカスタムモデルを追加する前に、ワークショップにアップロードするカスタムモデルを構築するための カスタムモデル構築ガイドラインを参照することをお勧めします。
以下のトピックでは、DataRobotでカスタムモデルアーティファクトを管理する方法について説明します。
| トピック | 説明 |
|---|---|
| カスタムモデルの作成 | ワークショップでカスタムモデルを作成します。 |
| カスタムモデルの表示と管理 | ワークショップでカスタムモデルを表示、共有、削除します。 |
| カスタムモデルランタイムパラメーターを定義 | モデルメタデータを介してカスタムモデルにランタイムパラメーターを追加することで、カスタムモデルのコードを再利用しやすくします。 |
| DataRobotでのカスタムモデルのテスト | ワークショップでカスタムモデルをテストします。 |
| カスタムモデルバージョンの追加 | ファイルの内容または設定を更新した後に、モデルの新規バージョンを作成します。 |
| カスタムモデルの環境の表示と管理 | カスタムモデルのバージョンに定義されたカスタムモデル環境を管理し、環境情報を表示します。 |
| 外部モデルのカスタムモデルプロキシを作成 | ワークショップで外部モデルのカスタムモデルプロキシを作成します。 |
| カスタムモデルの登録 | ワークショップからレジストリにカスタムモデルを追加します。 |
| 評価とモデレーションを設定 | （プレミアム機能）ワークショップでカスタムテキスト生成モデルの評価とモデレーションのガードレールを設定します。 |
| モデレーションを備えたNVIDIA NeMo Guardrailsの使用 | （プレミアム機能）デプロイ済みのテキスト生成モデルにNVIDIA NeMo Guardrailsを接続して、トピックから外れたディスカッション、安全でないコンテンツ、ジェイルブレイクの試みから保護します。 |
| Hugging FaceハブからのLLMのデプロイ | （プレミアム機能） vLLM環境を使用して、Hugging FaceハブからオープンソースのLLMを作成してデプロイします。 |
DataRobotによって管理される予測サーバーにデプロイした後、API経由で予測を作成し、一連の機能を使用してデプロイを監視できます。