ワークショップ¶
ワークショップでは、カスタムモデルを作成、テスト、デプロイするためのモデルアーティファクトを、一元化されたモデル管理・デプロイハブにアップロードすることができます。 カスタムモデルは、DataRobotのMLOps機能のほとんどをサポートする事前トレーニング済みのユーザー定義モデルです。 DataRobotは、Python、R、Javaを始めとするさまざまなコーディング言語で構築されたカスタムモデルをサポートします。 DataRobot以外でモデルを作成し、DataRobotにアップロードする場合は、ワークショップでモデルの内容とモデル環境を定義します。
カスタムモデルとは何ですか？
カスタムモデルは、カスタムDataRobotモデルではありません。 これらは、DataRobotの外部で作成されたユーザー定義モデルであり、デプロイ、監視、およびガバナンスを利用するためにワークショップで構築されます。 To support the local development of the models you want to bring into DataRobot through the workshop, the DataRobot Model Runner provides you with tools to locally assemble, debug, test, and run the model before assembly in DataRobot. ワークショップにカスタムモデルを追加する前に、ワークショップにアップロードするカスタムモデルを構築するための カスタムモデル構築ガイドラインを参照することをお勧めします。
以下のトピックでは、DataRobotでカスタムモデルアーティファクトを管理する方法について説明します。
| トピック | 説明 |
|---|---|
| カスタムモデルの作成 | ワークショップでカスタムモデルを作成します。 |
| カスタムモデルの表示と管理 | ワークショップでカスタムモデルを表示、共有、削除します。 |
| カスタムモデルランタイムパラメーターを定義 | モデルメタデータを介してカスタムモデルにランタイムパラメーターを追加することで、カスタムモデルのコードを再利用しやすくします。 |
| DataRobotでのカスタムモデルのテスト | ワークショップでカスタムモデルをテストします。 |
| カスタムモデルバージョンの追加 | ファイルの内容または設定を更新した後に、モデルの新規バージョンを作成します。 |
| カスタムモデルの環境の表示と管理 | カスタムモデルのバージョンに定義されたカスタムモデル環境を管理し、環境情報を表示します。 |
| 外部モデルのカスタムモデルプロキシを作成 | ワークショップで外部モデルのカスタムモデルプロキシを作成します。 |
| カスタムモデルの登録 | ワークショップからレジストリにカスタムモデルを追加します。 |
| 評価とモデレーションを設定 | （プレミアム機能）ワークショップでカスタムテキスト生成モデルの評価とモデレーションのガードレールを設定します。 |
| モデレーションを備えたNVIDIA NeMo Guardrailsの使用 | （プレミアム機能）デプロイ済みのテキスト生成モデルにNVIDIA NeMo Guardrailsを接続して、トピックから外れたディスカッション、安全でないコンテンツ、ジェイルブレイクの試みから保護します。 |
| Hugging FaceハブからのLLMのデプロイ | （プレミアム機能） vLLM環境を使用して、Hugging FaceハブからオープンソースのLLMを作成してデプロイします。 |
DataRobotによって管理される予測サーバーにデプロイした後、API経由で予測を作成し、一連の機能を使用してデプロイを監視できます。