モデルワークショップ¶
モデルワークショップでは、モデルアーティファクトをアップロードして、カスタムモデルを作成、テストし、一元化されたモデル管理およびデプロイハブにおよびデプロイできます。 カスタムモデルは、DataRobotのMLOps機能のほとんどをサポートする事前トレーニング済みのユーザー定義モデルです。 DataRobotは、Python、R、Javaを始めとするさまざまなコーディング言語で構築されたカスタムモデルをサポートします。 DataRobotの外部でモデルを作成し、モデルをDataRobotにアップロードする場合は、カスタムモデルワークショップでモデルコンテンツとモデル環境を定義する必要があります。
カスタムモデルとは何ですか?
カスタムモデルは、カスタムDataRobotモデルではありません。 これらは、デプロイへのアクセス、監視、およびガバナンスのために、DataRobotの外部で作成され、カスタムモデルワークショップで構築されたユーザー定義モデルです。 カスタムモデルワークショップを通じてDataRobotに取り込むモデルのローカル開発をサポートするために、 DataRobot Model Runner(DRUM)は、DataRobotでの構築の前に、ローカルでの推論モデルの構築、デバッグ、テスト、および実行をするためのツールを提供します。 ワークショップにカスタムモデルを追加する前に、ワークショップにアップロードするカスタムモデルを構築するための カスタムモデル構築ガイドラインを参照することをお勧めします。
以下のトピックでは、DataRobotでカスタムモデルアーティファクトを管理する方法について説明します。
| トピック | 説明 |
|---|---|
| カスタムモデルの作成 | モデルワークショップでカスタムモデルを作成します。 |
| カスタムモデルの表示と管理 | モデルワークショップでカスタムモデルを表示、共有、削除します。 |
| カスタムモデルランタイムパラメーターを定義 | モデルメタデータを介してカスタムモデルにランタイムパラメーターを追加することで、カスタムモデルのコードを再利用しやすくします。 |
| DataRobotでのカスタムモデルのテスト | モデルワークショップでカスタムモデルをテストします。 |
| カスタムモデルバージョンの追加 | ファイルの内容または設定を更新した後に、モデルの新規バージョンを作成します。 |
| カスタムモデルの環境の表示と管理 | カスタムモデルのバージョンに定義されたカスタムモデル環境を管理し、環境情報を表示します。 |
| カスタムモデルの登録 | モデルワークショップからレジストリにカスタムモデルを追加します。 |
| 評価とモデレーションを設定 | (プレミアム機能) モデルワークショップでカスタムテキスト生成モデルの評価とモデレーションのガードレールを設定します。 |
| モデレーションを備えたNVIDIA NeMo Guardrailsの使用 | (プレミアム機能)デプロイ済みのテキスト生成モデルにNVIDIA NeMo Guardrailsを接続して、トピックから外れたディスカッション、安全でないコンテンツ、ジェイルブレイクの試みから保護します。 |
| Hugging FaceハブからのLLMのデプロイ | (プレミアム機能) vLLM環境を使用して、Hugging FaceハブからオープンソースのLLMを作成してデプロイします。 |
DataRobotによって管理される予測サーバーにデプロイした後、API経由で予測を作成し、一連の機能を使用してデプロイを監視できます。