モデルワークショップ¶
モデルワークショップでは、モデルアーティファクトをアップロードして、カスタムモデルを作成、テストし、一元化されたモデル管理およびデプロイハブにおよびデプロイできます。 カスタムモデルは、DataRobotのMLOps機能のほとんどをサポートする事前トレーニング済みのユーザー定義モデルです。 DataRobotは、Python、R、Javaを始めとするさまざまなコーディング言語で構築されたカスタムモデルをサポートします。 DataRobotの外部でモデルを作成し、モデルをDataRobotにアップロードする場合は、カスタムモデルワークショップでモデルコンテンツとモデル環境を定義する必要があります。
カスタムモデルとは何ですか?
カスタムモデルは、カスタムDataRobotモデルではありません。 これらは、デプロイへのアクセス、監視、およびガバナンスのために、DataRobotの外部で作成され、カスタムモデルワークショップで構築されたユーザー定義モデルです。 カスタムモデルワークショップを通じてDataRobotに取り込むモデルのローカル開発をサポートするために、 DataRobot Model Runner(DRUM)は、DataRobotでの構築の前に、ローカルでの推論モデルの構築、デバッグ、テスト、および実行をするためのツールを提供します。 ワークショップにカスタムモデルを追加する前に、ワークショップにアップロードするカスタムモデルを構築するための カスタムモデル構築ガイドラインを参照することをお勧めします。
以下のトピックでは、DataRobotでカスタムモデルアーティファクトを管理する方法について説明します。
トピック | 説明 |
---|---|
カスタムモデルの作成 | Create custom models in the model workshop. |
カスタムモデルの表示と管理 | View, share, and delete custom models in the model workshop. |
DataRobotでのカスタムモデルのテスト | Test custom models in the model workshop. |
カスタムモデルバージョンの追加 | Create a new version of the model after updating the file contents or settings. |
カスタムモデルの登録 | モデルワークショップからレジストリにカスタムモデルを追加します。 |
評価とモデレーションを設定 | (Premium feature) Configure evaluation and moderation guardrails for a custom text generation model in the model workshop. |
Deploy LLMs from the Hugging Face Hub | (Premium feature) Create and deploy open source LLMs from the Hugging Face Hub using a vLLM environment. |
NVIDIA と NeMo Guardrails | (Premium feature) Quickly build out end-to-end generative AI capabilities by unlocking accelerated performance and leveraging NVIDIA open-source models and guardrails. |
DataRobotによって管理される予測サーバーにデプロイした後、API経由で予測を作成し、一連の機能を使用してデプロイを監視できます。