生成AIに関するドキュメント > NVIDIA AI Enterpriseとの連携

NVIDIA AI Enterpriseとの連携¶

プレミアム機能

DataRobotでNVIDIA Inference Microservices (NIM)を利用するには、GenAIのエクスペリメントとGPUを使用した推論のためのプレミアム機能にアクセスする必要があります。これらの機能を有効にするには、DataRobotの担当者または管理者にお問い合わせください。

NVIDIA AI EnterpriseとDataRobotは、お客様の組織の既存のDataRobotインフラストラクチャと連携するように設計された、構築済みのAIスタックソリューションを提供し、堅牢な評価、ガバナンス、および監視機能へのアクセスを提供します。この連携には、エンドツーエンドのAIオーケストレーションのための包括的なツール群が含まれており、組織のデータサイエンスパイプラインを高速化し、DataRobot Serverless ComputeのNVIDIA GPUで運用レベルのAIアプリケーションを迅速にデプロイすることができます。

DataRobotでは、AIアプリケーションとエージェントのギャラリーからNVIDIA Inference Microservices (NVIDIA NIM)を選択して、組織のニーズに合わせたカスタムAIアプリケーションを作成します。 NVIDIA NIMは、生成AIの導入を企業全体で加速させることを目的として、NVIDIA AI Enterprise内で構築済みおよび設定済みのマイクロサービスを提供します。

DataRobotのモデレーションフレームワークでは、すぐに使えるガードが用意されています。簡単なルール、コード、またはモデルによってアプリケーションをカスタマイズすることで、組織の基準に合ったGenAIアプリケーションの実行が可能です。 NVIDIA NeMo GuardrailsはDataRobotと緊密に連携しており、最先端のガードレールをアプリケーションに簡単に組み込むことができます。

NVIDIA AI EnterpriseとDataRobotが提供する機能の詳細については、以下のドキュメントをご覧になるか、このページのワークフローの概要をお読みください。

タスク	説明
NVIDIA NIMの推論エンドポイントを作成	NVIDIA NIMに登録してデプロイし、コードまたはDataRobot UIからアクセスできる推論エンドポイントを作成します。
プレイグラウンドでのテキスト生成NVIDIA NIMの評価	デプロイされたテキスト生成NVIDIA NIMをプレイグラウンドのブループリントに追加して、一連の比較および評価ツールにアクセスします。
埋め込みNVIDIA NIMを使用したベクターデータベースの作成	ベクターデータベースを備えたユースケースに登録またはデプロイ済みの埋め込みNVIDIA NIMを追加することで、プレイグラウンドからLLMに送信される前のプロンプトを関連性のあるコンテキストで強化します。
モデレーションフレームワークでNVIDIA NeMo Guardrailsを使用してアプリケーションを保護	デプロイ済みのテキスト生成モデルにNVIDIA NeMo Guardrailsを接続して、トピックから外れたディスカッション、安全でないコンテンツ、ジェイルブレイクの試みから保護します。
アプリケーションテンプレートでのテキスト生成NVIDIA NIMの使用	登録またはデプロイされたNVIDIA NIMのテキスト生成モデルを使用するために、DataRobotのアプリケーションテンプレートをカスタマイズします。

NVIDIA NIMの推論エンドポイントを作成¶

NVIDIA AI EnterpriseとDataRobotの連携はレジストリから始まり、NVIDIA AI EnterpriseカタログからNIMコンテナをインポートできます。その結果、登録されたモデルはコンソールへのデプロイ向けに最適化され、DataRobotの監視およびガバナンスのフレームワークと互換性があります。

NVIDIA NIMでは、評価とエージェントブループリントへの組み込みのためにワークベンチのプレイグラウンドに追加できる最適化された基本モデル、ベクターデータベースの作成に使われる埋め込みモデル、エージェントアプリケーションのセキュリティを確保するためにDataRobotのモデレーションフレームワークで使用するNVIDIA NeMo Guardrailsを提供します。

レジストリのモデルタブで、NVIDIA GPU Cloud（NGC）ギャラリーからNVIDIA NIMモデルを登録し、モデル名とパフォーマンスプロファイルを選択して、モデルカードに記載されている情報を確認します。

モデルが登録されたら、DataRobotのサーバーレス予測環境にデプロイします。登録されたモデルをDataRobotサーバーレス環境にデプロイするには、モデルタブで、登録されたNIMを探してクリックし、デプロイするバージョンをクリックします。そして、登録モデルのバージョンで、バージョン情報を確認し、デプロイをクリックします。

モデルがDataRobotサーバーレス予測環境にデプロイされたら、デプロイの予測タブからリアルタイムの予測スニペットにアクセスできます。予測スニペットを実行するための要件は、モデルのタイプ（テキスト生成または非構造化）によって異なります。 DataRobotのレジストリにNIMを追加すると、LLMがテキスト生成モデルとしてインポートされ、ボルトオンのガバナンスAPIを使って、デプロイされたNIMと通信できるようになります。他のタイプのモデルは非構造化モデルとしてインポートされ、NIMコンテナが提供するエンドポイントは、デプロイされたNIMと通信するために公開されます。これにより、DataRobot Serverless Computeを使用してGPUインフラストラクチャにNIMをデプロイするために必要な柔軟性が得られます。

詳しくはドキュメントをご覧ください。

プレイグラウンドでのテキスト生成NVIDIA NIMの評価¶

最適化された基本モデルは、テキスト生成のターゲットタイプでインポートされ、NVIDIA NIMを通じてレジストリで入手できます。ワークベンチでは、これらの最適化された基本モデルをプレイグラウンドに追加して、LLMブループリントを作成、操作、比較することができます。

詳しくはドキュメントをご覧ください。

埋め込みNVIDIA NIMを使用したベクターデータベースの作成¶

埋め込みモデルは、NVIDIA NIMを通じてレジストリで入手できます。ワークベンチでは、デプロイされた埋め込みモデルをベクターデータベースとしてユースケースに追加できます。ベクターデータベースを必要に応じて使用することで、LLMの回答を特定の情報に基づいたものにすることができます。また、ベクターデータベースをLLMブループリントに割り当てて、Retrieval-Augmented Generation（RAG）の運用時に活用できます。

詳しくはドキュメントをご覧ください。

モデレーションフレームワークでNVIDIA NeMo Guardrailsを使用してアプリケーションを保護¶

デプロイ済みのテキスト生成モデルにNVIDIA NeMo Guardrailsを接続して、トピックから外れたディスカッション、安全でないコンテンツ、ジェイルブレイクの試みから保護します。デプロイされたNVIDIA NIMをDataRobotが提供するモデレーションフレームワークで使用するには、まずNeMoモデルを登録してデプロイし、次にテキスト生成のターゲットタイプでカスタムモデルを作成する際に、評価とモデレーションを設定します。

詳しくはドキュメントをご覧ください。

アプリケーションテンプレートでのテキスト生成NVIDIA NIMの使用¶

アプリケーションテンプレートは、NVIDIA AI Enterpriseが提供する機能を統合できます。この連携を利用するには、DataRobotのアプリケーションテンプレートをカスタマイズして、NVIDIA NIM上でGenAIユースケースをプログラムで生成します。最小限の編集で、以下のアプリケーションテンプレートを更新し、登録済みまたはデプロイ済みのテキスト生成NIMを選択して、NVIDIA NIMを使用できます。

アプリケーションテンプレート	説明
ガード付きRAGアシスタント	任意のナレッジベースをソースとして使用し、RAGを搭載したチャットボットを構築します。ガード付きRAGアシスタントのテンプレートのロジックには、プロンプトインジェクションのガードレール、回答を評価するサイドカーモデル、そしてホストや共有が簡単にできるカスタマイズ可能なインターフェイスが含まれています。ユースケースの例：製品ドキュメント、人事方針に関するドキュメント。
予測コンテンツジェネレーター	分類モデルからの予測の説明を使用して、予測コンテンツを生成します。予測コンテンツジェネレーターのテンプレートは、自然言語ベースのパーソナライズされたアウトリーチを返します。ユースケースの例：ネクストベストオファー、ローン承認、不正検知。
「データと会話する」エージェント	データとの対話を体験できます。 .csvファイルをアップロードして質問すると、エージェントはビジネス分析を推奨します。その後、チャートやテーブルを生成して、質問に回答します（ソースコードを含む）。このエクスペリエンスでは、MLOpsにおいてコンポーネントのホスト、監視、ガバナンスを行います。
予測アシスタント	予測AIと生成AIを活用して予測を分析し、予測において重要な要素を明らかにします。予測アシスタントのテンプレートは、長期にわたって詳細な説明を提供し、"What-If"シナリオ分析をサポートします。ユースケースの例：店舗の売上予測。

これらのアプリケーションテンプレートで既存のテキスト生成モデルまたはデプロイを使用するには、アプリケーションギャラリーから上のいずれかのテンプレートを選択します。次に、ローカルまたはDataRobotのcodespaceでテンプレートファイルに最小限の変更を加えて、テンプレートをカスタマイズし、登録またはデプロイされたNVIDIA NIMを使用できます。テンプレートをカスタマイズした状態で、テンプレートのREADME.mdに記載されている標準のワークフローを進めることができます。

詳しくはドキュメントをご覧ください。