Skip to content

アプリケーション内で をクリックすると、お使いのDataRobotバージョンに関する全プラットフォームドキュメントにアクセスできます。

MLOpsエージェント

本機能の提供について

MLOpsエージェントは、DataRobot MLOps専用の機能です。この機能を有効にする方法については、DataRobotの担当者にお問い合わせください。

DataRobot MLOpsは、予測に使用するモデルの追跡および管理を行うための強力なツールを提供します。しかし、独自の環境でデプロイを既に実行している、またはその必要がある場合はどうでしょうか。接続が断続的または接続されていない可能性があり、予測が散発的に報告される可能性がある外部モデルは、どのように監視できますか?

MLOpsエージェントを使用すると、外部モデルを監視および管理できます(DataRobot MLOpsの外部で実行されているモデルなど)。この機能を使用すると、これらのモデルからの予測と情報をMLOpsデプロイの一部として報告できます。同じ強力なモデル管理ツールを使用して、モデルが実行される場所に関係なく、精度、データドリフト、予測分布、レイテンシーなどをモニタできます。DataRobot MLOpsに提供されたデータは、外部でデプロイされたモデルのパフォーマンスおよび正常性に関する有用なインサイトを提供します。

MLOpsエージェントは以下を提供します。

  • 単一のシステムにデプロイされたすべてのモデルのインサイトを管理、モニタ、および取得する機能。
  • 外部モデルをモニタする際のレイテンシーを最小限に抑えることのできるAPIおよび通信
  • ネットワークおよびMLOpsシステムに常時接続されるデプロイに加えて、断続的に接続されるデプロイや接続されないデプロイのサポート
  • MLOpsライブラリ(PythonおよびJavaで利用可能)は、これらの言語でネイティブに書き込まれたモデルをモニタするか、モデルアーティファクトの入力および出力を任意の言語でレポートすることができます。
  • ポータブル予測サーバーでの設定

MLOpsエージェントの使用の詳細については、次のセクションを参照してください。

MLOpsエージェントのコンポーネント

MLOpsエージェントを有効にすると、エージェントのインストール、および単一のtarファイルにパッケージ化されたMLOpsコンポーネントにアクセスできます。次の図は、DataRobot MLOpsで外部モデルを管理する際の各コンポーネントの役割を示します。

要素 説明
外部モデル 外部モデルは、ユーザーの環境、つまりDataRobotの外部で実行する機械学習モデルです。デプロイ(PythonまたはJavaで実行中)は、他の情報に沿ってデータをスコアリングし、予測を生成します。例えば、作成された予測数やそれぞれを作成する時間の長さなどです。
DataRobot MLOpsライブラリ Python(v2とv3)とJavaで利用可能なMLOpsライブラリは、APIを提供し、(デプロイIDとモデルIDで特定された)特定デプロイから予測データと情報をレポートします。MLOpsクライアントに対してサポートされているライブラリ呼び出しでは、MLOpsサービスにレポートするデータを指定できます(予測時間、予測の数、その他の予測およびデプロイ統計など)。
バッファー ライブラリから提供されたAPIは、設定されたバッファーにメッセージをパスします。
MLOpsエージェント MLOpsエージェントは、ターゲットバッファーの場所に書き込まれたデータを検出して、MLOpsサービスにレポートします。
DataRobot MLOpsサービス エージェントがサービスとして実行されている場合、データは使用可能になるとすぐに取得されます。そうでない場合、予測データは手動で実行されたときに取得されます。

モデルがネットワークから隔絶、切断された場所で実行されている場合、MLOpsライブラリはバッファディレクトリからネットワークにアクセスできません。そのようなデプロイでは、必要に応じてUSBドライブを使用してバッファの場所から予測データを手動でコピーできます。エージェントは、設定されたとおりにそのデータにアクセスし、MLOpsサービスにレポートします。

追加エージェント設定は、どこからデータを読み取り、データをどこにレポートするか、データをどのくらいの頻度でレポートするか、といったことを指定します。柔軟なMLOpsエージェントの設計により、さまざまなデプロイおよび環境の要件がサポートされます。

最後に、デプロイインベントリから、デプロイを表示し、予測統計と指標を表示および管理できます。

MLOpsエージェントtarball

MLOpsエージェントtarballは、2つのロケーションからダウンロードできます。

MLOpsエージェントtarballには、インストールするMLOpsライブラリが含まれています。エージェントを設定するには、MLOpsエージェントと予測レポート設定を参照してください。

備考

MLOpsPythonライブラリは、パブリックPythonパッケージインデックスサイトからもダウンロード可能です。DataRobot MLOps指標レポートライブラリDataRobot MLOps Connected Clientをダウンロードしてインストールします。これらのページには、ライブラリをインストールするための指示が含まれています。

MLOpsライブラリに加えて、tarballには、以下のことを目的としたPythonおよびJava APIのサンプルおよび関連データセットが含まれています。

  • 連続値および分類の両方のモデルの(サンプル)予測を生成するデプロイを作成します。
  • MLOpsライブラリを使用したデプロイからの指標をレポートします。

tarballには、以下を行うためのスクリプトも含まれています。

  • エージェントを開始および停止し、現在のエージェントステータスを取得します。
  • トレーニングデータセットをアップロードし、デプロイIDとモデルIDを返すリモートデプロイを作成します。

エージェントの仕組み

このセクションでは、さまざまな環境からMLOpsエージェントを使用するための基本的なワークフローの概要を説明します。

DataRobot MLOpsの使用:

  1. モデルレジストリを使用して、モデルのメタデータに関する情報を含むモデルパッケージを作成します。
  2. モデルパッケージをデプロイ。デプロイを作成して、実行中のモデルに関する指標を表示します。
  3. デプロイ予測タブを使用して、指標をレポートするためにエージェントを使用して予測コードをインストゥルメント化する方法を示すコードスニペットを表示します。

リモートデプロイ環境の使用:

  1. DataRobot MLOpsエージェントをインストールします。
  2. スニペットに示されているように、MLOpsライブラリを使用して、予測コードから指標をレポートします。MLOpsライブラリは、スプーラー内の指標(Filesystem、Rabbit MQ、Kafkaなど)をバッファーし、デプロイの速度を低下させることなく高いスループットを可能にします。
  3. MLOpsエージェントは指標をDataRobot MLOpsに転送します。
  4. 報告された指標は、DataRobot MLOpsデプロイインベントリで表示されます。


更新しました February 22, 2022
Back to top