デプロイのサービス正常性¶

サービスの正常性タブでは、予測リクエストに迅速かつ確実に応答するデプロイの能力に関する指標を追跡します。 これは、ボトルネックを特定し、適切なプロビジョニングに不可欠なキャパシティを評価するのに役立ちます。 たとえば、全般的にモデルのレスポンス時間が遅く感じられる場合、モデルのデプロイのサービスの正常性タブが役に立ちます。 このタブで予測リクエストの増加に応じてレイテンシーの中央値が上昇することが確認できる場合があります。 新しいモデルに切り替えたときレイテンシーが増える場合、パフォーマンスが優れている別のモデルで新しいモデルを置き換えることが可能かどうかを検討できます。

サービスの正常性にアクセスするには、デプロイインベントリぺージから1つのデプロイを選択して、次に表示される概要ページでサービス正常性タブを選択します。 このタブは、デプロイのアクティビティレベルと正常性を評価するために役立つ情報 タイルおよびチャートを提供します。

指標タイルとチャートの理解¶

DataRobotには、モデルおよび時間枠の現在の設定に基づいて情報統計が表示されます。 したがって、タイル値は、スライダーで選択された単位に対応します。 スライダーの間隔値が週の場合、表示されるタイル指標は週に対応します。 指標タイルをクリックすると、下のチャートが更新されます。

サービスの正常性タブでは、ダッッシュボード上で以下の指標をレポートします。

ダッシュボードを設定して、特定のセグメントと時間枠に視覚化された統計をフォーカスできます。 次のコントロールを使用できます。

指標タイルの下のチャートには、時間経過に伴う個々の指標が表示されるので、サービス品質のパターンを特定するのに役立ちます。 指標タイルをクリックすると、その情報を表すチャートが更新されます。データ範囲スライダーを調整すると、特定の期間に着目できます。

中央値/ | ピーク負荷（コール/分）チャートには、時間とともにピーク負荷と中央値負荷の2つのラインが表示されます：

サービス正常性のステータスインジケーター¶

サービスの正常性は、予測リクエストに対するデプロイのレスポンス速度と信頼性に関する指標を追跡します。 デプロイインベントリでサービス正常性のステータスを表示し、サービスの正常性タブでサービスの正常性を視覚化できます。 サービスの正常性の監視は、予測リクエストまたは予測サーバーで4XXエラーと5XXエラーが発生したことを表します。

• 4xxエラーは、予測リクエスト送信の問題を示します。
• 5xxエラーは、DataRobot予測サーバーの問題を示します。

デプロイデータトレースの探索¶

カスタムモデルデプロイ（テキスト生成、エージェントワークフロー、VDB、MCPのデプロイなど）のサービスの正常性タブで、予測の合計数チャートの下にトレーステーブルを表示できます。 トレーステーブルを表示するには、予測の合計数チャートの右上隅で、トレースを表示をクリックします。

トレースは、モデルまたはエージェントのワークフローに対するリクエストがたどった経路を表します。 DataRobotでは、トレースにOpenTelemetryフレームワークを使用しています。 トレースは、起点から解決まで、リクエストのエンドツーエンドの経路全体を追跡します。 各トレースには、ルートスパンから始まる1つ以上のスパンが含まれます。 ルートスパンはリクエストの経路全体を表し、プロセスの各ステップの子スパンが含まれます。 ルート（または親）スパンと各子スパンは、同じトレースIDを共有します。

トレーステーブルでは、各トレースに関連する以下のフィールドを確認できます。

フィルターをクリックして、最小スパン期間、最大スパン期間、最小トレースコスト、最大トレースコストでフィルターします。 スパンフィルターの単位はナノ秒（ns）です。チャートにはスパンがミリ秒（ms）で表示されます。

トレースに含まれるスパンとトレースの詳細を確認するには、トレーステーブルのトレース行をクリックします。 スパンの色は、スパンサービス（通常はデプロイ）に対応します。 スパンに関連付けられたデプロイまたはサービスへのアクセス権がない場合、制限されたスパンが表示されます。 スパンはチャート形式またはリスト形式で表示できます。

どちらのビューでも、スパンサービス名をクリックして、デプロイまたはリソースにアクセスします（アクセス権がある場合）。 生成AIモデルまたはエージェントワークフローの設定に応じた追加情報を、情報、リソース、イベント、入力/出力、エラー、ログの各タブで入手できます。 エラータブは、トレースでエラーが発生した場合にのみ表示されます。

トレースログをフィルター¶

リストビューから、スパンのOTelログを表示できます。 表示される結果は完全なデプロイログのサブセットであり、以下のようにアクセスされます。

1. リストビューを開き、トレースの詳細でスパンを選択します。

2. ログタブをクリックします。

3. ログを表示をクリックします。

トレーステーブルのOTel属性¶

コスト、プロンプト、補完、およびツールについては、DataRobotはトレースに属するすべてのスパンにわたる特定のスパン属性を読み取ります。 その他の列（タイムスタンプや期間など）は、これらの属性ではなく、トレースおよびスパンのメタデータから取得されます。

属性キーは完全に一致する必要があります（gen_ai内のアンダースコアも含みます）。 genai.promptやGenAI.promptといった名前は、プロンプトおよび補完列では読み込まれません。

自動計装（DataRobotのエージェントテンプレートを含む）では、多くの場合、gen_ai.prompt、gen_ai.completion、そして場合によってはtool_nameが設定されます。 カスタムモデルや外部モデルの場合、フレームワークが異なります。ツールが実行されても（たとえば、一部のLangGraphコールバックフロー）、実行時にtool_nameが出力されない場合があります。 その場合、プロンプトと補完には値を設定できますが、ツールについては、ツール内で実行されるスパンにtool_nameが設定されるまでは空のままになります。トレースの実装を参照してください。