Skip to content

アプリケーション内で をクリックすると、お使いのDataRobotバージョンに関する全プラットフォームドキュメントにアクセスできます。

「公平性」タブ

本機能の提供について

公平性タブを使用できるのは、DataRobot MLOpsユーザーだけです。 この機能を有効にする方法については、DataRobotの担当者にお問い合わせください。

デプロイの公平性の設定を行ったら、公平性タブを使用して、データセット内の保護された特徴量が事前に定義された公平性条件を満たさない場合に、モデルをリアルタイムで監視および認識できるようにするテストを設定できます。 ガバナンスレンズデプロイインベントリを表示すると、公平性の列には、設定 > データタブで設定した公平性テストに基づいて各デプロイのパフォーマンスを一目で把握できる情報が表示されます。

個々のモデルの詳細情報を表示したり、モデルが公平性テストに失敗した理由を調べるには、インベントリリストでデプロイをクリックして公平性タブに移動します。

備考

公平性ステータスに関するEメール通知を受信するには、通知を設定監視をスケジュール公平性の監視を設定します。

バイアスの調査

公平性タブは、デプロイが公平性テストに失敗した理由、またどの保護されている特徴量が事前定義された公平性のしきい値を下回っているかを把握するのに役立ちます。 公平性テストに失敗した特徴量とその理由を特定するのに役立つ2つの情報をエクスポート可能な対話型の形式で視覚的に表示します。

チャート 説明
1 クラスごとのバイアスチャート 各クラスの公平性のしきい値と公平性スコアを使用して、モデルの予測動作時に特定のクラスでバイアスが発生しているかどうかを判断します。
2 時間経過に伴う公平性チャート 時間の経過に伴う保護された特徴量の公平性スコアの分布の変化を示します。

特徴量がしきい値を下回るとしてマークされた場合、この特徴量は事前定義された公平性の条件を満たしません。

左側の特徴量を選択すると、セグメント化された属性ごとに公平性スコアが表示され、特徴量内のバイアスが存在する場所をより良く理解できます。

表示をさらに変更するには、バージョンセレクターのドキュメントを参照してください。

クラスごとのバイアスの表示

クラスごとのバイアスチャートは、モデルにバイアスがあるかどうか、バイアスがある場合は、そのバイアスの程度と誰に対して好ましいまたは好ましくないバイアスかを特定するのに役立ちます。 詳細については、クラスごとのバイアスに関する既存のドキュメントを参照してください。

チャートのポイント上にカーソルを置くと、その詳細が表示されます。

時間の経過に伴う公平性の表示

公平性基準を設定し、公平性の監視を有効にして予測を行うと、保護された特徴量の公平性スコアまたは特徴量の値が、デプロイの時間経過とともにどのように変化したかを確認できます。 横軸はデプロイに対して予測が作成された時間の範囲を測定し、縦軸は公平性スコアを測定します。

チャートのポイント上にカーソルを置くと、その詳細が表示されます。

名前の横にあるボックスをオフにすることで、チャート内の特定の特徴量または特徴量の値を非表示にすることもできます。

コントロールはデータドリフトタブにあるものと同じように機能します。

注意事項

  • バイアスと公平性の監視は二値分類のモデルとデプロイでのみ使用できます。
  • 予測の実測値をアップロードするには、関連付けIDが必要です。 再現率の平等性および適合率の平等性を計算するのにも使用されます。

更新しました February 20, 2024