Skip to content

アプリケーション内で をクリックすると、お使いのDataRobotバージョンに関する全プラットフォームドキュメントにアクセスできます。

モデルインサイト

Visual Artificial Intelligence (AI)は、モデルのパフォーマンスを視覚的に理解および評価するのに役立ついくつかのツールを提供します。

  • 画像埋め込みでは、画像の投影を2次元で表示し、画像のサブセット間の視覚的な類似性を確認して外れ値を特定に役立てることができます。
  • アクティベーションマップでは、モデルの予測に対する有用性に従ってイメージの領域を強調表示できます。
  • 画像による予測の説明では、特徴量が予測に与える影響を定量的に示して、予測の要因を説明します。
  • ニューラルネットワーク視覚化ツールでは、モデルのニューラルネットワークの各レイヤーの視覚的な詳細を確認できます。

イメージ埋め込みアクティベーションマップインサイトタブからも使用できるので、チューニングを適用した場合などに複数のモデルを容易に比較できます。

さらに、すべての標準のDataRobotインサイト(混同行列 (多クラス分類の場合)、特徴量のインパクトリフトチャートなど)を使用できます。

イメージ埋め込み

解釈 > イメージ埋め込みタブでは、(複数のイメージ間での類似性を維持する技法を使用して)2次元平面に投影された形で、検定セットから抽出された最大100枚のイメージが表示されます。この可視化は次のような場合に役立ちます:何が類似しているとフィーチャライザーが判断しているかを確認する場合。人間の直感と一致するかを確認する場合。フィーチャライザーに明らかに何かが欠損していないか確認する場合。

イメージ埋め込みを使用して作業するには、以下の操作を実行します。

  • クラスごとに表示をフィルターします(1):DataRobotには、デフォルトですべてのクラスが表示されます。ドロップダウンを使用して特定のクラスを選択します。

  • ズームして表示サイズをリセットします(2):コントロールを使用してディスプレイをズームインまたはズームアウトするか、ダブルクリックしてズームします。さらに、クリックアンドドラッグでディスプレイの領域にフォーカスを移動できます。

  • 実際のクラスを特定します(3):イメージの上にカーソルを置くと、関連するクラスが表示されます。これを使用して画像を比較し、DataRobotのグループ化画像が期待どおりかどうかを確認します。

詳細については、参考資料を参照してください。

アクティベーションマップ

アクティベーションマップでは、予測を作成する際にモデルで使用されているイメージ領域(アルゴリズム予測決定の基になるイメージの部分)を確認できます。詳細については、参考資料を参照してください。

アクティベーションマップを使用すると、モデルがイメージの前景と背景のどちらを見ているのか、適切な領域に焦点が合っているかを示すことができます。たとえば、病気がある場合に植物の「健康」な領域だけを見ていて、葉全体を使用していないので、「病気なし」と分類されていないかを確認できます。過学習やターゲットリーケージの問題があるかどうかも確認できます。チューニングされている場合、これらのマップは、モデルがより効果的になるかどうかの判断に役立ちます。

マップを使用するには、モデルの解釈 > アクティベーションマップを選択します。プロジェクトの検定セットから最大100のサンプル画像のプレビューが表示されます。

フィルター(1)

フィルターを使用すると、予測クラス値と実測クラス値に基づいて表示を絞り込むことができます。初期表示にはサンプル全体が表示されます(両方のフィルターは [全部]]に設定されます。特定のクラスで表示をフィルターするように設定し、表示を制限することができます)。次にいくつかの例を示します。

「予測」フィルター 「実測」フィルター 結果の表示
すべて すべて 検定セットのすべて(最大100枚)のサンプル
トマト黄化葉巻病 すべて 予測クラスがトマト黄化葉巻病であったすべてのサンプル
トマト黄化葉巻病 トマト黄化葉巻病 予測クラスと実測クラスの両方がトマト黄化葉巻病であったすべてのサンプル
トマト黄化葉巻病 ジャガイモの病気 DataRobotでトマト黄化葉巻病が予測されたが、実測クラスはジャガイモの病気であったサンプル

イメージにカーソルを合わせると、そのイメージで報告された予測クラスと実測クラスが表示されます。

カラーオーバーレイ(2)

DataRobotは、アクティベーションマップの2つのビュー(白黒とフルカラー)を提供します(白黒の場合、元のイメージの色の一部の透明性が表示されます)。コントラストが最もはっきりするオプションを選択します。たとえば、白黒のデータセットの場合、(黒から透明のスケールを使用する代わりに)代替カラーオーバーレイを使用すると、アクティブ化領域がより明確になります。カラーオーバーレイの表示を切り替えて比較します。

アクティベーションスケール(3)

高から低へのアクティベーションスケールは、イメージ内の領域が予測に影響を与えている度合いを示します。高の領域は、予測に与える影響が大きい領域です - モデルは、その領域にある何かを(あるいは、あるべきだったが無かった何かを)を使って予測しました。例としては、葉にみられる黄色の変色、葉の下の影、または特定の形でカールする葉の縁などがあります。

スケールについては、モデルがイメージの特定の領域に「反応」している度合いを反映しているということも言えます。これは一種の予測の説明(モデルの予測の理由の説明)です。マップは、アルゴリズムが当該領域において x を確認したこと(その結果として x のような視覚情報に敏感なフィルターがアクティブ化された)が理由であることを示します。

ニューラルネットワーク視覚化ツール

説明 > ニューラルネットワーク視覚化ツールタブは、モデルのニューラルネットワークの各レイヤーの順序とレイヤー間の接続を示します。ネットワークの各層の接続の順序と入出力が示されるので、予期した順序でネットワーク層が接続されているかどうかを理解するのに役立ちます。

視覚化ツールを使用すると、次の方法で構造を視覚化できます。

  • クリックして左右にドラッグすると、すべてのレイヤーが表示されます。
  • グループ化されたレイヤーをクリックしてレイヤーを展開または折りたたんで、グループ内のすべてのレイヤーの表示と非表示を切り替えることができます。

  • すべてのレイヤーを表示をクリックすると、すべてのレイヤーを展開した状態でブループリントがロードされます。

  • 複数のニューラルネットワークを含むブループリントの場合、グラフを選択ドロップダウンが使用可能になり、そのニューラルネットワークに関連する視覚化を表示できます。


更新しました February 22, 2022
Back to top