Visual Artificial Intelligence (AI)のモデルインサイト¶

Visual Artificial Intelligence (AI)は、モデルのパフォーマンスを視覚的に把握および評価するのに役立ついくつかのツールを提供しています。

• 画像埋め込みでは、画像の投影を2次元で表示し、画像のサブセット間の視覚的な類似性を確認して外れ値を特定できます。
• アクティベーションマップでは、モデルの予測に対する有用性に従って画像の領域を強調表示できます。
• 画像による予測の説明では、特徴量が予測に与える影響を定量的に示して、予測の要因を説明します。
• ニューラルネットワーク視覚化ツールでは、モデルのニューラルネットワークの各レイヤーの視覚的な詳細を確認できます。

画像埋め込みとアクティベーションマップはインサイトタブからも使用できるので、チューニングを適用した場合などに複数のモデルを容易に比較できます。

さらに、すべての標準のDataRobotインサイト（混同行列 （多クラス分類の場合）、特徴量のインパクト、リフトチャートなど）を使用できます。

画像埋め込み¶

解釈 > 画像埋め込みでは、（複数の画像間での類似性を維持する技法を使用して）2次元平面に投影された形で、検定セットから抽出された最大100枚の画像が表示されます。 この可視化は次のような場合に役立ちます：何が類似しているとフィーチャライザーが判断しているかを確認する場合。人間の直感と一致するかを確認する場合。フィーチャライザーに明らかに何かが欠損していないか確認する場合。

DataRobotでは、画像の実測値を表示するだけでなく、予測値を算出し、次のことが可能です。

• 実測値と予測値でフィルター。
• 予測しきい値とフィルターの変更。

画像の枠の色は予測確率を示します。 確率が予測しきい値より高い画像にはすべて、色の付いた枠線が表示されます。 予測確率がしきい値を下回る画像には枠線がなく、フィルターして完全にキャンバスから消すこともできます。 クラスタリングプロジェクトでは、色の付いた枠線がクラスターのメンバーを視覚的に示しています。

フィルターを使用すると、予測クラス値と実測クラス値に基づいて表示を絞り込むことができます。 フィルターを使うことで、特定のクラス、実測値、予測値、および予測しきい値の範囲内にある値で表示を制限することが可能です。 画像埋め込みのフィルターオプションは、プロジェクトタイプによって異なります。 オプションは、プロジェクトタイプコードとともに下図に示し、以下の表で説明します。

キャンバスでの操作¶

画像埋め込みのキャンバスは、画像の投影を2次元で表示し、画像のグループ間の類似性を視覚化して、外れ値を特定します。 コントロールを使用すれば、画像をより詳細に表示できます。 次のコントロールを使用できます。

• ズームコントロールを使用して、すべての画像にアクセスします。

  

  キャンバス上の画像間のスペースを拡大または縮小（またはリセット）して、画像間の詳細をより見やすくしたり、別の画像に隠れている画像にアクセスしたりできるようにします。 このアクションは、マウスでも実行できます（MacではCMD + スクロール、WindowsではSHIFT + スクロール）。

• 表示領域を移動してフォーカスするには、クリックしてドラッグします。

• 画像にカーソルを合わせると、実測クラスと予測クラスの情報が表示されます。 このツールチップを使用して画像を比較し、DataRobotのグループ化画像が期待どおりかどうかを確認します。

  

• 画像をクリックすると、その画像の予測確率が表示されます。 出力はプロジェクトタイプによって異なります。 たとえば、二値分類を多ラベルプロジェクトと比較します。

  

  プレビューに表示される予測値は、予測しきい値を変更した場合に更新されます。

アクティベーションマップ¶

アクティベーションマップでは、予測を作成する際にモデルで使用されている画像領域（アルゴリズム予測決定の基になる画像の部分）を確認できます。

アクティベーションマップを使用すると、モデルが画像の前景と背景のどちらを見ているのか、適切な領域に焦点が合っているかを示すことができます。 For example, is it looking only at “healthy” areas of a plant when there is disease and because it does not use the whole leaf, classifying it as "no disease"? Is there a problem with overfitting or target leakage? These maps help to determine whether the model would be more effective if it were tuned.

マップを使用するには、モデルの解釈 > アクティベーションマップを選択します。 プロジェクトの検定セットから最大100のサンプル画像のプレビューが表示されます。

Visual Artificial Intelligence（AI）の詳細については、参考資料を参照してください。

フィルター¶

フィルターを使用すると、予測クラス値と実測クラス値に基づいて表示を絞り込むことができます。 初期表示にはサンプル全体が表示されます（つまり、両方のフィルターがすべてに設定されています）。 代わりに、特定のクラスでフィルターして表示を制限するように設定できます。 次にいくつかの例を示します。

画像にカーソルを合わせると、その画像で報告された予測クラスと実測クラスが表示されます。

カラーオーバーレイ¶

DataRobotには、アテンションマップに2つの異なるビューが用意されています。1つは白黒（元の画像色の透明度を示す）で、もう1つはフルカラーです。 コントラストが最もはっきりするオプションを選択します。 たとえば、白黒のデータセットでは、（黒から透明へのスケールを使用する代わりに）代替のカラーオーバーレイを使用することで、各領域がより明確になる場合があります。 カラーオーバーレイの表示を切り替えて比較します。

アテンションスケール¶

アテンションスケールの高低は、画像内のある領域が予測にどの程度影響しているかを示します。 スケールが高い場合、その領域が予測に与える影響は高くなります。モデルでは、存在した要素（または存在すべきであっても存在しなかった要素）を使用して予測が作成されます。 例としては、葉にみられる黄色の変色、葉の下の影、または特定の形でカールする葉の縁などがあります。

スケールについては、モデルが画像の特定の領域に「反応」している度合いを反映しているということも言えます。 これは一種の予測の説明で、モデルの予測の理由を説明するものです。マップは、アルゴリズムで当該領域においてxが確認されたことを示します。その結果、xに類似する視覚情報に対するフィルターの感度が上がりました。

ニューラルネットワーク視覚化ツール¶

説明 > ニューラルネットワーク視覚化ツールタブは、モデルのニューラルネットワークの各レイヤーの順序とレイヤー間の接続を示します。 ネットワークの各層の接続の順序と入出力が示されるので、予期した順序でネットワーク層が接続されているかどうかを理解するのに役立ちます。

視覚化ツールを使用すると、次の方法で構造を視覚化できます。

• クリックして左右にドラッグすると、すべてのレイヤーが表示されます。

• グループ化されたレイヤーをクリックしてレイヤーを展開または折りたたんで、グループ内のすべてのレイヤーの表示と非表示を切り替えることができます。

  

• すべてのレイヤーを表示をクリックすると、すべてのレイヤーを展開した状態でブループリントがロードされます。

• 複数のニューラルネットワークを含むブループリントの場合、グラフを選択ドロップダウンが使用可能になり、そのニューラルネットワークに関連する視覚化を表示できます。