アテンションマップ¶

アテンションマップは、モデルが予測を行うときに使用している画像領域、つまり、画像のどの部分がアルゴリズムの予測決定に影響を与えているかを示します。 クラスタリングエクスペリメントでは、このインサイトを活用すると、データを最適にクラスタリングする方法がわかります。

アテンションマップは、モデルが画像の前景と背景のどちらを見ているのか、つまり正しい部分に注目しているのかどうかを示すことができます。 たとえば、病気がある植物の「健康な」部分だけを見て、葉全体を使わないために「病気がない」と分類していないか？オーバーフィッティングやターゲットリーケージの問題はないか？これらのマップは、オーグメンテーションの設定を調整すれば、モデルがより効果的になるかどうかを判断するのに役立ちます。

プロジェクトの検定セットから最大100のサンプル画像のプレビューが表示されます。 表示を変更するには、以下のフィルターを使用します。

フィルター¶

フィルターを使用すると、予測クラス値と実測クラス値に基づいて表示を絞り込むことができます。 初期表示にはサンプル全体が表示されます（つまり、両方のフィルターがすべてに設定されています）。 代わりに、特定のクラスでフィルターして表示を制限するように設定できます。

ドロップダウンから値を選択しても結果がゼロ件の場合、その範囲または値には行が存在しても、検定セットのサンプルには含まれていなかったことを示します。 ターゲット範囲は最初のトレーニングパーティションから抽出されますが、これは検定パーティションと一致しない場合があります。

植物の健康に関するデータセットの例をいくつか見てみましょう。

画像にカーソルを合わせると詳細が表示されます。

クラスタリングプロジェクトでは、画像上にカーソルを合わせると、画像が割り当てられている先のクラスターを確認できます。

カラーオーバーレイ¶

DataRobotでは、アテンションマップを2つの方法で表示できます。1つはカラーオーバーレイあり、もう1つはカラーオーバーレイなしです。 選択肢は、カラーオーバーレイを表示トグルによって制御されます。

• 無効にすると（オフに切り替えると）、マップには各画像の重要な部分のみが表示され、残りの部分は不透明で淡く白い色で覆われます。
• 有効にすると、マップに画像全体が表示され、重要な部分は色で強調表示されます。

このオプションを使用して、モデルが期待どおりに機能しているかどうか（画像の「適切な」部分を使用して予測を行っているか、またはユースケースに適さないランダムな部分に注目しているか）をチェックします。このインサイトは、表形式のデータセットにおける特徴量の有用性の画像版と考えることができます。

コントラストが最もはっきりするオプションを選択します。 たとえば、白黒のデータセットでは、（黒から透明へのスケールを使用する代わりに）代替のカラーオーバーレイを使用することで、注目領域がより明確になる場合があります。 カラーオーバーレイの表示を切り替えて比較します。

アテンションスケール¶

アテンションスケールの高低は、画像領域が予測にどの程度影響しているかを示します。 スケールで色の値が高い部分ほど、予測への影響が大きくなります。モデルは、そこにあった（あるいはなかったが、あったはずの）ものを使って予測を行いました。 例としては、葉にみられる黄色の変色、葉の下の影、または特定の形でカールする葉の縁などがあります。

スケールについては、モデルが画像の特定の領域に「反応」している度合いを反映しているということも言えます。 これは一種の予測の説明で、モデルの予測の理由を説明するものです。マップは、アルゴリズムで当該領域においてxが確認されたことを示します。その結果、xに類似する視覚情報に対するフィルターの感度が上がりました。