リスク管理フレームワーク¶

リスク管理とは、組織のコンプライアンス計画を定義する方法のことです。具体的には、ユーザーがユースケース、モデル、およびデプロイに適用するフレームワーク（ポリシー）を指します。 管理者として、これらのフレームワークを作成・維持管理します。 各フレームワークについて、ユーザーがいつ適用すべきかを把握できるよう、任意の適用手順、リスクレベルの名称（評価時に使用される階層）、および要件と軽減手法を指定します。 要件とは、AIシステムを本番環境に導入するために満たさなければならない条件であり、軽減手法とは、それらの条件を満たすプラットフォーム内の技術的機能のことです。

設定ページには、管理者設定 > リスク管理からアクセスできます。

設定が完了すると、書き込みアクセス権を持つユーザーはアセットにフレームワークを適用できます。 その後、リスクレベルを選択するか、EU AI法フレームワークを適用する場合は、リスクレベルを設定するためのアンケートに回答します。 DataRobotは、AIシステムに対して推奨される手法を評価し、コンプライアンススコアを報告します。 この結果をもとに、ユーザーは組織のガバナンス目標を達成するために、追加の軽減手法を適用することができます。

ユーザー権限¶

リスク管理へのアクセスは、RBACロールによって制御されており、アセットにフレームワークを適用する場合と、組織で利用可能なフレームワークを管理する場合とで異なります。

• アセットにフレームワークを適用する：ユースケース、カスタムモデルバージョン、登録済みモデルバージョン、またはデプロイへの書き込みアクセス権を持つユーザーは、それらにリスク管理フレームワークを適用し、リスクレベルを選択して、リスクの説明を入力し、EU AI法に関するアンケートを完了することができます。 アセットへの読み取りアクセス権のみを持つユーザーは、そのリスク管理情報を閲覧できますが、変更を加えることはできません。
• 組織のフレームワークを管理する：特にリスク管理フレームワークに対する管理者アクセス権を持つ管理者は、組織で利用可能なリスク管理フレームワークを作成、編集、削除できます。 また、管理者は、基盤となるアセットへのアクセス権の有無にかかわらず、組織全体のすべてのリスク評価を閲覧できます。

フレームワークの管理¶

管理者として、フレームワークカタログを所有します。 以下を実行することが可能です。

• ゼロからフレームワークを作成するか、テンプレート（EU AI法など）から開始します。
• カスタムフレームワークを編集または削除します。
• 基盤となるアセットへのアクセス権の有無にかかわらず、組織内のすべてのリスク評価を確認します。

フレームワーク管理画面を開くには、管理者設定 > リスク管理をクリックします。 フレームワークは、フレームワークタブに、その手順や最終変更日時とともに表示されます（組み込みのEU AI法フレームワークについては表示されません）。

フレームワークの作成¶

以下の手順では、空白のフレームワークを作成する方法について説明します。

1. 管理者設定 > リスク管理からクリックして、新しいフレームワークを作成します。

   

   空白のフレームワークEU AI法のテンプレート

   フレームワークを作成をクリックして、フレームワークの設定を開始します。

   フレームワークの作成に関連するドロップダウンメニューを使用して、EU AI法のテンプレートから開始します。 テンプレートから開始すると、組み込みのEU AI法フレームワークから新しいフレームワークのリスクレベルと軽減手法が事前に入力され、デフォルトでEU AI法のコピーという名前が付けられます。 組み込みのフレームワークテンプレートに対して行った変更は、テンプレート自体には反映されず、コピーのみが変更されます。

2. フレームワークの名前を入力または編集します。

3. リスクレベル名で、フレームワークのリスクレベルを追加します。 各レベル名は一意である必要があります。 さらに追加するには、レベルを追加をクリックします。レベルを削除するには、ゴミ箱アイコンをクリックします。 クリックして追加しても名前を指定しなかった場合、その空のレベルを削除するまでフレームワークを保存することはできません。

   

4. 必要に応じて、Markdown形式またはプレーンテキストを使用して、フレームワークの適用手順を追加します。 このテキストは通常、ユーザーがフレームワークをいつ適用すべきかを判断するための指針となります。

5. 要件を設定して、作成をクリックします（既存のフレームワークを編集する場合は、保存をクリックします）。

要件の追加¶

要件と軽減手法で、軽減手法をグループ化するための要件を1つ以上追加します。 設定の際は、すべての要件に名前と少なくとも1つの軽減手法が必要であり、すべての軽減手法には少なくとも1つのリスクレベルが割り当てられている必要があります。

1. 要件を追加をクリックし、名前を変更します（デフォルト名は新しい要件です）。 要件をドラッグして、他の要件との順序を変更できます。

2. 要件上で軽減手法を追加をクリックして、軽減手法の選択画面を開きます。 カテゴリーで検索またはフィルターし、1つ以上の軽減手法を選択してから、手法を追加をクリックします。 フレームワーク内の他の場所ですでに使用されている軽減手法は、再度選択することはできません。

   

   要件に追加された各手法には、適用先（アセットタイプ）とタイプ（ターゲットタイプ）が表示されます。これらはいずれも手法によって固定されています。 また、手法のコンプライアンス条件と適用するリスクレベルも表示されます。

   

3. 各手法について、適用されるリスクレベルを割り当てます。 AIリテラシー手法のみ、管理者の確認が必要な場合はAIリテラシーを確認も選択し、不要な場合は設定しないままにします。

   

手法のアクションメニューを使用して、別の要件に移動したり、削除したりできます。 手法がまだ残っている要件を削除する場合は、確認を求められます。これは、削除するとそれらの手法も削除されてしまうためです。手法を残したい場合は、まず別の要件に移動させてください。

EU AI法の条項との対応を確認する¶

フレームワークタブから、組み込みのEU AI法フレームワークを開きます。 その軽減手法リストには、フレームワーク作成フローと同じ列（軽減手法、適用先、 タイプ、コンプライアンス条件、適用するリスクレベル）に加え、各手法が満たすのに役立つ特定のEU AI法の条項（または複数の条項）に対応付ける説明列が追加されています。 たとえば、「AIリテラシー」は第4条に、「ドリフト監視」は第26条に対応しています。説明列はEU AI法フレームワークにのみ表示され、カスタムフレームワークには条項との対応は含まれません。

管理者は、このページから直接AIリテラシーを確認を選択することで、組織のAIリテラシーに関する義務が満たされていることを記録することもできます。 この制御機能は、組み込みのEU AI法フレームワークに固有のものです。テンプレートから作成されたカスタムフレームワークの場合は、フレームワークの作成または編集時に同じ条件を設定してください。

フレームワークの削除¶

EU AI法を含む組み込みフレームワークは、直接削除や編集ができません。代わりに、EU AI法のテンプレートから開始して、編集可能なコピーを作成します。 カスタムフレームワークを削除すると、関連付けられているすべての軽減手法を含む設定が削除され、そのフレームワークを使用して作成されたすべてのリスク評価も削除されます。 基盤となるユースケース、モデル、およびデプロイについては、組織のコンプライアンス計画の対象外となることを除き、影響を受けることはありません。

リスク評価のいずれかがリスクレベルを参照している間は、フレームワークからそのリスクレベルを削除することはできません。まず、それらの評価を削除するか、再割り当てしてください。