チャット生成Q&Aアプリケーションの作成¶
プレミアム機能
チャット生成Q&Aアプリケーションは、GenAIのプレミアム機能です。 この機能を有効にするには、DataRobotの担当者にお問い合わせください。
DataRobotでチャット生成のQ&Aアプリケーションを作成し、ナレッジベースのQ&Aユースケースを探索しながら、生成AIを活用してビジネス上の意思決定を繰り返し行い、ビジネス価値を示すことができます。 Q&Aアプリは、構築したLLMモデルの結果をプロトタイプ化、調査、および共有するための直感的で応答性に優れた方法を提供します。 Q&Aアプリは、生成AIの会話を引用で強化し、回答に関するフィードバックを提供できるようにします。 Additionally, you can share the app with non-DataRobot users to expand its usability.
テキスト生成デプロイの準備¶
チャット生成Q&Aアプリケーションを構築するには、最初にデプロイを準備して設定する必要があります。 You need to create a deployment with a text generation target type.
備考
Q&Aアプリの LLMをデプロイする場合は、アプリの回答に引用を提供するために、Q&Aアプリ機能を有効にした 後 でプレイグラウンドLLMをモデルワークショップに追加してください。
デプロイを作成した後、Q&Aアプリの回答のフィードバックを収集するために外部カスタム指標を設定することができます。
-
コンソール > デプロイページから、デプロイにアクセスします。 デプロイを選択し、モニタリング > カスタム指標タブに移動します。
-
新しいカスタム指標を追加をクリックして、ドロップダウンから外部カスタム指標を追加を選択します。
-
以下のスクリーンショットに示すようにフィードバック指標を設定します。 設定が終了したら、カスタム指標を追加をクリックします。
-
さらに、送信されたフィードバックを（カスタム指標を介して）関連付けられたプロンプトおよび回答データと共に保存するために、デプロイの 関連付けIDを設定します。 関連付けIDがない場合、フィードバックカスタム指標では、時刻値で集計された回答のみを保存できます。
-
適切なカスタム指標でデプロイを設定した後、デプロイIDとカスタム指標IDをメモします。 これらは、チャット生成Q&Aアプリケーションの構築に使用されます。 カスタム指標IDを見つけるには、デプロイの設定されたカスタム指標のアクションメニュー を選択して編集をクリックします。 ダイアログボックスに指標IDが一覧表示されます。
チャット生成Q&Aアプリケーションの構築¶
チャット生成Q&Aアプリを構築するには、次の手順に従います。
-
レジストリで、アプリケーションページをクリックしてから、ページの右上にある新しいアプリケーションソースを追加 > テンプレートギャラリーからアプリを作成をクリックします。
-
テンプレートギャラリーからQ&Aチャット生成アプリテンプレートを選択してから、アプリケーションのソースを作成をクリックします。
-
アプリケーションソースのページで、ランタイムパラメーターセクションまで下にスクロールし、鉛筆アイコンをクリックして
CUSTOM_METRIC_IDとDEPLOYMENT IDのパラメーターを編集します。 Provide the custom metric ID and the deployment ID from the text generation deployment configured previously. -
デプロイとカスタム指標IDを指定した後、アプリケーションを構築をクリックします。 すべてのアプリケーションリストにアプリケーションが初期化中ステータスで追加されます。 構築した後、開くをクリックしてアプリケーションを表示して使用できます。
備考
アプリケーションタブのカスタムアプリケーションの横にあるアクションメニュー をクリックして、アプリケーションを共有または削除できます。
チャット生成Q&Aアプリケーションの使用¶
チャット生成Q&Aアプリケーションの使用を開始するには、レジストリに移動し、アプリケーション > すべてのアプリケーションリストでQAアプリを見つけて、開くをクリックします。
備考
Q&Aアプリケーションがロードに失敗した場合、または開くボタンに警告アイコンが表示された場合は、アプリケーションソースのログを確認して、動作のトラブルシューティングを行ってください。 アプリが他のユーザーと共有されている場合、他のユーザーのログにエラーが保存されることがあります。
Q&Aアプリケーションがロードされたら、チャットを開始するよう求めるプロンプトが表示されます。 アプリが実行され、少し時間が経ってからプロンプトに回答が返されます。
アプリは、レスポンスのレイテンシーや信頼性スコアと一緒に回答を返します。 プロンプトの回答のサムネイルで上または下を選択することで、アプリケーションのフィードバックを提供できます。 (For feedback, you must have configured a custom metric for collecting prompt response feedback.)
さらに、引用をクリックすると、アプリケーションがプロンプトに対する回答を検出するソースの詳細を示すダイアログボックスが表示されます。
チャット生成Q&Aアプリケーションの管理¶
コードファーストのワークフローを使用して、チャット生成Q&Aアプリケーションを管理できます。 To access the flow, navigate to DataRobot's GitHub repo. このリポジトリには、アプリケーションコンポーネントのための変更可能なテンプレートが含まれています。 These components include multiple Streamlit settings. 以下のテンプレートの内容の概要を確認してください。
| ファイル | 説明 |
|---|---|
qa_chat_bot.py |
|
constants.py |
アプリケーションとユーザー設定用のすべての翻訳可能な文字列：表示名、アプリロゴ、サイドバー設定など |
components.py |
アプリ内で使用されるカスタマイズされたStreamlit要素とデフォルトのStreamlit要素の両方のレンダー関数 |
dr_requests.py |
DataRobot APIリクエスト関数 |
styles/main.scss |
|
styles/variables.scss |
色や枠線など、さまざまなCSS特徴量を変更するために使用されるスタイル |
.streamlit/config.toml |
このレポジトリで作業するには、レポレポジトリをクローンしてから、上記のファイルを修正して、自分のバージョンのアプリを引き続き開発します。 You can release the modified application via the DRApps CLI or by uploading it via the Applications page.