JITR botの回答¶
検索拡張生成（RAG）は、大規模な言語モデルをコンテキスト認識にすることで橋渡しするための業界標準の方法になりました。 しかし、多くのドキュメントを含む大規模なベクターデータベースとの対話でテキスト生成の問題が解決されない場合があります。 これらの問題にはコンテキストが必要ですが、クエリー時間の前にコンテキストが不明であり、既存のベクターストアに関連しないことがあります。 通常、これらは単一のドキュメントに関する疑問で、実行時にドキュメントを指定できるようにすることが望ましい動作です。
One application that does this fairly well is DataChad. DataChad works fine for its purpose as a localized web application, but it doesn't generalize. In other words, there is not a good way to interact with the application without opening a browser, uploading whatever files you want to analyze, and hitting a run button.
このアクセラレーターは、既存のベクターストアにクエリーを実行する標準のRAGアプローチではなく、引数としてファイルを受け入れるデプロイを作成し、コンテキスト認識の回答をすぐに出力できるようにします。 DataRobotでは、このアプローチは"Just In Time Retrieval"、または略称JITRと呼ばれます。 DataRobotは、ユーザーが"JITR Bot"と呼ばれるPDFをアップロードしたときに質問に答えるために、このデプロイをバックエンドとして使用するSlackbotを作成しました。