GenAIの概要¶
DataRobotのAIプラットフォームを生成AIに活用することで、以下のことが可能になります。
- 独自のデータでLLMを安全に拡張します。
- 選択したツールを使用して、生成AIソリューションを構築およびデプロイします。
- 本番環境のLLMを確実に管理および統制します。
- 生成AIワークフローと予測AIワークフローをエンドツーエンドで統合します。
- 予測モデリングとユーザーフィードバックにより、GenAIアプリケーションを継続的に改善します。
DataRobotの生成AI製品では、DataRobotの予測AIエクスペリエンスに基づいて信頼性スコアを作成し、お気に入りのライブラリの使用、LLMの選択、サードパーティのツールの統合を行うことができます。 AIは、ビジネスに価値をもたらす場所ならどこでも埋め込みやデプロイを行い、パイプライン内の各アセットに組み込み型ガバナンスを活用できます。
「すべてがモデル次第」であるという認識がありますが、実際には、値はGenAIのエンドツーエンド戦略により異なります。 ベクターデータベースの品質（使用されている場合）、プロンプト戦略、監視、メンテナンス、ガバナンスはすべて成功の重要な要素です。
DataRobot GenAI機能を使用すると、事前にトレーニングされたさまざまな大規模言語モデル（LLM）を使用してテキストコンテンツを生成できます。 さらに、ベクターデータベースを構築し、LLMブループリントで活用することで、データに合わせてコンテンツを調整することができます。
トライアルユーザーの場合
DataRobotトライアルユーザーの場合、トライアル固有の機能に関する情報については FAQを参照してください。 予測AIと生成AIのDataRobotトライアルを開始するには、このページの上部にある無料トライアルを開始をクリックします。
See the GenAI walkthrough, which compares multiple retrieval-augmented generation (RAG) pipelines. 完了すると、評価、アセスメント、ロギングが組み込まれた複数のエンドツーエンドのパイプラインができ、ガバナンスとガードレールが提供されます。
動画を視聴する
DataRobot GenAIを使用する際の 注意事項のリストを参照してください。
プロンプトエンジニアリングのベストプラクティス¶
プロンプトエンジニアリングは、LLMに与える入力プロンプトを慎重に作成して、生成される出力の有用性を最大化するプロセスを指します。 プロンプトの言語表現方法によってレスポンスに大きな影響が生じる可能性があるため、これらのモデルを最大限に活用するには、これは重要なステップです。 以下は、プロンプトエンジニアリングのベストプラクティスの一部です。
| 特性 | 説明 |
|---|---|
| プロンプトはできる限り具体的にします。 「天気はどうですか？」と尋ねる代わりに、「カリフォルニア州サンフランシスコの現在の気温は何度ですか？」と尋ねます。後者の方が、求めている情報を得られる可能性が高くなります。 | |
| 明示的な指示 | 特定の形式またはタイプの回答を念頭に置いている場合は、その旨をプロンプトで明確にしてください。 たとえば、リストが必要な場合は、リストを要求します。 「はい」または「いいえ」の答えが必要な場合は、それを質問してください。 |
| コンテキスト情報 | 該当する場合、モデルをガイドするコンテキストを質問に入れます。 たとえば、科学的なタイプのコンテンツの記述に関する助言が必要な場合は、プロンプトにその旨を必ず記載してください。 |
| 例の使用 | 特定のスタイルまたは形式でモデルを生成する場合、例を挙げると出力のガイドに役立ちます。 たとえば、二行連句の韻が必要な場合は、プロンプトにその例を含めるとよいでしょう。 |
| プロンプトの長さ | 文脈を提供することは有用ですが、プロンプトが長くなると、モデルがプロンプトの後半部分に集中し、前半の情報が無視される可能性があることに留意してください。 簡潔かつ的確に表現しましょう。 |
| 偏見と倫理に関する注意事項 | プロンプトの表現方法は、偏見と有害な反応の観点から出力に影響を与える可能性があることに注意してください。 プロンプトが可能な限り中立で公平であることを確認し、モデルはトレーニングデータに存在する偏見を反映している可能性があることに注意してください。 |
| TemperatureとTop Pの設定 | プロンプト自体に加えて、‘temperature’および‘Top P’設定を調整することもできます。 Temperature値が高いほど出力はランダムになり、値が低いほど決定性が向上します。 Top Pは、最も可能性の高い次の単語の特定のパーセンタイルのみを考慮するようにモデルを制限することによって、出力の多様性を制御します。 |
| トークンの制限 | モデルの最大トークン制限に注意してください。 たとえば、GPT-3.5 Turboには、4096トークンの最大トークン制限があります。 プロンプトが長すぎる場合、モデルのレスポンス長が制限されることがあります。 |
これらは、プロンプトエンジニアリングにおける主要な考慮事項の一部ですが、正確なアプローチは、探している特定のユースケース、モデル、出力の種類によって異なります。 これは多くの場合、試行錯誤のプロセスであり、問題の領域とモデルの機能と制限の両方を十分に理解する必要があります。
続けて読む¶
- DataRobotでのエンドツーエンドの生成AIアプリケーション (YouTube)
- Everything You Need to Know About LLMOps (White paper)
- 10 Key Considerations for Generative AI in Production (White paper)
- Future of Generative AI: A Frontline Practitioner’s Take on Adoption Trends (Blog, Medium)
- GenAI Accelerators GitHub repo