LLMモデルの管理¶
利用可能な大規模言語モデル(LLM)を一覧表示し、DataRobot CLIがデフォルトで使用するLLMを設定します。
Synopsis¶
dr llm-gateway <command> [flags]
dr llm <command> [flags] # alias
説明¶
llm-gatewayコマンドグループには、2つのサブコマンドが用意されています。
list- 2つのソースから利用可能なLLMを取得し、表またはJSON形式で表示します:アクティブなLLM Gatewayカタログモデル(/api/v2/genai/llmgw/catalog/)およびDataRobotにデプロイされたLLM(/api/v2/deployments/、チャンピオンモデルがテキスト生成モデルであるデプロイ)。SOURCE列(またはJSON内のsourceフィールド)によって、これら2つが区別されます。select- IDまたはインタラクティブピッカーを使用して、デフォルトのLLMを選択します。 選択内容はdrconfig.yamlに保存され、他のCLIコマンドによって読み込まれます。
各ソースはベストエフォート方式です。あるソースに接続できない場合(たとえば、オンプレミス環境でのLLM Gatewayが空である場合や、デプロイへのアクセス権がない場合など)、コマンドは警告をログに記録し、もう一方のソースを一覧表示します。 両方のソースが失敗した場合にのみ、エラーとなります。
エイリアス:llm、llm-gateways
Subcommands¶
list¶
利用可能なLLM(LLM GatewayのカタログモデルおよびDataRobotにデプロイされたLLM)を取得し、表示します。
dr llm-gateway list [flags]
dr llm ls # shortest alias
フラグ:
| Flag | 説明 |
|---|---|
--output-format json |
テーブルの代わりに、機械で読み取れるJSONを出力します。 |
テーブルの列:
| 列 | 説明 |
|---|---|
ID |
LLM識別子 - GatewayモデルのIDまたはデプロイID。 現在のデフォルトである場合は先頭に*が付きます。それ以外の場合は2つのスペース。 |
NAME |
人間が読み取れるモデル名(デプロイ済みのLLMについては、デプロイのラベル)。 |
SOURCE |
LLM Gatewayのカタログモデルはgateway、DataRobotにデプロイされたLLMはdeployed。 |
PROVIDER |
モデルプロバイダー(例:azure、anthropic、google)。 デプロイ済みのLLMの場合は-。 |
MODEL |
基盤となるモデルの識別子(例:azure/gpt-5-1-2025-11-13)。 デプロイ済みのLLMの場合は-。これは、ID内のデプロイIDが代わりにルーティングキーとなるためです。 |
CONTEXT |
トークン単位でのコンテキストウィンドウのサイズ。 報告されていない場合は-(デプロイ済みのLLMの場合は常に-)。 |
テーブルは内容に合わせてサイズが調整され、文字がはみ出さないよう端末の幅に合わせて上限が設定されています。 descriptionはテーブル内で改行が入り、読みづらくなるほど長いため、JSON出力にのみ含まれます。
JSON出力(--output-format json)では、llms配列を含むエンベロープが返されます。 各エントリーには以下の情報が含まれます。
{
"id": "llm-abc123",
"name": "GPT-4o",
"source": "gateway",
"provider": "azure",
"model": "azure/gpt-5-1-2025-11-13",
"description": "OpenAI's flagship multimodal model.",
"context_size": 128000,
"deployment_id": "",
"selected": true
}
デプロイ済みのLLMの場合、sourceはdeployedとなり、deployment_idにはデプロイIDが格納され、modelには内部ルーティング用識別子であるdatarobot/datarobot-deployed-llmが設定されます。
例:
# Table view
dr llm-gateway list
# JSON output
dr llm-gateway list --output-format json
# Aliases
dr llm list
dr llm ls
select¶
デフォルトのLLMを設定します。 選択されたID(GatewayモデルIDまたはデプロイID)は、drconfig.yamlファイル内のdefault-llm-idキーに書き込まれ、DATAROBOT_CLI_DEFAULT_LLM_IDを通じて読み取ることもできます。
dr llm-gateway select [llm-id]
dr llm select [llm-id] # alias
Arguments:
llm-id(オプション)—dr llm listのID列にあるID。 指定された場合、利用可能なLLM(Gatewayモデルおよびデプロイ済みのLLM)と照合され、即座に保存されます。 省略した場合は、インタラクティブピッカーが表示されます。
インタラクティブピッカー:
- 矢印キーで移動し、/で名前によるフィルターを行います。
- Enterで選択を確定します。
- ++ctrl+C++またはEscで、保存せずにキャンセルします。
例:
# Interactive picker
dr llm-gateway select
# Set directly by ID
dr llm-gateway select llm-abc123
# Error: ID not found among available LLMs
dr llm-gateway select unknown-id
# Error: LLM "unknown-id" not found
Global flags¶
すべてのdrグローバルフラグは、dr llm-gatewayのサブコマンドに適用されます。
-v, --verbose— Verbose output--debug— デバッグ出力--skip-auth— Skip authentication checks (advanced; API calls may fail)-h, --help— Help
設定¶
選択されたLLM IDは、drconfig.yamlに保存されます。 これは、選択内容に応じて、GatewayモデルIDまたはDataRobotデプロイIDのいずれかとなります。
default-llm-id: llm-abc123
また、環境変数を使用して設定またはオーバーライドすることも可能です。
export DATAROBOT_CLI_DEFAULT_LLM_ID=llm-abc123
dr llm-gateway listでは、この値を使用して、ID列の現在のデフォルトを*でマークします。
認証¶
どちらのサブコマンドも、有効なDataRobotの資格情報が必要です。 まだ実行されていない場合は、まずdr auth loginを実行します。