Skip to content

LLMモデルの管理

利用可能な大規模言語モデル(LLM)を一覧表示し、DataRobot CLIがデフォルトで使用するLLMを設定します。

Synopsis

dr llm-gateway <command> [flags]
dr llm <command> [flags]           # alias 

説明

llm-gatewayコマンドグループには、2つのサブコマンドが用意されています。

  • list - 2つのソースから利用可能なLLMを取得し、表またはJSON形式で表示します:アクティブなLLM Gatewayカタログモデル(/api/v2/genai/llmgw/catalog/)およびDataRobotにデプロイされたLLM(/api/v2/deployments/、チャンピオンモデルがテキスト生成モデルであるデプロイ)。 SOURCE列(またはJSON内のsourceフィールド)によって、これら2つが区別されます。
  • select - IDまたはインタラクティブピッカーを使用して、デフォルトのLLMを選択します。 選択内容はdrconfig.yamlに保存され、他のCLIコマンドによって読み込まれます。

各ソースはベストエフォート方式です。あるソースに接続できない場合(たとえば、オンプレミス環境でのLLM Gatewayが空である場合や、デプロイへのアクセス権がない場合など)、コマンドは警告をログに記録し、もう一方のソースを一覧表示します。 両方のソースが失敗した場合にのみ、エラーとなります。

エイリアス:llmllm-gateways

Subcommands

list

利用可能なLLM(LLM GatewayのカタログモデルおよびDataRobotにデプロイされたLLM)を取得し、表示します。

dr llm-gateway list [flags]
dr llm ls                   # shortest alias 

フラグ:

Flag 説明
--output-format json テーブルの代わりに、機械で読み取れるJSONを出力します。

テーブルの列:

説明
ID LLM識別子 - GatewayモデルのIDまたはデプロイID。 現在のデフォルトである場合は先頭に*が付きます。それ以外の場合は2つのスペース。
NAME 人間が読み取れるモデル名(デプロイ済みのLLMについては、デプロイのラベル)。
SOURCE LLM Gatewayのカタログモデルはgateway、DataRobotにデプロイされたLLMはdeployed
PROVIDER モデルプロバイダー(例:azureanthropicgoogle)。 デプロイ済みのLLMの場合は-
MODEL 基盤となるモデルの識別子(例:azure/gpt-5-1-2025-11-13)。 デプロイ済みのLLMの場合は-。これは、ID内のデプロイIDが代わりにルーティングキーとなるためです。
CONTEXT トークン単位でのコンテキストウィンドウのサイズ。 報告されていない場合は-(デプロイ済みのLLMの場合は常に-)。

テーブルは内容に合わせてサイズが調整され、文字がはみ出さないよう端末の幅に合わせて上限が設定されています。 descriptionはテーブル内で改行が入り、読みづらくなるほど長いため、JSON出力にのみ含まれます。

JSON出力--output-format json)では、llms配列を含むエンベロープが返されます。 各エントリーには以下の情報が含まれます。

{
  "id": "llm-abc123",
  "name": "GPT-4o",
  "source": "gateway",
  "provider": "azure",
  "model": "azure/gpt-5-1-2025-11-13",
  "description": "OpenAI's flagship multimodal model.",
  "context_size": 128000,
  "deployment_id": "",
  "selected": true
} 

デプロイ済みのLLMの場合、sourcedeployedとなり、deployment_idにはデプロイIDが格納され、modelには内部ルーティング用識別子であるdatarobot/datarobot-deployed-llmが設定されます。

例:

# Table view
dr llm-gateway list

# JSON output
dr llm-gateway list --output-format json

# Aliases
dr llm list
dr llm ls 

select

デフォルトのLLMを設定します。 選択されたID(GatewayモデルIDまたはデプロイID)は、drconfig.yamlファイル内のdefault-llm-idキーに書き込まれ、DATAROBOT_CLI_DEFAULT_LLM_IDを通じて読み取ることもできます。

dr llm-gateway select [llm-id]
dr llm select [llm-id]      # alias 

Arguments:

  • llm-id(オプション)— dr llm listID列にあるID。 指定された場合、利用可能なLLM(Gatewayモデルおよびデプロイ済みのLLM)と照合され、即座に保存されます。 省略した場合は、インタラクティブピッカーが表示されます。

インタラクティブピッカー:

  • 矢印キーで移動し、/で名前によるフィルターを行います。
  • Enterで選択を確定します。
  • ++ctrl+C++またはEscで、保存せずにキャンセルします。

例:

# Interactive picker
dr llm-gateway select

# Set directly by ID
dr llm-gateway select llm-abc123

# Error: ID not found among available LLMs
dr llm-gateway select unknown-id
# Error: LLM "unknown-id" not found 

Global flags

すべてのdrグローバルフラグは、dr llm-gatewayのサブコマンドに適用されます。

  • -v, --verbose — Verbose output
  • --debug — デバッグ出力
  • --skip-auth — Skip authentication checks (advanced; API calls may fail)
  • -h, --help — Help

設定

選択されたLLM IDは、drconfig.yamlに保存されます。 これは、選択内容に応じて、GatewayモデルIDまたはDataRobotデプロイIDのいずれかとなります。

default-llm-id: llm-abc123 

また、環境変数を使用して設定またはオーバーライドすることも可能です。

export DATAROBOT_CLI_DEFAULT_LLM_ID=llm-abc123 

dr llm-gateway listでは、この値を使用して、ID列の現在のデフォルトを*でマークします。

認証

どちらのサブコマンドも、有効なDataRobotの資格情報が必要です。 まだ実行されていない場合は、まずdr auth loginを実行します。