環境変数

DISABLE_PROMPT_CACHING

すべてのモデルに対してプロンプトキャッシュを無効化し、個別のモデル設定よりも優先されます。

使い方・用途

  • キャッシュの動作が原因で発生する問題の切り分けやデバッグ時に、一括でキャッシュ機能をオフにするために使用します。
  • 意図せず無効化されている場合は起動時に警告が表示されるため、コスト増のリスクを即座に把握できます。
英語原文(公式ドキュメントより)

Set to 1 to disable prompt caching for all models (takes precedence over per-model settings)

関連する変更履歴

v2.1.108 (1件)

Added
環境変数でプロンプトキャッシュが無効化されている場合、起動時に警告を表示する機能を追加
英語原文を表示
Added a warning at startup when prompt caching is disabled via DISABLE_PROMPT_CACHING* environment variables

変更前

設定ミスなどでプロンプトキャッシュが無効になっていても気づきにくく、無駄なコストを支払い続けるリスクがありました。

変更後

DISABLE_PROMPT_CACHING系が設定されている場合、起動時に明示的な警告が出るようになりました。

ユーザーへの恩恵

意図しないキャッシュ無効化によるパフォーマンス低下やコスト増を即座に発見し、修正することができます。

関連ドキュメント