環境変数

ENABLE_PROMPT_CACHING_1H_BEDROCK

非推奨。代わりに ENABLE_PROMPT_CACHING_1H を使用すること。

使い方・用途

  • Bedrock で 1 時間のプロンプトキャッシュ TTL を利用したい場合に ENABLE_PROMPT_CACHING_1H への移行前の環境で引き続きこの設定を使う
英語原文(公式ドキュメントより)

Deprecated. Use ENABLE_PROMPT_CACHING_1H instead

関連する変更履歴

v2.1.108(1件)

Added
APIキーやBedrock、Vertex、Foundryにおいて、プロンプトキャッシュの保持期間(TTL)を1時間に延長できる環境変数を追加
英語原文を表示
Added ENABLE_PROMPT_CACHING_1H env var to opt into 1-hour prompt cache TTL on API key, Bedrock, Vertex, and Foundry (ENABLE_PROMPT_CACHING_1H_BEDROCK is deprecated but still honored), and FORCE_PROMPT_CACHING_5M to force 5-minute TTL

変更後

キャッシュのヒット率が向上し、長時間の開発セッションにおけるAPIコストの削減とレスポンスの高速化が期待できます。

関連ドキュメント