← 学習メニュー
CCDV-F 練習問題 33
CCDV-F
長い契約書(約15万トークン)を入力し、条項ごとの詳しい分析(数万トークンになる見込み)を1回の応答で出力させようとしたところ、エラーや途中での打ち切りが起きました。使用しているモデルの文脈ウィンドウは20万トークンです。原因の理解として最も適切なのはどれですか。
スポンサーリンク
選択肢を押して回答
正解と解説
正解:C
判断のポイント
文脈ウィンドウは入力と出力の合計の上限です。大きな入力と長い出力が必要なら、処理を分割するか、入力を必要な部分に絞ります。
A. 契約書の言語が日本語のため、英語よりも文脈ウィンドウが小さくなる(不正解)
文脈ウィンドウの上限は言語で変わりません。日本語ではトークン数の見積もりが変わる点には注意が必要です。
B. 文脈ウィンドウは入力だけに適用され、出力の長さには関係がない(不正解)
出力も文脈ウィンドウの中に収まる必要があります。
C. 入力と出力の合計が文脈ウィンドウに収まる必要がある(正解)
文脈ウィンドウは、入力と生成される出力を合わせた量の上限です。入力が大きいと出力に使える量が減り、出力自体も max_tokens で制限されます。分析を分割するなどで対処します。
D. temperature を下げれば、出力のトークン数が減って上限に収まる(不正解)
temperature は出力のばらつきに関わる設定で、長さの上限の問題は解決しません。
出題範囲:CCDV-F 分野5「モデル選択と最適化」・項目5.1 LLM の基礎(トークン・文脈・サンプリング・非決定性・thinking・effort)
参考資料(公式ドキュメント)
公開資料をもとにした独自解説です。本番の問題・難易度・合否を再現するものではありません。
