Context Window
Context Window
Context Window（コンテキストウィンドウ）とは
ひとことで
LLMが1回の処理で同時に扱える情報量の上限。トークン数で表され、指示・会話履歴・資料などの入力と、生成される出力を合わせてこの範囲に収める必要がある。
たとえると
AIが作業に使える「机の広さ」です。机が広ければ分厚い資料も会話の経緯も一度に広げて見られますが、机からはみ出した書類は見えなくなり、話の前提を忘れたように見えることがあります。
現場ではこう使う
法務部の担当者が、数百ページの契約書一式を生成AIに貼り付けて要約を頼んだところ、「入力が長すぎます」と表示されました。また、長いやり取りを続けるうちに、最初に伝えた条件をAIが守らなくなりました。そこで資料を章ごとに分けて要約させ、重要な条件は依頼のたびに改めて伝えるようにしました。
試験のポイント
EXAM POINT「一度に扱える入力と出力の量の上限」「トークン数で表す」と出てきたらコンテキストウィンドウです。上限を超えた部分は処理できず、長い会話では古い内容が考慮されなくなることがあります。学習データの量やモデルの知識量とは別物で、あくまで「1回の処理で見られる範囲」である点で区別しましょう。
混同しやすい用語との違い
- Token文章をAIが処理する単位。コンテキストウィンドウの大きさはトークン数で表される
- RAG外部の資料から必要な部分だけを検索して渡す手法。限られたコンテキストウィンドウを有効に使う工夫の一つ
- Pre-trainingモデルが知識を身につける学習段階。コンテキストウィンドウは利用時に一度に見られる範囲