コンテキストウィンドウの意味
AIモデルが一度に「見える」文章量には限りがあり、その上限がトークン数で測られるコンテキストウィンドウです。現在のやり取りにあるもの、つまりあなたのプロンプト・添付された文書・チャットの履歴は、すべてこの中に収まる必要があります。
サイズの決まった机を思い浮かべてください。書類を広げられる量には限りがあり、それを超えると古いものから脇に置かなければなりません。長い会話がコンテキストウィンドウからあふれると、AIは事実上、一番古い部分を見失ってしまいます。
コンテキストウィンドウが重要な理由
コンテキストウィンドウは、AIが一度にどれだけの情報を扱えるかという実際的な上限を決めています。これを知っておくことで、正確さを保てるツールを設計できます。
AIが扱える文章量や、チャットの長さを制限します
長い会話の前半をAIが忘れてしまう理由を説明してくれます
モデルによって、用意されているコンテキストウィンドウのサイズは異なります
これを知ることで、信頼できる正確なAIワークフローを設計できます
よくある質問
AIは最も古い内容が見えなくなるため、以前の細かい部分を忘れてしまうことがあります。正確さを保つには、要点を要約したり、大切な情報をチャットの後半で改めて伝えたりするとよいでしょう。