コンテキストウィンドウとは、生成AIが一度に保持・参照できるコンテキストの量のこと。
過去の会話内容や参照ナレッジは、この範囲内でのみ有効になります。
コンテキストウィンドウが不足すると、以前の前提を忘れたような回答が発生しやすくなります。
AIチャットボットでは、必要な情報を取捨選択して渡す設計が、安定した応答を実現するうえで重要になります。
