トークンとは、生成AIが文章を処理する際の最小単位のこと。
単語や記号、文の一部などが分割されてトークンとして扱われ、AIはトークン数を基に文章を理解・生成します。
AIチャットボットでは、入力や参照情報、回答文の長さがトークン数に影響するため、設計次第で回答の安定性やコスト、処理効率が変わります。
実務利用では、トークンを意識した設計が重要になります。
