ガードレール設計とは、AIチャットボットが誤った回答や不適切な振る舞いをしないよう、あらかじめ制約やルールを設ける設計手法のこと。
回答してよい範囲や禁止事項、判断が難しい場合の振る舞いを定義することで、リスクを抑えた運用が可能になります。
企業利用では、ハルシネーション対策や責任範囲の明確化に直結するため、精度設計と並んで重要な要素とされています。
