メインコンテンツまでスキップ

プロンプトパイプライン

プロンプトパイプラインは、チャットをプロバイダーリクエストに変換する固定かつ順序付けられたステージ群で、ユーザー入力から保存されたメッセージまでを扱います。

パイプラインが行うこと

すべての生成 — 新しいメッセージ、スワイプ、再生成、なりきり — は、同じステージを同じ順序で通過します。パイプラインはキャラクター、ペルソナ、ロアブック、メモリからコンテキストを組み立て、トークンをカウントし、コンテキストをモデルの予算に収め、プラグインにインターセプトさせ、選択されたインストラクトフォーマットでリクエストをレンダリングし、最後に応答をストリーミングして保存します。

このセクションのページ

実装

パイプラインは apps/server/src/pipeline/ にあります。ネットワーク呼び出しの前に完全にサーバー上で実行されるため、プロバイダーに届くリクエストは常に同じ決定的なステージの結果です。

関連セクション

  • プラグインインターセプターとその登録 API はプラグイン SDK に文書化されています。
  • 生成エンドポイントとコンテキスト監査はAPI リファレンス の一部です。
  • シリアライズされたリクエストを消費するプロバイダーアダプターはプロバイダー に文書化されています。