프롬프트 파이프라인
프롬프트 파이프라인은 채팅을 프로바이더 요청으로 바꾸는 고정되고 순서가 있는 단계 집합입니다. 사용자 입력에서 저장된 메시지까지 이어집니다.
파이프라인이 하는 일
모든 생성 — 새 메시지, 스와이프, 재생성, 또는 사칭(impersonation) — 은 같은 순서로 같은 단계를 거칩니다. 파이프라인은 캐릭터, 페르소나, 로어북, 메모리에서 컨텍스트를 조립하고, 토큰을 세고, 컨텍스트를 모델의 예산에 맞추고, 플러그인이 인터셉트하도록 허용하고, 선택된 인스트럭트 포맷으로 요청을 렌더링한 다음, 마지막으로 응답을 스트리밍하고 저장합니다.
이 섹션의 페이지
- 파이프라인 단계 — 순서가 있는 14개 단계와 모든 플러그인 훅이 지켜야 하는 규칙.
- 인스트럭트 포맷 — 깨끗한 메시지 배열이 샌드박스 처리된 Handlebars 템플릿으로 렌더링되는 방식.
- 토큰화 — 로컬 토크나이저 레지스트리와 근사 폴백.
- 컨텍스트 시프팅 — 파이프라인이 컨텍스트를 토큰 예산에 맞추는 방식과 존재하는 전략들.
구현
파이프라인은 apps/server/src/pipeline/에 있습니다. 네트워크 호출
이전에 전적으로 서버에서 실행되므로, 프로바이더에 도달하는 요청은
항상 같은 결정적 단계의 결과입니다.
관련 섹션
- 플러그인 인터셉터와 등록 API는 Plugin SDK에 문서화되어 있습니다.
- 생성 엔드포인트와 컨텍스트 감사는 API 레퍼런스의 일부입니다.
- 직렬화된 요청을 소비하는 프로바이더 어댑터는 프로바이더에 문서화되어 있습니다.