미들웨어가 해결하는 문제
- 잘못된 입력 차단
- 모델 라우팅/폴백
- 재시도/타임아웃 제어
- 감사 로그/관찰성 강화
최소 정책 세트
| 정책 | 예시 |
|---|---|
| 입력 검증 | 금칙어/비정상 페이로드 차단 |
| 도구 정책 | write/delete류 도구는 승인 필요 |
| 실행 정책 | timeout 10s, retry 2회 |
| 출력 정책 | 포맷 검증 실패 시 재생성 |
확장 순서
- 입력 검증
- 도구 정책
- 재시도/타임아웃
- 고급 라우팅
입문자는 처음부터 모든 정책을 넣지 말고, 사고 가능성이 큰 정책부터 넣으세요.
학습 완료 기준
- 이 문서의 핵심 개념을 3분 내로 설명할 수 있습니다.
- 현재 프로젝트 기준으로 적용할 범위와 제외 범위를 구분할 수 있습니다.
- 다음 학습 단계에서 필요한 입력(코드/정책/데이터)을 준비할 수 있습니다.
실무 적용 체크리스트
- 차단/허용 정책을 코드 레이어에 분리했습니다.
- 타임아웃과 재시도 횟수를 수치로 고정했습니다.
- 모델 라우팅 조건을 로그로 남깁니다.
- 정책 변경 PR 체크리스트를 운영합니다.
자주 나는 실수
- 프롬프트에 정책을 몰아넣어 운영 제어가 어려워집니다.
- 재시도와 타임아웃 기준이 없어 장애가 길어집니다.
- 정책 변경 이력을 남기지 않아 회귀 원인 추적이 어렵습니다.
다음 문서
다음: 공통 HITL 패턴
학습 흐름을 이어서 진행합니다.