RAG Agent 모델 선택과 배포: 평가·Canary·Rollback (10/10)
RAG Agent 모델을 grounding·tool calling·long context·latency·cost·license로 비교하고 hard gate와 Pareto frontier를 거쳐 offline, shadow, canary, rollback으로 안전하게 배포합니다.
Tag index
RAG Agent 모델을 grounding·tool calling·long context·latency·cost·license로 비교하고 hard gate와 Pareto frontier를 거쳐 offline, shadow, canary, rollback으로 안전하게 배포합니다.
도구 문서와 JSON Schema에서 function call 학습 데이터를 만들고 SFT·execution reward로 학습합니다. No-call·병렬·연속 호출, schema drift와 보안 평가를 설계합니다.
LLM 구조화 출력을 prompt와 재시도에 맡기지 않고 JSON Schema·FSM·CFG로 토큰을 제한합니다. 문법 컴파일, token mask, 의미 검증과 지연 평가를 설계합니다.
Python RAG Agent를 typed state machine으로 구현합니다. Tool registry, schema·권한 검증, step·tool·deadline budget, 종료 이유와 deterministic reducer를 연결합니다.
Base LLM을 instruct model로 바꾸는 SFT를 chat template, assistant-only loss mask, packing, tool·grounding 데이터, 오염 방지, behavior·retention 평가까지 설계합니다.
LLM의 tool call을 실제 API 실행과 분리하고 JSON Schema 입력 계약, 의미·권한 검증, 구조화된 결과와 오류 envelope, side-effect·idempotency·version metadata를 갖춘 안전한 tool registry를 설계합니다.
Claude Code·OpenCode 에이전트의 도구 레이어를 Tool → Skill → Plugin 3계층과 MCP(Model Context Protocol)로 나눠 정리합니다. SKILL.md 작성 레시피, MCP 서버 설정 예시, 도구 추가 전 체크리스트 포함.