Enterprise RAG 지식 수명주기: 수집·변환·검증·배포를 한 파이프라인으로 (1/10)
Enterprise RAG 지식 파이프라인을 원문 snapshot, canonical document, chunk, index generation으로 분리합니다. 변경·삭제·ACL을 멱등 처리하고 검증된 지식만 원자적으로 배포하는 수명주기를 설계합니다.
Series · Folio
원문 수집에서 버전·ACL·신선도·거버넌스까지 이어지는 초·중급 10편
Enterprise RAG 지식 파이프라인을 원문 snapshot, canonical document, chunk, index generation으로 분리합니다. 변경·삭제·ACL을 멱등 처리하고 검증된 지식만 원자적으로 배포하는 수명주기를 설계합니다.
PDF RAG 문서 파싱을 native text, selective OCR, layout, reading order, table structure로 분해합니다. canonical element와 page·bbox를 보존하고 평가셋으로 parser 품질을 검증하는 방법을 설명합니다.
RAG 문서의 경로, source object, version, parser representation, chunk ID를 분리합니다. SHA-256·MinHash로 중복 후보를 찾고 stable span과 tombstone으로 멱등 upsert·삭제를 설계합니다.
RAG metadata를 typed field와 controlled vocabulary로 설계합니다. SKOS concept ID와 entity resolution으로 자유 문자열을 정규화하고 provenance가 있는 검색 projection을 구축합니다.
Enterprise RAG에서 tenant 경계와 document·chunk ACL을 설계합니다. Filtered ANN, 권한 회수 SLO, cache·reranker·citation까지 이어지는 authorization invariant를 구현합니다.
RAG freshness를 event·observed·processed·indexed·active time으로 측정합니다. CDC, watermark, tombstone과 bitemporal metadata로 최신·시점 검색과 권한 회수를 안전하게 운영합니다.
RAG embedding model·dimension·chunking·index 설정을 새 generation으로 이전합니다. Snapshot backfill, dual write, shadow read, atomic alias cutover와 rollback을 검증합니다.
RAG ingestion의 completeness·validity·ACL·freshness를 lineage와 quality assertion으로 추적합니다. Parser·metadata·embedding·retrieval drift를 metric·trace·probe로 감지합니다.
RAG 삭제 요청을 source·raw·chunk·embedding·index·cache·trace·snapshot에 전파합니다. Tombstone, legal hold, retention, restore 방지와 deletion receipt로 완료를 검증합니다.
Enterprise RAG knowledge base를 immutable release manifest로 빌드합니다. Data·ACL·retrieval·latency gate와 shadow·canary, atomic activation, rollback runbook을 연결합니다.