Series · Folio

데이터에서 분산 추론까지 이어지는 초·중급 10편

대상

RAG Agent를 만들며 기반 LLM이 어떻게 학습되고 GPU에서 실행되는지 이해하려는 초·중급 개발자

읽고 나면

pretraining data와 scaling, 현대 decoder 구조, SFT·preference optimization·LoRA, quantization, 분산 학습과 효율적 serving을 연결하고 RAG Agent에 맞는 model을 선택·배포할 수 있음

추천 진입

01편 → 02편 → 04편 → 07편 → 09편 → 10편

№001 llm-training-serving-foundations · 01

LLM 사전학습 데이터 파이프라인: 수집·정제·중복 제거·혼합 (1/10)

원시 문서를 학습 가능한 토큰 시퀀스로 바꾸는 LLM 사전학습 데이터 파이프라인을 출처·라이선스, 품질 필터, PII, 중복 제거, 오염 검사, 데이터 혼합, 패킹, manifest까지 설계합니다.

16 Jul 2026 #LLM #Pretraining #DataCuration #Deduplication

№002 llm-training-serving-foundations · 02

LLM 사전학습 목표와 Scaling Law: Token·Parameter·Compute 예산 (2/10)

Causal LM의 next-token loss부터 parameter·token·compute 관계, Kaplan·Chinchilla scaling law, pilot run과 안정성, inference 비용을 반영한 over-training 판단까지 설명합니다.

16 Jul 2026 #LLM #Pretraining #ScalingLaw #Chinchilla

№003 llm-training-serving-foundations · 03

현대 Decoder LLM 구조: RMSNorm·RoPE·GQA·SwiGLU·MoE (3/10)

현대 decoder-only LLM block을 pre-norm·RMSNorm, RoPE, SwiGLU, MHA·MQA·GQA, KV cache, dense·MoE로 분해하고 각 구조가 학습 안정성, 메모리, 통신, latency에 미치는 영향을 계산합니다.

16 Jul 2026 #LLM #Transformer #RMSNorm #RoPE

№004 llm-training-serving-foundations · 04

Instruction Tuning과 SFT: Chat Template·Loss Mask·데이터 품질 (4/10)

Base LLM을 instruct model로 바꾸는 SFT를 chat template, assistant-only loss mask, packing, tool·grounding 데이터, 오염 방지, behavior·retention 평가까지 설계합니다.

16 Jul 2026 #LLM #InstructionTuning #SFT #ChatTemplate

№005 llm-training-serving-foundations · 05

Preference Optimization: RLHF·DPO·KTO·GRPO 제대로 구분하기 (5/10)

RLHF·PPO, DPO·IPO, KTO, GRPO를 feedback 형태와 online·offline 학습으로 비교하고 reward hacking, KL drift, verifiable reward, RAG Agent 평가를 설계합니다.

16 Jul 2026 #LLM #RLHF #DPO #GRPO

№006 llm-training-serving-foundations · 06

LoRA·QLoRA·DoRA와 PEFT: Rank·Target Module·Merge 설계 (6/10)

LoRA의 low-rank update 수식과 trainable parameter를 계산하고 rank·alpha·target module을 고르는 법, QLoRA의 4-bit frozen base, DoRA, adapter merge·동적 serving·평가 계약까지 설계합니다.

16 Jul 2026 #LLM #PEFT #LoRA #QLoRA

№007 llm-training-serving-foundations · 07

LLM Quantization: GPTQ·AWQ·SmoothQuant·FP8·KV Cache (7/10)

LLM 양자화를 weight-only, weight·activation, KV cache로 나누고 scale·zero point·granularity를 계산하며 GPTQ, AWQ, SmoothQuant, FP8, KIVI의 memory·kernel·품질을 설계합니다.

16 Jul 2026 #LLM #Quantization #GPTQ #AWQ

№008 llm-training-serving-foundations · 08

분산 LLM 학습: DDP·ZeRO·FSDP·TP·PP·CP (8/10)

LLM 분산 학습을 parameter·gradient·optimizer·activation 원장으로 계산하고 DDP, ZeRO, FSDP, tensor·pipeline·context parallel의 통신, checkpoint, 확장 효율을 설계합니다.

16 Jul 2026 #LLM #DistributedTraining #FSDP #ZeRO

№009 llm-training-serving-foundations · 09

효율적인 LLM 추론 서빙: Prefill·Decode·KV Cache (9/10)

LLM 추론을 queue·prefill·decode로 분해하고 TTFT·ITL·goodput을 계산하며 PagedAttention, continuous batching, prefix cache, speculative decoding, P/D 분리와 SLO를 설계합니다.

16 Jul 2026 #LLM #InferenceServing #Prefill #Decoding

№010 llm-training-serving-foundations · 10

RAG Agent 모델 선택과 배포: 평가·Canary·Rollback (10/10)

RAG Agent 모델을 grounding·tool calling·long context·latency·cost·license로 비교하고 hard gate와 Pareto frontier를 거쳐 offline, shadow, canary, rollback으로 안전하게 배포합니다.

16 Jul 2026 #RAGAgent #ModelEvaluation #ToolCalling #Groundedness