№002 llm-reasoning-reliability-foundations · 07
Synthetic Data와 Distillation: Rejection Sampling·Model Collapse (7/10)
Teacher LLM으로 instruction·rationale·response를 합성하고 rejection sampling으로 정제합니다. SFT·on-policy distillation, 오염·편향·model collapse를 평가합니다.
