#CircuitBreaker

LLM Client 복원력: Timeout·Retry·Rate Limit·Circuit Breaker (3/10)

LLM API 장애를 재시도로 증폭하지 않도록 전체 deadline, attempt timeout, Retry-After, full jitter, 동시성 제한과 circuit breaker를 Python으로 설계합니다.