№001 llm-rag-foundations · 07
Transformer 구조 입문: Attention·Residual·LayerNorm·FFN 조립하기 (7/10)
Transformer가 attention 하나가 아니라 token·position embedding, multi-head attention, residual, LayerNorm, FFN을 반복한 구조임을 설명하고 encoder와 decoder의 RAG 역할까지 비교합니다.
Tag index
#LayerNorm
01 entries