트랜스포머(Transformer)와 MoE(Mixture of Experts)
트랜스포머(Transformer)와 MoE(Mixture of Experts)를 설명하시오.
모범답안 목차 AI 작성 · 사람 검수 전
Transformer는 2017년 Vaswani 등이 제안한 어텐션(Attention) 기반 신경망 구조로, 순환층 없이 Self-Attention, Multi-Head Attention, Position Embedding, Feed-Forward Network를 통해 병렬 처리와 장…
첫 문장만 보여 드립니다. 전체 답안은 앱에서 볼 수 있습니다.