기울기소실 문제(Vanishing Gradient Problem)

컴퓨터시스템응용기술사 제122회(2020년) 1교시 1-13번 · 10점

모범답안 목차 AI 작성 · 사람 검수 전

기울기소실 문제는 심층 신경망의 역전파 과정에서 출력층의 오차 기울기가 연쇄법칙으로 연속 곱해지면서 0에 수렴하여, 입력층에 가까운 층의 가중치가 거의 갱신되지 않는 현상이다.

첫 문장만 공개합니다. 전체 답안은 앱에서 확인할 수 있습니다.