Multi-Layer Perceptron (다중 퍼셉트론)

Perceptron{: width=“600”}{: .center}

  • 기본 퍼셉트론 모델은 간단한 문제(선형)만 해결할 수 있었다.
  • 선형문제

아래 그림처럼 데이터들의 분포가 선형성을 띄는 문제에 대해 해결할 수 있었다.

Linear regression{: .center}

하지만 보다 복잡한 문제의 경우 기본 퍼셉트론으로는 해결하기 어렵다.

복잡한 문제를 해결하기 위해서 은닉층(Hidden Layer)가 포함된 다중 퍼셉트론 사용

⇒ 비선형문제 해결 가능

  • 다중 퍼셉트론은 은닉층이 1개 이상인 퍼셉트론을 의미한다.
  • 은닉층이 2개 이상인 신경망을 심층 신경망(Deep Neural Network, DNN)이라고 한다.
  • 학습을 시키는 신경망이 심층 신경망일 경우 심층 신경망을 학습시킨다고 하여 딥러닝이라 한다.

Multi layer perceptron{: width=“500”}{: .center}

입력층이 은닉층에 들어가면 각 층의 Output이 Input으로 전달되면서 계산을 이어나간다.

classification{: width=“600”}{: .center}

심층신경망의 학습

  1. Feed Forward 수행 (Input → Hidden Layer → Output)의 과정
  2. Backpropagation 수행하면서 Weight Update
  3. 1, 2과정을 반복해서 수행

Backpropagation 설명

Reference

Original