perceptron

📌 Perceptron에 대해 알아보자

Perceptron 개요

• 가장 단순한 형태의 신경망 (Simpliest Neural Net)
• 신경망 : 인간의 두뇌의 작동 방식을 반영해 컴퓨터를 학습시킬 수 있도록 고안한 구조

아래 그림은 하나의 뉴런에서 신호를 입력받고 결과를 출력하는 개념을 나타낸다.

뉴런은 전기신호의 합이 일정치 이상이 되면 다음 뉴런으로 신호를 전달한다.

⇒ 인간의 뇌는 뉴런을 지니고 있고 뉴런들은 시냅스라는 구조를 통해 신호를 주고 받으며 다양한 정보를 받아들이고 그 정보를 저장하는 기능을 수행한다.

Perceptron

• Input(입력값), Weight(가중치), unit step function(Activation Function, 활성 함수), Output(결과값, 예측값)으로 구성
• Hidden layer 없이 Single layer로 구성
  • Hidden layer (은닉층) : 입력층과 출력층 사이에 위치하는 모든 층을 말한다.
  • Input과 Output사이의 Weights, Weighted Sum, Activation Function은 모두 한 개의 Layer에서 계산되어 Output을 도출한다.
• Weighted Sum =
• Weighted Sum을 Activation에 통과시켜 Output 산출
• Output을 통해 분류(Classification), 탐지(Detection) 등을 진행한다.
• 오로지 unit step activation function을 사용한 것을 말한다.

---

Perceptron의 학습

• Percetron을 통해 산출한 Output → O / 실제값 Y
• O와 Y가 가장 비슷한 값이 되도록 조정하는 방향으로 학습한다.

Process

1. 최초 Weight값 설정 (Weight Initialization)
2. Perceptron Output 산출
3. Output과 실제값의 오차 계산
4. 두 값의 차이를 줄일 수 있게 Weight값 변경 (오차를 최소화하는 방향으로 변경)
5. 정해진 비용안에서 최적의 값이 될 수 있도록 2~4를 반복한다.

---

Regression(회귀)

• 회귀 : 여러 개의 독립변수 와 한 개의 종속변수 간의 상관관계를 모델링하는 기법

ex) = 아파트의 가격

= 주변 학군, 아파트 평수, 방 개수, 근처 지하철 역 개수 …

: 각 독립변수 의 값에 영향을 미치는 회귀 계수(Regression coefficients)

데이터 기반에서 학습을 통해 최적의 회귀 계수를 찾아내는 것이 핵심이다.

퍼셉트론의 학습과 회귀 학습 방식이 모두 같다.

---

기초 딥러닝 용어 정리

• 하이퍼파라미터(Hyperparameter) : 사용자가 직접 지정하여 모델을 훈련시키는 파라미터 ex) 학습률, 배치크기 등

• 지도학습(Supervised Learning) : 정답이 포함된 데이터로 학습 모델을 학습시키고 정답을 통해 평가를 진행하는 학습을 말한다.

• 비지도학습(Unsupervised Learning) : 정답이 포함되지 않은 데이터로 학습 데이터로부터 패턴이나 상관관계를 찾아내는 학습을 말한다.

• 과대적합(Overfitting) : 모델이 훈련세트에 너무 적합해진 상태가 되어 일반성이 떨어지는 현상 훈련세트와 테스트세트의 점수차이가 많이나는 경우 과대적합이라 한다.

• 과소적합(Underfitting) : 모델이 훈련세트에도 적합하지 않고 테스트세트도 적합하지 않는 현상 훈련세트, 테스트세트 모두 평가점수가 낮거나 테스트세트가 훈련세트보다 점수가 높은 경우에 과소적합이라 한다.