신경망과 심층학습
5. 방사상 기저 함수 신경망
명징직조지훈
2023. 7. 5. 23:40
5.1 소개
radial basis function RBF 망은 다른 구조를 가진 신경망,
이전 모형들은 순방향으로 층들을 차례로 거친 후에 최종 출력이 산출되느 ㄴ형태,
반면 RBF 망은 입력층 하나와 은닉층 하나, 출력층 하나로만 구성된다.
신경망 구조는 상당히 얕으며, 그 행동 방식은 특별한 은닉층의 성격에 크게 좌우된다.
은닉층은 하나의 원형 벡터 prototype vector 와의 비교에 기초한 계산을 수행,
- 은닉층은 입력 자료점을 받아서 새로운 공간으로 변환한다. 새 공간에서는 선형 분리 가능하다. 이를 보장하기 위해 은닉층의 차원이 더 높다. 이는 패턴들의 분리가능성에 대한 커버의 정리에 근거한 것, 비선형 변환을 통해 고차원 공간으로 변환하면 패턴 분류 문제의 선형 분리가능성이 높아진다는 것,
- 나아가 특징들이 공간의 작은 국소 영역들을 대표하게 만드는 특정 종류의 변환들을 사용하면 선형 분리가능성이 더욱 높아진다.
- 훈련 자료점 개수보다 큰 경우는 없다. 동일한 극단적인 경우 커널 기반 학습 모형과 동등
- 출력층은 은닉츠잉 넘겨진 입력들에 대해 선형 분류, 회귀 모형을 적용한다.