패턴인식과 머신러닝
4.1 판별 함수
명징직조지훈
2023. 6. 26. 08:50
입력 벡터 x 를 K 개의 클래스 C_k 중 하나에 배정하는 함수,
4.1.1 두 개의 클래스
가장 단순하게 표현하면 다음과 같은 입력 벡터들의 선형 함수가 된다.

w 는 가중 벡터라 하며 w_0 는 편향이다. 편향의 음의 값은 임계값이라고 불리기도 한다.
입력 벡터 는 y(x) >= 0 일 경우에는 클래스 C_1, 아닐 경우 C_2 에 배정된다.
결정 경계 y(x) = 0 에 해당하며, D 차원 입력 공간 상의 D-1 차원 초평면에 해당한다.
결정 표면상에 존재하는 두 개의 점 X_A, B 를 고려, y(X_A), y(X_B) = 0 이기 때문에 W(X_A - X_B) = 0 이며, 벡터 w 는 결정 표면상의 모든 벡터들과 직교하게 된다. 그러므로 w 는 결정 표면의 모양을 결정한다.
흡사하게 x 가 결정 표면상의 점이라면 y(x) = 0 이며, 원점으로부터 결정 표면까지의 수직 최단 거리는 다음과 같이 주어지게 된다.

따라서 편향 매개변수가 결정 표면의 위치를 결정한다는 것을 알 수 있다.
y(x) 의 절댓값은 점 x 와 결정 표면 사이의 수직 거리 r에 해당한다.
임의의 점 x 와 x 의 결정 표면에 대한 수직 투영 x⊥ 을 고려

양변에 w^T 를 곱하고 w_0 을 더한 후, y(x) = w^T x + w_0 과 y(x⊥) = w^T x⊥ + w_0 = 0 을 이용하면 다음을 구할 수 있다.

