패턴인식과 머신러닝

4.1 판별 함수

명징직조지훈 2023. 6. 26. 08:50

입력 벡터 x 를 K 개의 클래스 C_k 중 하나에 배정하는 함수, 

4.1.1 두 개의 클래스 

가장 단순하게 표현하면 다음과 같은 입력 벡터들의 선형 함수가 된다.

w 는 가중 벡터라 하며 w_0 는 편향이다. 편향의 음의 값은 임계값이라고 불리기도 한다. 

입력 벡터  는 y(x) >= 0 일 경우에는 클래스 C_1, 아닐 경우 C_2 에 배정된다. 

결정 경계 y(x) = 0 에 해당하며, D 차원 입력 공간 상의 D-1 차원 초평면에 해당한다. 

결정 표면상에 존재하는 두 개의 점 X_A, B 를 고려, y(X_A), y(X_B) = 0 이기 때문에 W(X_A - X_B) = 0 이며, 벡터 w 는 결정 표면상의 모든 벡터들과 직교하게 된다. 그러므로 w 는 결정 표면의 모양을 결정한다.

흡사하게 x 가 결정 표면상의 점이라면 y(x) = 0 이며, 원점으로부터 결정 표면까지의 수직 최단 거리는 다음과 같이 주어지게 된다. 

따라서 편향 매개변수가 결정 표면의 위치를 결정한다는 것을 알 수 있다.

 

y(x) 의 절댓값은 점 x 와 결정 표면 사이의 수직 거리 r에 해당한다. 

임의의 점 x 와 x 의 결정 표면에 대한 수직 투영 x⊥ 을 고려

 

양변에 w^T 를 곱하고 w_0 을 더한 후, y(x) = w^T x + w_0 과 y(x⊥) = w^T x⊥ + w_0 = 0 을 이용하면 다음을 구할 수 있다.