ml_interview

라그랑주 승수법

명징직조지훈 2024. 8. 27. 18:12

제약 조건은 x 가 속할 수 있는 공간의 제한,

제약 조건 함수에 대한 기울기는 해당 제약 조건에 의해 정의된 (D-1) 차원 표면에 대해 orthogonal 하다.

    제약 조건 함수에 대한 기울기는 각 성분에 대한 편미분 벡터, g(x) 가 가장 급격히 변하는 방향으로 이는 직교 방향

f(x) 의 기울기는 함수가 가장 급격히 증가하는 방향

    제약 조건을 만족하면서 f(x) 의 최대, 최소화 문제에서 최적점 x* 에서는 목적 함수의 기울기, d f(x*) 와 제약 조건의 기울기 d g(x*) 가 평행해야 한다. (제약 조건의 만족을 위해)

 

d f(x*) = lambda d g(x*)