제약 조건은 x 가 속할 수 있는 공간의 제한,
제약 조건 함수에 대한 기울기는 해당 제약 조건에 의해 정의된 (D-1) 차원 표면에 대해 orthogonal 하다.
제약 조건 함수에 대한 기울기는 각 성분에 대한 편미분 벡터, g(x) 가 가장 급격히 변하는 방향으로 이는 직교 방향
f(x) 의 기울기는 함수가 가장 급격히 증가하는 방향
제약 조건을 만족하면서 f(x) 의 최대, 최소화 문제에서 최적점 x* 에서는 목적 함수의 기울기, d f(x*) 와 제약 조건의 기울기 d g(x*) 가 평행해야 한다. (제약 조건의 만족을 위해)
d f(x*) = lambda d g(x*)
'ml_interview' 카테고리의 다른 글
베이지안 확률 (0) | 2024.11.25 |
---|---|
build 과정에서의 가중치 생성 방법, 일단 self.input_shape 의 사용 (0) | 2024.08.28 |
Early Stopping - 모형의 유효 수용력 model capacity, 가중치 감쇄와 조기 종료의 동치성, 상호 보완, (0) | 2024.08.22 |
semi-supervised learning (0) | 2024.08.22 |
잡음에 대한 강인성 - 가중치 잡음 추가 ( 정규화와 동일한 역할 ), target 가중치 추가 ( softmax function ) (1) | 2024.08.22 |