라그랑주의 미정승수법

이하의 책을 참고로 라그랑주 미정승수법의 식의 의미를 재확인했으므로 정리한다.



이하의 사이트도 참고로 했다.

라그랑주의 미정승수법 해설과 직관적인 증명

라그랑주의 미정승수법

방정식 제약 조건 $g(x, y) = 0$ 아래에 있는 함수 $f(x, y)$를 최대화 또는 최소화할 때 사용하는 것이 라그랑주의 미정승수법(Lagrange Multipliers) 이다.

여기서 다음과 같은 문제를 생각한다.
$$
a
$$
그림으로 나타내면 다음과 같이 된다.



$x_1 = x, x_2 = y$로 다시 작성하면
이것을 만족하는 최적해는
$$
F (x_1,x_2) = f(x_1, x_2) -\lambda g(x_1, x_2)
$$
그렇다면 다음 방정식을 만족합니다.
$$
\frac{\partial F}{\partial x_d}=0\(d= 0, 1),\\quad\frac{\partial F}{\partial\lambda} = 0
$$
$\lambda$는 라그랑주 승수라고 부른다.

$\frac{\partial F}{\partial x_d}=0\(d= 0, 1)$ 는 즉 $\nabla f =\lambda\nabla g$ 를 의미하고 있다. 이 방정식은 등고선 $ f (x, y) $와 곡선 $ g (x, y) = 0 $의 법선 벡터가 평행하다는 것을 보여줍니다. 왜 이것을 채워야 하는가 하면, 곡선상에서 함수 $f(x, y)$가 극치(최대, 최소)를 취하는 점에서는, 그 점을 통과하는 $f(x, y)$의 등고선 는 곡선에 접하고 있기 때문에, 이것은 등고선 $f(x, y)$와 곡선 $g(x, y)=0$의 법선 벡터는 평행이라고 하는 것이다.

또한,
$$
\frac{\partial F}{\partial\lambda} = 0\\
g(x, y) = 0
$$
그리고 $\frac{\partial F}{\partial\lambda} = 0$는 제약 조건 자체를 나타냅니다.
라그랑주의 미정승수는 다차원에서 등식 제약이 복수개 있을 때도 성립한다. (자세한 내용은 이것이 알고있는 최적화 수학 P76 ~ 참조)