최소 제곱법과 정규 표현(비망록)

계수 β를 이용한 선형 모델 표현





비용 함수 Q()는 잔차의 합을 나타냅니다.





비용 함수 정보



볼록함수의 비용함수를 미분하여 0으로 한다



이것을 조금 변형한 것이 정규 방정식이라고 불린다



계수 β에 걸리는 것은 X의 내적
X의 내적이 정칙 (역행렬을 가짐)이면



로서 계수 β가 구해진다.
이것을 β의 추정치로 한다.

β의 추정치를 사용하여



모형은 Y를 완전히 표현할 수 없다.
어디까지나 오차를 최소화하는 것

그러나 일단 Y와 동등하다.



모델 (예측)과 실측치 사이의 잔차





로 표현되는

좋은 웹페이지 즐겨찾기