전체 최적해와 국소 최적해

2255 단어 최적화

전체 최적해와 국소 최적해



  • 문제 제기
  • 로컬 최적 솔루션과 전체 최적 솔루션 확인
  • 기계 학습 등에서 最適化가 수행됩니다. 이때 국소 최적해를 구하고 있는지, 전체 최적해를 구하고 있는지를 파악하는 것이 좋다.


  • 전체 최적해와 국소 최적해
  • 원래 최적화란?
  • 목적 함수를 설정하고 최소값 (또는 최대 값)을 찾습니다.
  • 목적 함수의 값이 아래와 같은 그래프가 되는 경우, 가장 값이 낮은 A地点의 해를 구한다.
  • 그림 1 ($y = x^2+10$ 그래프)
  • 가로축: $x$ 값(해의 범위)
  • 세로축 : $ y $ 값 (목적 함수 값)



  • 전체 최적해란?
  • NW 등을 포함한 일반적인 최적화 문제에서 목적 함수 그래프는 복잡해집니다. 이미지로서는, 하기와 같은 몇개의 계곡이 있는 그래프가 된다.
  • 이 경우 가장 낮은 값赤い矢印で示す地点의 해입니다. (이 장소는 다른 계곡보다 미묘하게 값이 낮습니다)
  • 그림 2
  • 가로축: 솔루션 범위
  • 세로축 : 목적 함수의 값



  • 국소 최적해란?
  • 특정 범위의 최적 솔루션.
  • 아래 그림에서 ある範囲는 노란색 원으로 둘러싸인 범위입니다. 그 범위에서 최적 솔루션은 青い矢印で示す地点.
  • 그림 3


  • 전체 최적 솔루션과 로컬 최적 솔루션
  • 국소 최적 솔루션은 여러 가지가 있습니다.
  • ※목적 함수의 그래프에 골짜기가 여러 개 있는 경우.

  • 로컬 최적 솔루션은 전체 최적 솔루션과 거의 다르지 않은 값을 얻을 수 있지만 가능한지 여부는 문제에 따라 다릅니다.



  • 국소 최적해를 구할 때와 전체 최적해를 구할 때
  • 전체 최적 솔루션을 찾는 것이 가능하다면 더 좋습니다.
  • 지역 최적 솔루션을 찾는 경우
  • 전체 최적 솔루션을 얻으려면 계산 시간이 너무 길어서 불가능합니다.
  • 국소 최적 솔루션을 얻으면 충분한 정확도를 얻을 수 있습니다.

  • 지역 최적 솔루션을 찾는 경우
  • NW에서 에지 가중치 및 노드 바이어스와 같은 매개 변수를 결정할 때.



  • 기타
  • 유전 알고리즘 정보
  • 전체 최적 솔루션을 찾는 것이 어려울 때 가능한 한 좋은 솔루션을 얻기 위해 수행되는 솔루션 중 하나
  • 다음을 반복합니다.
  • 이웃에서 로컬 최적 솔루션을 찾습니다.
  • ※ 근처: 그림 3의 노란색으로 둘러싸인 범위를 이미지 하면 좋다.
  • 돌연변이를 실시해, 지금까지 해를 탐색하고 있던 것과는 다른 장소로부터 해의 탐색을 실시한다.



    • 최적화란 무엇인가?
    FISTA = ISTA + Nestrov AG

    좋은 웹페이지 즐겨찾기

    개발자 우수 사이트 수집

    개발자가 알아야 할 필수 사이트 100선 추천 우리는 당신을 위해 100개의 자주 사용하는 개발자 학습 사이트를 정리했습니다
    best100-homepage