최적화 문제(Optimization problem)

최적화 문제

Optimization problem

 '최적화' 라는 말이 갖는 의미가 참 모호한 것 같다. 성능을 최적화 한다는 의미로 받아 들이면 탑재된 플랫폼에 맞도록 속도나 메모리 사용량을 줄인다는 의미로 생각할 수도 있다.

 그러나 수학적 의미의 최적화 문제라 하면 주어진 제한 조건을 만족하는 최대, 최소 해를 찾는 문제로 정의된다. 제한 조건은 때로는 출력값의 범위를 제한할 수도 있고, 입력값의 범위를 제한할 수도 있으므로 입력과 출력 집합에 대한 최적의 연결(함수)을 찾는 문제라고 생각할 수도 있다.

 로봇, 컴퓨터 비전, 기계 학습과 밀접한 관련을 가지고 있으므로 자세히 알고 있으면 매우 편리하다. 아래에 든 예시 말고도, 생각할 수 있는 거의 모든 문제는 목적 함수와 제한 조건을 설정할 수 있다면, 최적화 문제로 접근이 가능하다.

• Laser Range sensor 기반의 지도 작성 및 위치 인식에 사용되는 ICP(Iterative Closest Point)
• 다수의 카메라의 특징점의 위치를 알고 있는 경우, Bundle Adjustment를 통해 최초의 값으로부터 최적의 카메라 위치, 특징점의 3차원 위치를 구하기 위해 LM(Levenberg-Marquartd) 알고리즘을 이용
• Neural Network의 Weight를 학습하기 위해 Loss function의 값을 역 전파(Back-propagation)하여 최적의 Weight값을 찾는데 이용

 Least square minimization(최소자승법) 문제를 통해서 접근하는 것이 최적화 문제에 입문하는데 효과적인 방법이 될 것이다.