ジョージの技術備忘録

参考したサイトを忘れないための備忘録

制約付き最適化手法の肌感覚

非線形最適制御で拘束条件付近で発散しやすいなぁという感覚は結構数学的にもあってた。理由はペナルティ関数法にあった。

 

大塚先生の本で紹介していた非線形最適制御で拘束条件を入れる場合ペナルティ関数法を用いてたけど、矢部先生の本で実行可能領域に近くなるにつれて数値的に不安定になることが指摘されていた。ペナルティ関数法はいまではメリット関数程度、つまり他の非線形最適化手法の評価値としてしか使用しないらしい。

 

この問題を回避するためには乗数法、逐次二次計画法、主双対内点法がある。矢部さんの本しか理解していないので、この手法のどれがいいかは判断できない。福島先生かBoyd先生の本を読めばわかるかな。もしくはだれか論文調べてくれてるかな。

 

個人的には永原先生と大塚先生が共同で面白い研究してくれないかなぁって思ったりする。

 

KKT条件の理解が肌感覚と数学的証明の距離が遠すぎて困惑している。

肌感覚での理解はPRMLの付録E程度

数学的証明での理解はForkas→Motzkin→Gordan→不等式拘束条件

この間の肌感覚と数学的証明の圧倒的認知としての理解度の落差はどうしたら埋められるのかな。双対問題がキーワードそうな気はするけど。福水先生と赤穂先生が結構わかりやすく書いてたから頑張って読もうかな。と思ったらここにまとめが書いてあった。

 

http://www.ism.ac.jp/~fukumizu/OsakaU2014/OsakaU_4SVM.pdf

ir5.hatenablog.com