凸解析と最適化の理論
凸集合と凸関数の再考
凸性の幾何学的直観
最適化問題において、なぜ「凸性」がこれほど重要視されるのでしょうか。その答えは、凸集合が持つ美しい幾何学的性質にあります。単に「へこみのない集合」という直感的な理解を超えて、より強力なツールを手に入れましょう。
すでにご存知のように、凸集合とは、集合内の任意の2点を結ぶ線分が、常にその集合内に含まれるような集合のことです。この単純な定義から、驚くほど強力な定理が導かれます。その代表格が、2つの凸集合を「分離」する平面の存在を保証する分離超平面定理です。
上の図が示すように、互いに交わらない2つの凸集合とがある場合、それらの間には必ず「壁」となる超平面(2次元なら直線、3次元なら平面)を引くことができます。この超平面は、という方程式で表され、一方の集合の点はすべてを満たし、もう一方の集合の点はすべてを満たします。
この定理は、ある点が凸集合に属するかどうかを判定する問題が、線形不等式で判定できる可能性を示唆しており、最適化アルゴリズムの基礎となっています。
集合を支える平面
分離超平面定理と密接に関連するのが支持超平面定理です。これは、凸集合とその境界上の点に関する定理です。凸集合の境界にある任意の点を選んだとき、その点を通り、かつ集合全体がその超平面の片側(閉半空間)に収まるような超平面が存在することを保証します。
この超平面を「支持超平面」と呼びます。イメージとしては、凸な物体をテーブルの上に置いたとき、テーブルの表面が物体を「支えている」状態に似ています。このとき、テーブルの表面が支持超平面にあたります。
数学的には、支持超平面はと表され、集合内のすべての点についてが成り立ちます。この性質は、凸関数の勾配(gradient)や劣勾配(subgradient)といった概念に直接つながり、最適化問題の解の条件を導く上で極めて重要です。
関数を集合で見る
これまで凸集合の性質を見てきましたが、これをどのように凸「関数」と結びつけるのでしょうか。ここで登場するのがエピグラフという概念です。
関数のエピグラフとは、関数のグラフとその「上側」の領域をすべて含む点の集合のことです。数式で定義すると、次のようになります。
そして、ここが重要な点ですが、「関数が凸関数であること」と、「そのエピグラフepi が凸集合であること」は同値です。つまり、関数の凸性という解析的な性質を、集合の凸性という幾何学的な性質に完全に置き換えて考えることができるのです。
関数の凸性 ⇔ エピグラフの凸性
この対応関係により、凸関数の最小化問題は、凸集合の境界上の点を支持超平面を用いて特徴づける問題として捉え直すことができます。これが、最適化理論における有名なカルーシュ・クーン・タッカー(KKT)条件などの最適性条件の幾何学的な基礎となっています。
ここまでの重要な概念を理解できたか、クイズで確認してみましょう。
凸集合の定義として最も正確なものはどれですか?
互いに交わらない2つの凸集合とがある場合、分離超平面定理は何を保証しますか?
これらの幾何学的な定理とエピグラフの概念は、なぜ凸性が最適化において強力な武器となるのかを理解するための鍵です。これらを土台として、より具体的な最適化手法の世界へと進んでいきましょう。