拉格朗日乘子法

• 是一种寻找多元函数在一组约束下的极值的方法

• 通过引入拉格朗日乘子，可以将有个变量和个约束条件的最优化问题，转化成具有个变量的无约束优化问题求解

等式约束

求：

• 约束曲线和极值曲线相切的点为极值点
  • 对于约束曲线上的任意点，该点的梯度正交于约束曲线
  • 在最优点，目标函数在该点的梯度正交于约束曲线

由此可知，在最优点，梯度和的方向相同或者相反，所以有： 其中称为拉格朗日乘子

• 仔细观察，我们发现的最简单的原函数就是，上面第一行就是对求导，第二行就是对求导

所以我们定义拉格朗日函数为：

• 令，就得到第一行的式子
• 令，就得到第二行的式子
• 联立两式，就求出来了满足条件的极值点，而联立两式求出来的就是这个维函数的极值点（设）