凸优化
凸优化
数值优化算法面临两个方面的问题：局部极值，鞍点。前者是梯度为0的点，也是极值点，但不是全局极小值；后者连局部极值都不是，在鞍点处Hessian矩阵不定，即既非正定，也非负定。
凸优化通过对目标函数，优化变量的可行域进行限定，可以保证不会遇到上面两个问题。
凸优化是一类特殊的优化问题，它要求：
ü 优化变量的可行域是一个凸集
ü 目标函数是一个凸函数
凸优化最好的一个性质是：所有局部最优解一定是全局最优解。
机器学习中典型的凸优化问题有：
线性回归
岭回归
LASSO回归
Logistic回归
支持向量机
Softamx回归
https://www.cnblogs.com/DicksonJYL/p/9510507.html
来自 “ ITPUB博客 ” ，链接：https://blog.itpub.net/29829936/viewspace-2212451/ ，如需转载，请注明出处，否则将追究法律责任。
上一篇：
深度学习并非万能：你需要避免这三个坑
下一篇：
拉格朗日乘数法
请登录后发表评论
登录
全部评论
最新文章
- 那些适用于跨境电商的 ERP 系统
- On the decline of SAP consulting industry
- Matters Needing Attention as A SAP Freelancer
- The development prospect of SAP consultants in China in the next decade
- SAP WM中阶下架策略A(Partial Pallet Quantity)
- SAP WM高阶之上架策略C(Open Storage)
- SAP WM高阶之上架策略B (Bulk Storage)
- SAP WM高阶之上架策略P(Storage Unit Type)
- SAP WM高阶之2-Step Picking
- SAP QM 高阶之Physical Sample Management
