课题名称：若干共轭梯度算法在压缩感知领域中的应用
课题类别：华商学院校内导师制科研项目
课题批准号：2021HSDS32
经费资助：12万元
项目负责人:李丹丹
论文成果名称：
论文1.一种修正三项Hestenes-Stiefel共轭梯度投影算法及其应用[J].吉林大学学报(理学版),2022,60(01):64-72. A类
论文2.非线性方程组的修正共轭梯度法及其应用[J].内蒙古师范大学学报(自然科学汉文版),2022,51(01):87-95. B类（B/CSTPCD）
论文3.解非线性半定规划的一种回溯线搜索型算法[J].西南师范大学学报(自然科学版),2022,47(03):61-71. B类（B/CSTPCD）
成果简介：
1.一种修正三项Hestenes-Stiefel共轭梯度投影算法及其应用
主要观点：
提出一种新的修正三项Hestenes-Stiefel (HS)共轭梯度投影算法,用于求解大规模非线性方程组问题和信号恢复问题。该算法通过构造一个新的修正HS搜索方向,结合经典线搜索方法和超平面投影技术而得,新搜索方向在不需要任何线搜索条件下自动满足充分下降性,在常规假设条件下,新算法具有全局收敛性质,数值实验结果表明,新算法高效且稳定。
学术价值：
非线性方程组广泛应用于通信、化学、电力系统、压缩感知等领域,因此建立高效求解非线性方程组的数值方法具有重要意义。共轭梯度法由于在求解过程中无需计算方程组的Jacobi矩阵、编程简单且存储空间要求较小等特点而成为求解大规模优化问题的主要方法之一,在众多共轭梯度算法中,经典HS方法因自动满足共轭条件、数值结果较好等优势而备受关注,但研究表明,该方法收敛性质一般。为改善HS算法的收敛性质,本文在经典HS方法的基础上,通过添加一个扰动项,给出了一种三项搜索方向,并结合经典线搜索技术和超平面投影方法,提出一种无导数修正三项HS共轭梯度投影方法,验证了其较强的收敛性质,并成功应用于信号恢复问题中。在理论证明和经典算例测试方面的优势,为新算法能有效的解决图像恢复与信号处理等实际问题奠定了基础。
创新点：
改进共轭参数形式,对经典HS的搜索方向形式进行改进,构造新的无导数修正三项搜索方向,利用高效的新型线搜索技术和超平面投影方法,设计出一种新的三项共轭梯度算法。
2.非线性方程组的修正共轭梯度法及其应用
主要观点：
为了解决稀疏信号重构问题,改善求解非线性方程组的效率性能,构建一种新的修正方向,结合新型的线搜索方法和经典的超平面投影技术,提出了一个修正共轭梯度投影算法。新算法在合理的假设下,具有全局收敛的良好性质。数值结果表明与同类算法相比,新算法具有更高效的求解能力,在稀疏信号重构问题的应用中,验证了新算法的有效性与可行性。
学术价值：
若干具有快速局部收敛性质的迭代算法可高效求解非线性方程组问题,如牛顿法、拟牛顿法和LM算法等。上述算法需计算和存储矩阵信息,不适用于求解大规模非线性单调方程组问题。共轭梯度法因算法结构简单、易操作、储存量小等优点被推广到求解大规模非线性方程组。本文基于修正HS算法与杂交共轭梯度投影算法的思想,设计出一个新的搜索方向,提出了一个无导数型的修正共轭梯度算法,并验证了新算法的高效性与实用性。新算法为进一步提高大规模非线性单调方程组问题的运算效率提供了思路。
创新点：
对共轭参数公式进行改进,在杂交共轭梯度投影方法和修正HS算法的基础上对搜索方向形式进行修正,结合经典投影方法和最新的线搜索方法,提出了一个新的修正共轭梯度投影算法,并成功应用到在稀疏信号重构问题中。同时还可将新算法推广到图像恢复问题的应用中。
3.解非线性半定规划的一种回溯线搜索型算法
主要观点：
本文通过二次半定子问题构建搜索方向,结合回溯线搜索技术和非单调充分下降性条件,提出了一种新的无罚函数无滤子的线搜索型序列半定规划算法。在合理的假设条件下,证明了新算法的适定性以及全局收敛性,最后初步的数值试验结果表明新算法的有效性。
学术价值：
线性半定规划是优化领域中最经典的问题,然而众多实际问题属于非线性半定规划问题,如工程设计,最优控制,经济,金融等领域。因此,非线性半定规划的研究具有理论创新和实际应用的意义。若干有效方法可求解非线性半定规划问题且其效果显著,如增广拉格朗日方法,序列半定规划方法,序列线性方程组方法,乘子法,原始-对偶内点法,其中序列半定规划方法是在众多方法中比较流行。很多学者将优良的非线性规划算法推广到非线性半定规划问题中。本文将求解带有不等式约束的非线性规划全局收敛性算法推广到非线性半定规划中,提出一个求解非线性半定规划问题的无罚函数无滤子回溯线搜索型序列半定规划算法,该创新思想可为非线性半定规划的研究提供借鉴。
创新点：
为避免罚函数和滤子的缺点,提高带有等式约束和半负定矩阵约束的非线性半定规划求解效率,本文提出一种新的求解非线性半定规划的无罚无滤回溯线搜索型序列半定规划算法,新算法基于传统的二次规划子问题构建二次半定子问题,通过求解该子问题产生搜索方向,为了避免使用罚函数和滤子,采用回溯线搜索技术来保证目标函数值或约束违反度函数值充分下降。而非单调的充分性下降条件使得试探点更加容易被算法接受。
