课题类别：华商学院校内导师制科研项目
课题名称：若干新型优化算法及抛物方程解空间性质的研究及应用
课题批准号：2020HSDS15
经费资助：12万元
项目负责人:李丹丹
指导教师：李远飞
论文成果名称：
论文1.解大规模非线性方程组的一种三项型投影算法[J].海南大学学报(自然科学版),2021,39(02):125-131. B类（CSTPCD）
论文2.一种新型三项共轭梯度法求解大规模方程组[J].北华大学学报(自然科学版),2021,22(02):149-155. B类（CSTPCD）
论文3.求解非线性半定规划的一个无罚无滤信赖域型算法[J].数学的实践与认识,2021,51(15):163-174. B类（CSTPCD）
论文4.有界约束非线性方程组的修正三项HS投影算法及应用[J].云南师范大学学报(自然科学版),2021,41(04):41-46. B类（CSTPCD）
成果简介：
1.解大规模非线性方程组的一种三项型投影算法
主要观点：
通过对一类无导数型共轭梯度法的共轭参数进行改进，得到具有充分下降性与信赖域特质的搜索方向。基于高效率线搜索方法和投影技术，构建了一个新型的无导数型三项共轭梯度投影算法。新方法具有全局收敛的良好理论性质。通过大规模算例进行数值试验，验证新算法更适用于求解大规模非线性单调方程组问题，且求解效率高于同类算法。
学术价值：
目前求解非线性单调方程组有若干方法,且效果显著。常用方法主要分为两类：矩阵类和无矩阵类。前者主要包含信赖域法，牛顿法，拟牛顿法等；后者主要包括无导数法和梯度投影法等。近年来，具有良好性质的共轭梯度法，结合超平面投影技术，能高效地求解大规模非线性方程组问题，且在相对较弱条件下可得到全局收敛性。本文改进共轭参数形式，构造新的三项型搜索方向，利用高效的新型线搜索技术，设计出一种新的三项共轭梯度算法，新算法为进一步提高大规模非线性单调方程组问题的运算效率提供了思路。
创新点：
改进共轭参数形式，对传统的搜索方向形式进行改进，构造新的三项型搜索方向，利用高效的新型线搜索技术，设计出一种新的三项共轭梯度算法。
2.一种新型三项共轭梯度法求解大规模方程组
主要观点：
基于经典的线搜索方法和超平面投影技术，设计了一种新型无导数的三项共轭梯度算法，用于求解大规模非线性单调方程组。新算法的搜索方向满足充分下降性质，在一定假设条件下保证全局收敛性等优点。大规模的数值结果表明，算法求解效率比同类算法更快，具有更强的竞争性。
学术价值：
在计算机视觉、压缩感知等工程与科学领域存在大量的优化问题，这些优化问题大部分可以转化为非线性单调方程组问题。求解非线性单调方程组问题是最优化领域的一个研究热点。共轭梯度法因算法简单、存储需求量小等优势，成为求解非线性大规模优化问题的主要方法之一。近年来，为了构建具有良好的收敛性质和数值效果更优的共轭梯度法。本文通过增加扰动项的方法，构造出满足充分下降性的新型三项共轭梯度法。数值试验使用三种算法求解大规模问题，对比结果显示了新算法的高效性。在理论证明和经典算例测试方面的优势，为新算法能有效的解决图像恢复与信号处理等实际问题奠定了基础。
创新点：
在经典LS算法的基础上，通过增加扰动项，改进共轭参数及搜索方向的构造形式，设计出一个新的搜索方向。新算法具有以下良好性质：（1）搜索方向在无需任何线搜索条件下自动满足充分下降性质；（2）在适当的假设下，新算法具有全局收敛性；（3）大规模的数值结果表明新算法与同类算法相比更具有竞争力。
3.求解非线性半定规划的一个无罚无滤信赖域型算法
主要观点：
通过采用一种新型的非单调接受准则,使用信赖域技术构建搜索方向,提出了一个无罚函数无滤子的信赖域型序列半定规划算法。在一定的假设条件下,证明了该算法的适定性以及全局收敛性。最后初步的数值试验结果表明该算法的有效性与可行性。
学术价值：
非线性半定规划在工程设计,最优控制,信号处理等领域有着广泛的应用，其中序列半定规划方法是求解NLSDP(0.1)的有效方法之一。但是研究表明其中的罚函数型算法在具体实现算法时,罚参数选取是相对困难的。若选取不当,则导致算法的整体效率不高。为避开罚参数选取问题,滤子型算法被提出,并研究了滤子法的全局收敛性,滤子型算法虽可以避开罚参数的选取,但也带来了新的问题,即:算法的收敛性理论分析比较复杂,存储量和计算量较大。随着研究的深入,无罚函数无滤子型算法随之出现。我们主要研究的就是在某一准则下的无罚无滤的信赖域型序列半定规划算法，在准则上及算法上的创新思想可为非线性半定规划的研究提供借鉴。
创新点：
为了避免使用罚函数和滤子,提高非线性半定规划求解效率。将一种以目标函数和约束违反度函数为效益函数的非单调下降性准则的非线性规划算法,应用于非线性半定规划中。采用信赖域技术产生搜索方向,提出了求解非线性半定规划的一个无罚无滤的信赖域型序列半定规划算法。
4.有界约束非线性方程组的修正三项HS投影算法及应用
主要观点：
为了处理压缩感知的图像恢复问题，加快大规模有界约束非线性方程组问题的计算效率。在三项HS共轭方向的基础上，构造出一个新的搜索方向，基于共轭梯度法和投影方法，提出了一种求解有界约束非线性方程组问题的修正三项HS投影共轭梯度算法。在温和的假设下，证明新算法的全局收敛性质。数值算例的求解结果表明新算法对求解大规模有界约束非线性方程组问题是稳定与有效的，此外，也将其成功地应用于求解图像恢复问题。
学术价值：
非线性方程组在实际应用中具有重要的意义，如化学平衡系统、电力方程和经济平衡等优化问题都可转化为有界约束非线性方程组问题进行求解。常见的求解方法有信赖域方法和Levenberg-Marquardt方法，但对于求解大规模问题这些方法并不适用，主要原因在于这类方法在迭代过程中需要计算和存储矩阵信息。研究发现共轭梯度法在迭代过程中有效避免了存储问题，且算法框架更简单。于是学者们将共轭梯度法应用于求解大规模优化问题中。本项目联合投影方法和共轭梯度法来求解有界约束非线性方程问题，并将所提的算法应用于求解压缩感知的图像恢复问题中。
创新点：
本文结合投影技术构建了一种求解有界约束非线性方程组问题的修正三项HS投影梯度算法。该算法无需在每一步求解线性方程来产生搜索方向，而搜索方向仅由最初的迭代信息来产生。
