面向真实世界研究中非凸非平滑问题的具有时间扰动的块坐标下降法

2019年第20卷第10期

摘要

关键词

相关研究

回顶部

《信息与电子工程前沿（英文）》 >> 2019年第20卷第10期 doi: 10.1631/FITEE.1900341

面向真实世界研究中非凸非平滑问题的具有时间扰动的块坐标下降法

Affiliation(s): Department of Oncology, The Second Xiangya Hospital of Central South University, Changsha 410011, China; First Clinical Medical College, University of South China, Hengyang 421001, China; College of Computer, National University of Defense Technology, Changsha 410073, China; less

录用日期： 2019-11-11 发布日期： 2019-11-11

HTML37 PDF 11 收藏 0

摘要

真实世界研究的大数据时代已经来临；这个时代将极大促进医学发展，尤其是肿瘤学。然而，鉴于大规模数据量的增加以及求解的目标问题具有非凸非平滑等不易求解的函数性质，传统机器学习方法不能很好解决这类新问题。我们的目标是求解一个带不等式约束的优化问题，该优化问题是由一个平滑非线性函数与大量块变量可分的非凸非平滑目标函数组合相加而得。提出一种新的并行一阶优化方法，称为带时间扰动的异步块坐标下降法（asynchronous block coordinate descent with time perturbation，ATP）。该方法采用一种从鞍点和次优局部点逃脱的时间扰动技术。通过分析收敛性和迭代复杂度特性，介绍了该方法的详细内容。针对真实世界研究机器学习问题的实验验证了本文所提方法的有效性。实验结果表明，时间扰动使ATP能从鞍点和次优点逃脱；采用异步块坐标下降法为处理具有不等式约束的非凸优化问题提供了一种可行方法。在共享内存多核平台上异步并行的实现，表明该算法具有很强可扩展性。

关键词

收敛分析 ; 异步块坐标下降法 ; 时间扰动 ; 非凸非平滑优化 ; 真实世界研究