勷勤数学•专家报告
题 目:SESOP-CP: Accelerating Tensor Decomposition via Sequential Subspace Optimization
报 告 人: 肖明庆 教授 (邀请人:黎稳)
美国南伊利诺伊大学
时 间: 5月14日 15:00-16:00
地 点:数科院东楼401
报告人简介:
肖明庆博士1991-1997年在美国伊利诺伊大学香槟分校(UIUC)学习。师从著名控制论专家, 美国国家工学院院士Tamer Basar 从事魯棒控制理论研究。1997 获得应用数学博士学位。 从1997年7月至1999年12月,他在美国加州大学戴维斯分校担任助理教授。从2000年起在美国南伊利诺伊大学任教,曾任助理教授(2000-2002),副教授(2002-2007),正教授(2007-现在)。曾任美国空军实验室(Wright-Patterson Air Force Base)客座研究员(2001-2002)。目前是美国南伊利诺伊大学研究生院的博士生导师,学校事务委员会参议员,学校博士奖学金评委,学校科研基金评委,数学与统计学院研究生主任。
摘 要:
CANDECOMP/PARAFAC (CP) decomposition is essential for multi-way data analysis, yet standard Alternating Least Squares (ALS) solvers often suffer from slow convergence and "swamping". We propose SESOP-CP, a framework integrating Sequential Subspace Optimization (SESOP) with the MTTKRP computational structure. By treating factor matrices as a joint parameter vector, SESOP-CP optimizes within a low-dimensional subspace spanned by the current gradient, momentum, and the ALS direction.
Crucially, all subspace directions are derived from the same three MTTKRP operations as a single ALS sweep, ensuring minimal computational overhead. SESOP-CP achieves superlinear local convergence, bridging the gap between the efficiency of ALS and the speed of second-order quasi-Newton methods. Our results indicate that SESOP-CP significantly outperforms state-of-the-art solvers in ill-conditioned and high-rank regimes while remaining naturally extendable to regularized and quaternion domains.
欢迎老师、同学们参加、交流!