勷勤数学•专家报告-肖明庆

勷勤数学•专家报告


题      目:SESOP-CP: Accelerating Tensor Decomposition via Sequential Subspace Optimization


报  告  人: 肖明庆 教授  (邀请人:黎稳)

                                     美国南伊利诺伊大学


时      间: 5月14日  15:00-16:00

          

地     点:数科院东楼401


报告人简介:

        肖明庆博士1991-1997年在美国伊利诺伊大学香槟分校(UIUC)学习。师从著名控制论专家, 美国国家工学院院士Tamer Basar 从事魯棒控制理论研究。1997 获得应用数学博士学位。 从1997年7月至1999年12月,他在美国加州大学戴维斯分校担任助理教授。从2000年起在美国南伊利诺伊大学任教,曾任助理教授(2000-2002),副教授(2002-2007),正教授(2007-现在)。曾任美国空军实验室(Wright-Patterson Air Force Base)客座研究员(2001-2002)。目前是美国南伊利诺伊大学研究生院的博士生导师,学校事务委员会参议员,学校博士奖学金评委,学校科研基金评委,数学与统计学院研究生主任。 



摘      要:

       CANDECOMP/PARAFAC (CP) decomposition is essential for multi-way data analysis, yet standard Alternating Least Squares (ALS) solvers often suffer from slow convergence and "swamping". We propose SESOP-CP, a framework integrating Sequential Subspace Optimization (SESOP) with the MTTKRP computational structure. By treating factor matrices as a joint parameter vector, SESOP-CP optimizes within a low-dimensional subspace spanned by the current gradient, momentum, and the ALS direction.

Crucially, all subspace directions are derived from the same three MTTKRP operations as a single ALS sweep, ensuring minimal computational overhead. SESOP-CP achieves superlinear local convergence, bridging the gap between the efficiency of ALS and the speed of second-order quasi-Newton methods. Our results indicate that SESOP-CP significantly outperforms state-of-the-art solvers in ill-conditioned and high-rank regimes while remaining naturally extendable to regularized and quaternion domains.


       


          欢迎老师、同学们参加、交流!