数学科学学院学术报告[2024] 107号
(高水平大学建设系列报告987号)
报告题目: Loss landscapes and optimization in over-parameterized Deep Neural Networks
报告人:贾西西 副教授(西安电子科技大学)
报告时间:2024年10月29日10:00-11:30
报告地点: 汇星楼514
报告内容:本报告旨在为过参数化机器学习模型及非线性方程组中的损失景观和高效优化提供现代视角和一般数学框架,这包括过参数化深度神经网络的情境。我们展示了过参数化的神经网络虽然是非凸的,但是其满足PL条件,这保证了在局部区域内解的存在性以及梯度下降/随机梯度下降的快速收敛。
报告人简历:贾西西,西安电子科技大学数学与统计学院副教授,青年华山学者,香港理工大学研究员。主要研究方向包括:低秩矩阵逼近问题,深度学习的优化方法以及深度学习在图像复原问题中的应用。目前发表期刊和会议论文十余篇,其中包括top期刊IEEE TIP,TNNLS, SIAM journal on image sciences以及顶会CVPR, NeurIPS, ICCV, ICLR等。分别主持国家自然科学基金青年项目和面上项目各1项、主持博士后面上项目1项。获得“澳门青年学者计划”、“陕西省高校优秀青年人才支持计划”、陕西省高等学校优秀科研成果二等奖等荣誉。
欢迎师生参加!
邀请人:李敏
数学科学学院
2024年10月28日