电子信息与通信学院-廖振宇导师介绍
廖振宇
副研究员
硕，博士生导师
男
电子信息与通信学院
信息与通信工程
,电子信息
机器学习,随机矩阵理论,高维统计学,信号处理
zhenyu_liao@hust.edu.cn
博士招生专业
1
信息与通信工程
2024
学术型博士
硕士招生专业
1
信息与通信工程
2024
学术型硕士
2
电子信息
2024
专业学位硕士
廖振宇，于法国巴黎萨克雷大学获信号与图像处理硕士和计算机博士学位，后在美国加州大学伯克利分校从事博士后研究工作，于2021年起至今在华中科技大学电信学院工作，任副研究员。
长期从事“面向高维数据的大规模机器学习的基础理论和关键技术”的研究，将高维统计学和随机矩阵理论应用于复杂大规模机器学习系统设计，以解决非监督学习、神经网络优化设计、压缩和加速问题，成果发表在ICML、NeurIPS、ICLR、COLT、AISTATS、TSP、AAP、JSTAT等人工智能、机器学习顶级会议与期刊，合著专著Random Matrix Methods for Machine Learning，被美国科学院院士Gérard Ben Arous在封底简评中评价为“very well-organized and carefully written book by two leading experts”。长期受邀担任多个人工智能、机器学习领域顶级会议和期刊的审稿人或程序委员会委员，受邀担任欧盟自然科学基金ERC和加拿大自然科学基金NSERC外部评审。
受邀为加拿大CRM-Simons访问教授、法国ANR-CIMI访问教授，获湖北省青年人才计划、湖北省武汉英才、华中科技大学东湖青年学者和法国巴黎萨克雷大学ED STIC优秀博士论文。牵头或参与包括中国自然科学基金青年基金、重点专项，CCF-海康威视斑头雁基金， 广东省人工智能数理基础重点实验室开放基金、华为拉格朗日数学计算中心研究基金、法国和美国自然科学基金等一系列科研项目。
展开更多
科研项目
2024-2026：广东省人工智能数理基础重点实验室开放基金:基于随机矩阵方法的 Transformer 模型泛化理论研 究(OFA00003)，10 万元，主持
2023-2025：国家自然科学基金青年科学基金项目：基于随机矩阵方法的神经网络模型剪枝基础理论研究（NSFC-62206101），30 万元，主持
2023-2025：华为技术有限公司校企合作项目:随机矩阵理论驱动的通信理论和算法研究(TC20231122043)， 59 万元，主持
2022-2025：国家自然科学基金“面向未来通信的数学基础（信息论）”专项项目：智能反射面辅助的新型无线通信数学理论与数学技术（NSFC-12141107），300 万元，核心成员
2021-2024：中国中央高校基本科研业务费专项资金资助（No. 2021XXJS110）：高维随机矩阵方法在机器学习模型中的理论和应用，50 万元，主持
2021-2023 湖北省重点研发计划项目：新一代工业互联网网络关键技术研究（2021BAA037），100 万元，核心成员
2021-2022 中国计算机学会 CCF-海康威视斑头雁基金项目：基于随机矩阵和信息瓶颈理论的神经网络表达和压缩的研究（20210008），28 万元，主持
2021-2024 广西省重点研发计划项目：交通路网重要节点主动安全防控智能一体化成套技术研究与产业化（桂科 AB21196034），500 万元，核心成员
2018-2021 NSF Research Grant, Combining Stochastics and Numerics for Improved Scalable Matrix Computations (NSF-1815054)，500k 美元，核心成员
2018-2021 法国高等教育、研究与创新部：GSTATS-IDEX DataScience Chair，300k 欧元，核心成员
2015-2017 法国自然科学基金委：Random Matrix Theory for Large Dimensional Graphs （ANR-14-CE28-0006），300k 欧元，核心成员
展开更多
研究成果
W. Yang, Z. Wang, X. Mai, Z. Ling, R. C. Qiu, Z. Liao “Inconsistency of ESPRIT DoA Estimation for Large Arrays and a Correction via RMT”, IEEE 32nd European Signal Processing Conference (EUSIPCO 2024), 2024.
Z. Ling, L. Li, Z. Feng, Y. Zhang, F. Zhou, R. C. Qiu, Z. Liao “Deep Equilibrium Models are Almost Equivalent to Not-so-deep Explicit Models for High-dimensional Gaussian Mixtures”, International Conference on Machine Learning (ICML 2024), 2024.
Y. Song, K. Wan, Z. Liao, H. Xu, G. Caire, S. Shamai, “An Achievable and Analytic Solution to Information Bottleneck for Gaussian Mixtures”, 2024 IEEE International Symposium on Information Theory (ISIT 2024), 2024.
Y. Wang, Z. Feng, Z. Liao, “FedRF-Adapt: Robust and Communication-Efficient Federated Domain Adaptation via Random Features”, Workshop on Timely and Private Machine Learning over Networks, 2024 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP 2024), 2024. slides
Y. Du, Z. Ling, R. C. Qiu, Z. Liao, “High-dimensional Learning Dynamics of Deep Neural Nets in the Neural Tangent Regime”, High-dimensional Learning Dynamics Workshop, The Fortieth International Conference on Machine Learning (ICML'2023), 2023.
Z. Ling, Z. Liao, R. C. Qiu, “On the Equivalence Between Implicit and Explicit Neural Networks: A High-dimensional Viewpoint”, High-dimensional Learning Dynamics Workshop, The Fortieth International Conference on Machine Learning (ICML'2023), 2023.
L. Gu, Y. Du, Y. Zhang, D. Xie, S. Pu, R. C. Qiu, Z. Liao, “ “Lossless” Compression of Deep Neural Networks: A High-dimensional Neural Tangent Kernel Approach”, The 36th Conference on Neural Information Processing Systems (NeurIPS'2022), 2022.
H. Tiomoko, Z. Liao, R. Couillet, “Random matrices in service of ML footprint: ternary random features with no performance loss”, The Tenth International Conference on Learning Representations (ICLR'2022), 2022.
Z. Liao, M. W. Mahoney, “Hessian Eigenspectra of More Realistic Nonlinear Models” (oral), The 35th Conference on Neural Information Processing Systems (NeurIPS'2021), 2021.
M. Dereziński, Z. Liao, E. Dobriban, M. W. Mahoney, “Sparse sketches with small inversion bias”, The 34th Annual Conference on Learning Theory (COLT'2021), 2021.
F. Liu, Z.Liao, J. A.K. Suykens, “Kernel regression in high dimension: Refined analysis beyond double descent”, The 24th International Conference on Artificial Intelligence and Statistics (AISTATS'2021), 2021.
Z.Liao, R. Couillet, M. W. Mahoney, “Sparse Quantized Spectral Clustering” (spotlight), The Ninth International Conference on Learning Representations (ICLR'2021), 2021.
Z.Liao, R. Couillet, M. W. Mahoney, “A Random Matrix Analysis of Random Fourier Features: Beyond the Gaussian Kernel, A Precise Phase Transition, and the Corresponding Double Descent”, The 34th Conference on Neural Information Processing Systems (NeurIPS'2020), Vancouver, Canada, 2020.
M. Dereziński, F. Liang, Z. Liao, M. W. Mahoney, “Precise expressions for random projections: Low-rank approximation and randomized Newton”, The 34th Conference on Neural Information Processing Systems (NeurIPS'2020), Vancouver, Canada, 2020.
X. Mai, Z. Liao, R. Couillet, “A Large Scale Analysis of Logistic Regression: Asymptotic Performance and New Insights”, 2019 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP'2019), Brighton, UK, 2019.
Z. Liao, R. Couillet, “On the Spectrum of Random Features Maps of High Dimensional Data”, Proceedings of the 35th International Conference on Machine Learning (ICML'2018), Stockholm, Sweden, 2018. (long talk)
Z. Liao, R. Couillet, “The Dynamics of Learning: A Random Matrix Approach”, Proceedings of the 35th International Conference on Machine Learning (ICML'2018), Stockholm, Sweden, 2018. (long talk)
Z. Liao, R. Couillet, “Random Matrices Meet Machine Learning: A Large Dimensional Analysis of LS-SVM”, 2017 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP'2017), New Orleans, USA, 2017.
J. Wang, S. Zhang, J. Cai, Z. Liao, C. Arenz, R. Betzholz, “Robustness of random-control quantum-state tomography”, Physical Review A 108 (2 Aug. 2023), 022408.
Y. Chitour, Z. Liao, R. Couillet, “A geometric approach of gradient descent algorithms in linear neural networks”, Mathematical Control and Related Fields, 13(3) (2023), 918–945.
Z.Liao, R. Couillet, M. W. Mahoney, “A random matrix analysis of random Fourier features: beyond the Gaussian kernel, a precise phase transition, and the corresponding double descent”, Journal of Statistical Mechanics: Theory and Experiment 2021(12) (Dec. 2021), 124006.
Z. Liao, R. Couillet, “A Large Dimensional Analysis of Least Squares Support Vector Machines”, IEEE Transactions on Signal Processing 67 (4) (Feb. 2019), 1065-1074. (University of Paris-Saclay ED STIC Ph.D. Paper Award)
C. Louart, Z. Liao, R. Couillet, “A Random Matrix Approach to Neural Networks”, The Annals of Applied Probability 28 (2) (Apr. 2018), 1190-1248.
展开更多
学校介绍
华中科技大学是国家教育部直属的全国重点大学，是目前国内规模最大、水平一流的多学科综合性大学之一，是国家“211工程”、“985工程”重点建设的高水平大学之一。学校学科齐全，结构合理，涵盖哲学、经济学、法学、教育学、文学、理学、工学、医学、管理学等11大门类。学校现拥有国家重点学科15个，博士学位授权一级学科24个，博士学位授权二级学科159个，硕士学位授权二级学科234个，并有工程硕士、法律硕士、MBA（含EMBA）、MPA、临床医学硕士、公共卫生硕士（MPH）、风景园林硕士等专业学位授权。
华中科技大学研究生院成立于1984年，是全国首批研究生院之一。我校从1961年开始招收研究生，现有在校全日制研究生17000余人。我校首批获准在博士学位授权一级学科范围内自主设置二级学科专业，首批获准自主确定硕士研究生入学考试复试分数线，是我国全面实施《中华人民共和国学位条例》、造就高层次专门人才的研究生培养基地之一。
华中科技大学坚持“育人为本，创新是魂，责任以行”的办学理念，促进人文教育与科学教育相融合，促进学研产协调发展，培养具有国际竞争力的创新人才。在研究生教育上，根据“创新是灵魂，科学研究主导是核心，导师负责制是基础”的指导思想，不断提高培养质量，产生更多的创新成果。
研究生院注重研究生教育与科学研究紧密结合，课程学习与学位论文研究并重，学校教育与社会实践相结合，校企合作培养，国内外联合培养，学年制与学分制相结合的弹性学制等办学思路和形式，有力地促进了我校研究生教育的发展。
研究生院始终将研究生培养质量放在工作的首位，采取了一系列的措施提高质量。实施与健全导师负责制，配备研究生政治辅导员，实行奖学金、助学金制度，设立研究生“三助”岗位，实行研究生中期考核，进行博士导师遴选和副导师预备队伍建设，资助和扶持导师编写、出版专著和研究生教学用书，推进研究生培养基地建设等，研究生教育质量得到了广泛肯定，在全国高校中具有重要影响力。
丰富多彩的研究生活动，是我校研究生教育的一大特色。“科学精神与实践讲座”、“博士论坛”、 “学术沙龙”、“企业论坛”、“科技十佳”评比、研究生运动会、“十大歌手赛”等课外科技、文化、体育活动，极大地丰富了研究生的生活，开阔了眼界。研究生社会实践活动和研究生社团活动使研究生增长了才干，提高了适应性，增强了社会责任感。研究生会设立了研究生科技创新基金，建立了专业性科技创新基地，开展学术年会、学术讲座和研究生科技创新活动，培养研究生的创新意识、实践能力和创业精神。
我校始终重视研究生院的建设，不断强化服务与管理职能。本着“育人为本”和“以学生为本”的办学理念，致力于建设“招生—培养—就业”一条龙的服务体系，为研究生提供全方位的优质服务。
“学在华中科大”的优良传统，蓬勃向上的精神状态，以人为本的优质服务，体现了华中科技大学研究生院的精神面貌。
展开更多