南京大学PASA大数据实验室论文被人工智能顶级会议ICML 2025录用

近日，南京大学PASA大数据实验室在神经网络架构搜索（Neural Architecture Search，NAS）方向的论文“RZ-NAS: Enhancing LLM-guided Neural Architecture Search via Reflective Zero-Cost Strategy”被人工智能国际顶会、CCF-A类会议ICML 2025录用。论文重新思考了LLM在NAS中的作用，并通过结合 LLM 的文本和代码层次的理解，设计了一种基于结构化提示的方法（简称RZ-NAS），将架构生成与反射机制和零代价搜索相结合，充分释放了LLM-to-NAS的潜力。实验证明，RZ-NAS在多种数据集和搜索空间上均优于现有最先进的LLM-to-NAS和零代价NAS方法，展现出强大的性能和泛化能力。论文作者来自南京大学PASA大数据实验室，主要工作由PASA大数据实验室研究生吉梓芃完成，论文指导教师为朱光辉研究员。

ICML 2025会议的全称为Forty-Second International Conference on Machine Learning，是人工智能领域最有影响力的顶级学术会议之一，被中国计算机学会评选为CCF-A类国际顶会，与NeurIPS、ICLR并称为人工智能机器学习领域最权威的三大国际顶级学术会议，其将于2025年7月13日至7月19日在加拿大温哥华召开。本次会议共收到12107份投稿，录用率为26.9%。

神经网络架构搜索是AutoML（Automated Machine Learning）自动化机器学习中的核心研究问题。该论文工作充分利用大语言模型的文本理解和代码理解能力，实现神经网络架构的搜索(LLM for NAS)，并结合zero-cost评估策略和大模型的反思机制，实现了良好的架构搜索性能和搜索效率。该工作属于 LLM for AutoML，目前本组也在从事AutoML for LLM的工作（如大模型自动微调），降低垂域大模型微调与部署推理的技术门槛，实现LLM与AutoML的双向奔赴！