一项机器学习实验在自己的数据上表现出色,换到稍有变化的样本却失去稳定性。对于博士训练来说,这往往不是实验的终点,而是研究开始的地方:算法究竟学到了什么规律,还是依赖数据中的偶然特征?要回答这个问题,仅增加模型规模不够,还需要能从数学结构与动力系统的角度重新描述现象。
新加坡国立大学数学系李千骁副教授的研究连接机器学习、动力系统、控制和科学计算。他的团队既研究如何用动力系统工具理解学习过程,也研究怎样从数据中学习物理过程的演化规律。这样的工作常常要求研究者同时掌握证明或分析、数值实验,以及把抽象假设转成可以检查的计算问题。
例如给出同一组时间序列,预测未来几步看似只是一个建模任务。但是观测变量不一定完整,采样间隔也可能掩盖快速变化的状态。若把模型当成黑箱,训练集误差可能很小,长期预测却不断偏离。若从动力系统角度分析,就必须问哪些状态是可识别的、模型在什么尺度上有效、误差积累如何影响结果。博士课题需要对这些失败给出解释。
博士训练不是把工具箱不断加大
李千骁的研究组公开介绍了科学机器学习、序列建模以及机器学习与控制的结合,团队主页也列出在读博士生。申请者从这些材料中能看出一个重要特征:训练并非要求人人已经完成一模一样的课题,而是期待研究者能在理论判断和计算实践之间往返。一个看似微小的实验差异,可能需要回到方程、数据假设或数值离散的方法本身。
假设有人做过物理系统的参数识别。只把结果写成“利用神经网络预测精度提升”,很难判断其理解有多深入;如果交代了观测变量的缺失、训练数据中的噪声、对比基线,以及为什么选择某类约束,材料就开始呈现研究推理。即使结果并未超过所有基线,清楚解释没有成功的原因,也比模糊的“达到预期效果”更接近学术训练。
同样,偏数学背景的申请者不一定要堆叠工程项目才能申请这类团队,但应展示自己如何处理具体问题:一个定理的假设对数据要求什么,推导中忽略哪些现实扰动,数值实验可以检验哪一部分结论。偏编程背景的申请者则需要解释代码背后的假设,而不是只说训练流程熟练。
资格考前后,能力评价在改变什么
读博的日常训练还包含不断缩小一个想法的范围。初始设想可能是“让科学计算更快”,但真正能开展的工作需要明确运算对象、近似精度、误差容忍度和与传统数值方法比较的准则。有时候一项更复杂的机器学习方法在总运算成本上未必占优,研究者必须能够正面解释这种结果。这种对失败方案的判断,是从课程项目进入博士研究时最需要适应的变化。
新加坡国立大学研究奖学金的官方标准,对国际博士生为每月 S$3,000,并提供相应的学费资助。通过博士资格考之后,符合条件的研究奖学金获得者可增加每月最多 S$500 的津贴,具体持续方式仍由相关规定和学业表现决定。奖学金本身需要申请、评定与后续续期,并不是进入某位导师团队便自动取得。
资格考不只是与津贴变化相连的时间节点。它在博士训练中的意义,是研究者要逐渐从复现他人的方法,转向清楚定义自己的问题,解释方案为什么值得验证。准备阶段如果习惯把所有实验写成“某个模型的应用”,到了需要独立论证研究问题的时候就会发现,模型可以更换,但判断研究价值的能力无法临时补齐。
从科学机器学习的研究对象可以看到这种转变。早期训练可以围绕给定算法与给定数据,检验数值是否正确;之后则应学会重新判断问题的可识别性、方法限制与验证标准。这种能力并不等于完全独立于导师,而是能够拿出一套清楚、可反驳、可继续修改的研究解释,与团队开展更深入的讨论。
研究组中的博士生与博后从不同背景进入科学计算问题,也意味着讨论会不断要求把专业词翻译成别人能够检验的结论。如果声称一种方法具有更好的泛化表现,应说明在哪些任务和条件下有效;如果声称某个动力系统能够被数据识别,应说明观测覆盖了哪些状态。这并非为了让论文更难读,而是保证结果能被其他研究者复核。
李千骁在新加坡国立大学任数学系副教授,同时担任功能智能材料研究所的研究人员;研究组公开列出多个博士生与研究主题。这些材料能够帮助申请者判断训练环境,却不能代替对个人招生名额与导师当年计划的确认。对希望进入交叉领域的申请者,最先值得修订的通常不是一页更华丽的简历,而是把自己已有工作中的假设、失败和验证过程说清楚。


