香港大学博士项目

项目介绍

Dr. Liu 即将加入香港大学 (HKU) 担任助理教授。此前,他在德国马克斯·普朗克 (MPI) 智能系统研究所担任独立课题组组长,同时也是图宾根ELLIS研究所的首席研究员。

他的研究长期围绕高效深度学习和下一代人工智能系统展开,涵盖大模型预训练、后训练、高效推理、扩散语言模型、循环Transformer、智能体以及递归自我改进人工智能等方向。该课题组的核心目标是构建更强大、更高效、更具持续进化能力的人工智能系统,具体包括以下几个研究方向:

1) 大模型预训练:涉及缩放定律、优化稳定性、深度有效缩放、模型架构、低精度训练、分布式训练等;

2) 后训练与推理能力提升:包括基于强化学习的推理训练、自我训练、自我蒸馏、测试时缩放、长程推理,以及如何在更少人工监督下使模型持续提升;

3) 递归自我改进人工智能:这是课题组极为重视的长期方向,核心关注模型如何持续改进自身的推理、记忆、反馈机制、训练数据和智能体框架,而非仅仅停留在工具调用层面;

4) 高效推理与模型压缩:包括稀疏性、低秩分解、量化、混合专家模型、键值缓存压缩、推测解码、扩散解码等。

推荐

所属院系:香港大学,计算与数据科学学院

项目时长:3 年

申请要求:

·有扎实的机器学习或深度学习基础,熟悉 PyTorch;

·拥有 Triton / CUDA / 分布式训练等方面的经验者优先。

申请方式:按照导师要求,通过邮件发送简历及其他证明材料。经过双向选择后,向院校递交申请。

推荐
上一篇

普渡大学博士后项目介绍

下一篇

慕尼黑工业大学博士后项目

返回顶部