上海交大新聘AI博导,27岁!

  白小交衡宇发自凹非寺

  量子位公众号 QbitAI

  一份高校教职任命引发全网热议,冲上热搜第一:

  1997 年出生的清华叉院毕业生张林峰,今年 6 月拿下博士学位,现已担任上海交通大学人工智能学院助理教授、博士生导师,领导 EPIC(Efficient and Precision Intelligent Computing))实验室。

  1997 年在潍坊出生,那就是才 27 岁啊!

  张林峰的个人主页显示,他的研究方向包括大模型量化、高效推理等。

  此前,已发表一作和通讯作者论文 20 余篇,谷歌学术被引数超 2000 次。

  其中,最高引论文面向模型压缩方向,是张林峰大四时候完成的项目。

  不仅单篇被引数过 1000,还被同方向大神 MIT 副教授韩松(2023 年斯隆研究奖得主、深鉴科技联合创始人),写进了《TinyML and Efficient Deep Learning Computing》这门课程的 Lecture 9《Knowledge Distillation》。

  一时之间,各大平台都在讨论这位新晋博导,不仅在知乎浏览量超 80 万,还在微博热搜第一挂了 6 个小时,阅读量近 6000 万。

  网友围观感慨之余,有打趣的,be like:

  更多的是赞叹,这教科书版的人生,每一步都值得借鉴。

  27 岁的上交大博导

  张林峰本科毕业于东北大学计算机科学与工程学院,是 2019 年的优秀毕业生。

  本科毕业后,张林峰直博进入清华大学交叉信息研究院,师从副教授马恺声。

  读博期间,张林峰发表了 20 余篇论文,其中有 13 篇都是一作。

  自 2020 年起,他还常年担任 NeurIPS,ICML,ICLR,CVPR,ECCV,ICCV,AAAI、IJCAI、IEEE TPAMI、IEEE TCSVT、IEEE TIP 等众多学术会议与期刊的审稿人。

  今年 6 月顺利毕业时,张林峰同时获北京市优秀毕业生,清华大学优秀博士论文,清华大学启航奖金奖,交叉信息研究院优秀毕业生,并作为学院代表在参与清华大学毕业生座谈会,在毕业典礼上发言。

  今年 8 月,他又在香港科技大学(广州)的人工智能学域助理教授、副研究员以及博士生导师胡旭明的邀请下,赴香港科技大学(广州)兼任访问助理教授。

  他的主要研究方向为高效的人工智能,包括大模型、人工智能数据集的压缩与加速等,大概如下:

  • 轻量高效的语言/多模态大模型
  • 轻量高效的 AIGC 模型
  • 数据高效的人工智能

  据他个人主页介绍,他的研究成果已在华为、交叉信息核心技术研究院等公司/机构中得到使用。

  翻看张林峰的谷歌学术主页,截至本文发稿,他的被引数为 2223 次。

  最高引论文《Be your own teacher: lmprove the performance of convolutional neuranetworks via self distillation》(《通过自蒸馏提高卷积神经网络的性能》)发表于 ICCV2019,也就是张林峰大四的时候。

  他是论文一作,同时这篇论文也是他博导马恺声的最高引论文(doge)。

  这篇文章提出一种自蒸馏方法:使用模型的深层来蒸馏浅层。

  该方法将目标 CNN 按深度和原始结构划分为几个浅层部分,在每个浅层部分后设置一个由瓶颈层和全连接层组成的分类器(仅在训练时使用,推理时可移除)。

  训练时,所有浅层部分及其分类器作为学生模型,通过蒸馏从最深层部分(视为教师模型)获取知识。

  在显著提高 CNN 性能的同时,训练时间也更短。

  这篇论文首次证明了知识蒸馏中的教师模型并非必需,推动了无教师知识蒸馏领域的发展。

  《人民日报》微信公众号今早也发布了一篇介绍张林峰的推文。

  其中写道,毕业时,张林峰放弃了多家企业给出的百万薪资,选择到上海交通大学人工智能学院任教,开展科研与教育工作。

  张林峰表示:

我觉得做科研是一件很好玩儿的事。

  有一个好老师去引导是非常重要的。在清华时,我的导师就曾经很好地引导了我的科学之路。

  我也想为更多的同学营造一个有趣、有意义的科研环境。

  年轻博士成 AI 科研主力军

  像张林峰这样并非个例,越来越多的博士年纪轻轻就开始当博导,成为 AI 科研的主力军。

  他的导师马恺声就是一位。

  目前他是清华大学叉院助理教授、博士生导师,2018 年才从宾夕法尼亚州立大学计算机科学与工程系博士毕业,同年被姚期智招募回国,并入职清华大学。而张林峰应该算得上他第一波带出来的博士生。

  他的主要研究方向包括 Chiplet 后摩尔时代体系架构、AI 算法设计等,曾设计出全模式稀疏与量化结合的 AI 芯片“启明 910”和“启明 920”,在此基础上,设计了基于 Chiplet 技术的大算力芯片“启明 930”,在良率、成本、迭代速度方面达到领先水平。

  还有今年曾邀请过他去港科大(广州)访问的胡旭明教授。

  今年 1 月,他才从清华大学软件学院博士毕业,3 月加入香港科技大学(广州)人工智能学域副研究员、助理教授、博士生导师。本科毕业于大连理工大学。

  他的研究方向包括自然语言处理和大语言模型,具体包括可信大语言模型探究、大语言模型的蒸馏、加速以及垂类大语言模型的训练研发。博士期间师从 Philip S. Yu 教授,是 ACM/IEEE Fellow。谷歌学术显示,被引次数接近 1500 次。

  近年来,重庆大学、南方医科大学、浙江大学等都有非常非常年轻优秀的人入职当博导、教授。

  比如像 2021 年 1 月,年仅 25 岁的冯磊加入重庆大学计算机学院工作。据称是该学院首次直接给应届博士毕业生博导岗位。他只花了三年时间,就从新加坡南洋理工大学博士毕业,主要研究方向包括机器学习、数据挖掘、AI 等。

  AI 蓬勃发展加速落地应用,对创新和前沿研究的需求十分迫切。

  能够看到的是,这些年轻博士在大学期间就取得了显著的科研成果,其创新思维和科研实力也让他们成为 AI 科研主力军,受到学界认可

  这当然也离不开高校和科研机构,他们越来越注重人才培养和引进,让更多的年轻学者施展拳脚。

  本人回应:不希望给大家带来年龄焦虑

  对于这几天在网上受到的关注,张林峰透过人民日报也做了一些回应。

  他表示,

AI 也是很年轻的学科,年轻人是 AI 研究的主力军,不希望给大家带来年龄焦虑。

  作为一个做科研的人,因为“年轻”被大家关注到,会感到有些不安。

  未来,希望可以让更多人因为科研成果认识我。

  此外,他还透露之后他研究方向仍聚焦在 AI,希望在大模型发展道路上探索一条高效发展方式。

  参考链接:

  [1]http://www.zhanglinfeng.tech/

  [2]https://xuminghu.github.io/

  [3]https://www.tsinghua.edu.cn/info/1175/97093.htm

  [4]https://mp.weixin.qq.com/s/l1_rWfwkh1vDCgMD5HSTyQ

  [5]https://mp.weixin.qq.com/s/t4ofA8sbYEoD8EXpuBB_gQ

  [6]https://hanlab.mit.edu/courses/2024-fall-65940