墨尔本大学两项ARC项目招收博士,各资助1个名额

银行用AI拒了你的贷款申请,系统给出一句解释:“如果你的年收入再高5000澳元,申请就会通过。”这句话听起来很有用,可它到底解释了什么?

这类“如果当时……就会……”的解释,叫反事实解释,是可解释AI里很流行的一种做法。它不去打开模型内部,只是改一改输入,看输出怎么变。墨尔本大学的哲学学者Sam Baron认为,这种做法有一个根本缺口:它得到的只是相关信息,而相关不等于因果。

他在一篇面向大众的文章里写过这个问题。可解释AI大致有两条路:一条是打开模型,研究内部的组件;但很多系统复杂到根本打不开。另一条是不打开,只看输入和输出的变化规律,反事实方法就属于这一条。问题在于,哲学上对“解释”的研究一再表明,要解释一件事为什么发生,就要知道是什么造成了它。

2023年,他在《Minds and Machines》上发表了一篇论文,专门处理这个缺口。他借用了Pearl和Woodward的因果框架。这个框架本身也建立在反事实依赖上,但多了一层要求:原因是那种你去“干预”它、结果就会随之改变的因素。他用这个框架分析可解释AI里的反事实方法,指出它的局限,并提出把两者更充分地结合起来。

回到贷款的例子。“收入再高5000就会通过”这句话,没有告诉你模型是因为收入本身,还是因为某个和收入高度相关的变量做出的判断。如果是后者,你真去加薪,结果未必会变。干预主义追问的,正是这一层。

这个问题不只停留在哲学层面。欧盟的《通用数据保护条例》支持个人获得解释的权利,而AI会越来越多地被用在招聘、签证、晋升和经费分配这类决定上。没有可靠的解释,人们就没法纠正AI犯的错。

他现在主持的澳大利亚研究理事会Discovery项目,就叫“可解释AI的干预主义方法”。项目要找出反事实解释在AI系统上遇到的哲学难题,研究怎样用干预主义来搭建可解释AI系统,还要做用户研究,比较人们怎样看待反事实解释和干预主义解释。合作者来自心理学和计算与信息系统,项目本身就是一个哲学、认知科学和计算机科学的交叉组合。

这个项目里,博士生会处在一个不太常见的位置:既要能读懂哲学论文里关于因果和解释的论证,又要能理解一个分类模型怎样生成反事实样本,还要会设计实验,看普通人拿到不同类型的解释后,判断有没有变准。三件事缺一件,项目都推不下去。

推荐

他手上还有另一个完全不同的项目,由澳大利亚研究理事会的Future Fellowship资助,题目是“时空的新因果基础”。物理学的近期发展提示,时间和空间在某些尺度上可能并不存在;可科学实验通常发生在时空之中,如果时空没了,“做实验”是什么意思就说不清了。这个项目想用因果关系来替代时空,作为科学概念框架的基础。他和合作者2022年在牛津大学出版社出过一本专著,书名就叫《Out of Time》,讨论的是“没有时间”这件事在哲学上意味着什么。

他对“解释”的兴趣由来已久。2016年他和Mark Colyvan在《Journal of Philosophy》上发表的《Time Enough for Explanation》,讨论的就是科学解释和时间的关系。从那时到今天的可解释AI,线索是连着的。

两个项目看上去一个关于AI、一个关于物理,问的是同一件事:当我们说“A导致了B”时,我们到底依据的是什么。

这两个博士名额

根据哲学与历史学院发布的招聘信息,这两个项目各资助一个2027年入学的博士名额。时空方向由他本人指导,适合对科学形而上学、尤其是因果、时间或物理感兴趣的人;可解释AI方向则由他和来自哲学、认知科学、计算机科学的合作者共同指导,要求在哲学和计算机两方面都有基础。资助按墨尔本大学研究生奖学金标准,生活津贴每年39,500澳元(按比例),博士最长3.5年。

需要说明的是,这则招聘帖设定的到期日是2026年9月21日。有意向的人应先直接联系他,确认名额是否仍在,再走墨尔本大学的研究生申请流程。

他2024年加入墨尔本大学,此前在澳大利亚天主教大学任哲学教授和Dianoia哲学研究所副所长,博士毕业于悉尼大学。

写研究陈述前,可以先想一个问题:如果你要向一个被拒贷的人解释AI的决定,你会怎样设计一个实验,区分“收入本身起作用”和“与收入相关的别的东西起作用”?

推荐
上一篇

LSE更新26fall本科招生数据:中国区申请量暴涨1167,4个专业零录取

下一篇

新加坡管理大学全奖博士招生|AI陪伴与青少年心理健康方向

返回顶部