沈向洋创造清华历史 成为史上首位视频聘任的清华教授

  文/郭一璞

  来源:量子位(ID:QbitAI)

  今天早上,离开微软的沈向洋正式续聘清华,在清华讲了第一堂课。

  去年 11 月沈向洋离职微软后,就在本周前几天,沈向洋续聘清华,在清华的 title 是清华大学高等研究院双聘教授

  清华大学校长邱勇说,这是清华大学历史上第一次以视频会议的形式举行聘任仪式,校长连线发聘任书。

  这次聘任仪式的两端分别在中美两地,校长和工作人员们在位于北京的清华大学工字厅,而沈向洋博士在位于西雅图的清华大学全球创新学院(GIX)大楼 127 室。

  邱勇校长还开玩笑说:“我也是第一次跟向洋博士以这种形式见面,向洋博士在屏幕上很帅,比以前都帅。”

  之所以是“续聘”,是因为这其实是沈向洋在清华的第二场聘任仪式。2005 年,沈向洋首次受聘清华高等研究院双聘教授,距今已经过去了 15 年。

  聘任仪式之后,借助 Zoom 直播平台,沈向洋进行了主题为 Engineering Responsible AI 的课程演讲。

  沈向洋提到,AI 目前在社会各界中都有应用,人们借助 AI 来做决策。但现在,AI 已经在做我们不懂的决策。

  许多 AI 系统就像黑箱一样,AI 做了决策,但我们不知道它为什么这样做。

  因此,负责任的 AI 是很重要的,每个创造 AI 的人都应该了解一些 AI 创造的原则。

  之后沈向洋重点讨论了可解释的 AI 和 AI 的偏差(bias)

  关于可解释的 AI,沈向洋举了一个 AI 分辨哈士奇和狼的例子。

  在以下 6 张照片中,只有左下角的一张被识别错了。

  但其实,AI 可能并非像我们理解的那样,通过动物的外形来辨别的,它的辨别方法可能是这样:

  AI 的判断并非通过图片中的动物部分,而是通过图片中除了动物之外的部分进行的。

  因此,可解释的 AI 非常重要,不然你永远都不知道 AI 可能是用这种作弊的方法来判别哈士奇和狼的。

  而关于偏差,沈向洋举了性别偏差的例子。

  曾经有人发现一个人脸识别系统里,识别不准的都是女性、不化妆、短发、不苟言笑的照片,而其他人就相对更准一些。

  而在词嵌入中,问题更为明显。

  同一段描述,当文中用的是 she/her 等女性词汇时,AI 判断这段文字描述的是老师;

  而当里面的 she/her 变成 he/his/him 等男性词汇时,AI 就会判断这段文字描述的是律师。

  一个典型的例子是“He’s Brilliant, She’s Lovely”。

  在一个词嵌入系统中,当主语分别是“她(she)”和“他(he)”时,出现的词是不一样的:

  她是“姐妹”,他是“兄弟”;

  她是“护士”,他是“大夫”,谈到这里,沈向洋吐槽说,你们没发现哪里不对么?

  她是“家庭主妇”,他是“程序员”;

  她说“OMG”,他说“WTF”;

  她是“女权主义者”,他是“现实主义者”;

  她“怀孕”了,他“肾结石”了;

  ……

  这是词嵌入里的偏差,很多时候人们想都不想,就直接用了。

  最后,沈向洋教授总结说,我们是第一代和 AI 共存的人类,我们得决定怎么构建 AI、怎么用 AI。我们能接受一个 AI 做的决定、我们人类无法理解的世界吗?

  One More Thing

  最后,沈向洋还表达了他对 NLP 领域的期待。

  他说,CV 现在还很火,但未来十年自己看好 NLP:

  “懂语言者得天下。”

  这是沈向洋全程唯一一句中文。

  传送门

  如果你想了解沈向洋演讲的具体内容,清华大学微博上可以查看回放:

  https://weibo.com/1676317545/Ixadc8PhK?from=page_1002061676317545_profile&wvr=6&mod=weibotime&sudaref=weibo.com&display=0&retcode=6102&type=comment

Published by

风君子

独自遨游何稽首 揭天掀地慰生平

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注