↑被称为“人工智能（AI）教父”的杰弗里·辛顿

据多家媒体报道，被称为“人工智能（AI）教父”的杰弗里·辛顿日前证实，他已经从工作了十余年的谷歌离职，现在可以畅谈AI可能带来的风险。在接受媒体采访时，他表示，“我对我毕生所研究的东西感到后悔了。”

(资料图)

杰弗里形容称，AI聊天机器人所带来的某些危险“相当恐怖”。报道称，开发出了被认为是当代AI基础系统的杰弗里已经正式加入了“AI批评者”的行列。

杰弗里在社交平台解释称，他之所以从谷歌辞职，是为了可以在不考虑对谷歌产生影响的情况下，谈论AI的危险性。此外，他告诉媒体，自己的年龄也是个问题，“75岁，的确是个该退休的年龄了。”

↑杰弗里在社交平台的相关推文

“AI教父”态度转变：

警告“AI未来会对人类构成威胁”

据介绍，1972年，还在读研究生的杰弗里接受了一种名为“神经网络”（neural networks）的概念——所谓“神经网络”，是指一个可以通过数据分析来学习技能的系统。彼时，很少有研究人员相信这一概念能成真，但它却成为了杰弗里此后学术生涯的重要课题。

上世纪80年代，已经成为卡内基梅隆大学计算机科学教授的杰弗里，不愿接受美国国防部资助，转而离开美国前往加拿大。2012年，杰弗里和他在加拿大多伦多的两名学生创建了一家专注于“神经网络”的公司，其团队当时通过分析数百万张照片打造出一款可区分动物、物体图片的“神经网络系统”，能识别常见物体，如花、狗和汽车。值得一提的是，两名学生之一的伊利亚，后来成为了人工智能研究公司OpenAI的首席科学家。

↑伊利亚后来成为OpenAI的首席科学家

此后，谷歌以4400万美元的价格收购了杰弗里与两名学生创办的公司。而他们所开发出的系统，也为今后越来越强大的AI——如ChatGPT和Bard等新型聊天机器人——打下了基础。2018年，杰弗里因在“神经网络”方面的工作取得突出成就，获得了有着“计算机届诺贝尔奖”之称的图灵奖。

事实上，杰弗里一开始相信“机器理解和生成语言的方式不如人类处理语言的方式”，但在去年，随着谷歌、OpenAI通过使用大量数据构建出系统，他的观点发生了变化，“也许在某些方面，AI会比人脑处理得更好。”杰弗里表示，此前他认为“AI比人类更聪明”这一现象可能出现在30-50年之后，但现在他认为，这一切可能发生得更快。

现阶段，杰弗里最担心的就是通过利用AI，网络上会出现很多虚假的图片、视频和文字，这可能让人分不清真假。其次，他还担心AI将改变整个人类就业市场，可能导致如律师助理、私人助理、翻译等岗位的消失。在未来，杰弗里担心AI会对人类构成威胁，“因为AI可能通过大量的数据和分析，出现一些令人意想不到的行为。”杰弗里解释道。

杰弗里补充称，一些公司和个人已经允许AI写代码，甚至自主运行代码。“我担心未来类似于‘杀人机器人’的自动化武器可能成为现实。”杰弗里称，“现在很难防止坏人利用AI做坏事。”

据了解，此前在被问及“AI会不会被用于危险技术”时，杰弗里回答称“你可以试试看”。而现在，他不会再这么说了。

报道指出，在很多科技研究人员看来，诸如“AI成为‘杀人机器’”一类的威胁还只是假设性的。不过杰弗里认为，在谷歌、微软等多家科技巨头争先发展AI技术后，“科技巨头陷入了一场无休止的竞争”。在他看来，这样针对“AI技术发展”的竞争，将让AI系统变得越来越危险。

对毕生研究感到后悔

安慰自己“我不研究，别人也会研究”

事实上，在OpenAI于3月发布新版ChatGPT后，1000多名科技领域领导者和研究人员便以“AI技术给人类和社会带来了风险”为由，签署了一封公开信，呼吁暂停系统开发6个月。数日后，包括微软首席科学官员埃里克在内的人工智能促进协会19位现任和前任领导人也发布信函，警告人工智能的风险。

而当时还未辞职的杰弗里并未参与上述两起警告活动，并表示在自己辞职前，不想批评谷歌或者其他公司。

上个月，杰弗里才通知谷歌要辞职，并与谷歌母公司Alphabet的首席执行官桑达尔·皮查伊通了电话。媒体报道称，杰弗里的离职对谷歌而言是个损失。

尽管杰弗里称在辞职后才能畅谈AI所带来的风险，但有消息称，今年3月，杰弗里就已经就AI所带来的风险敲响了警钟。当时，在被问及“人工智能会不会消灭人类”时，杰弗里回答称“这并不是令人难以置信的事”。

在接受媒体采访时，杰弗里坦言“自己对毕生研究的东西感到后悔了”。“我只能这样安慰我自己：即便是我不做相关研究，也会有其他人从事这项研究。”他说道。而一份内部文件显示，在过去一年里，杰弗里减少了自己在谷歌的上班时间。去年3月，他只有20%的时间在全职工作；同年晚些时候，他被分配到了一个新团队担任职务。