datasheet

QbitAI量子位

文章数:1276 被阅读:13042541

账号入驻

Hinton:硕士毕业就进企业提不出全新想法,AI好坏取决于社会制度

2019-01-05
    阅读数:
李杉 夏乙 编译整理
量子位 出品 | 公众号 QbitAI

人们说,人工智能会带来风险,人工智能产业要促进,人工智能需要监管,人工智能军备竞赛愈发激烈。

他们还说,人工智能人才非常非常短缺,年轻人,如果你想入行……

深度学习教父Geoffrey Hinton的建议,值得一看。在一份访谈中,他面向想做人工智能研究的年轻人,给出了一些忠告。当然,前边所说的风险、监管、产业等等问题也都有谈及。

这份访谈,来自马丁·福特(Martin Ford)新书,《智能缔造者:人工智能开发者口述真相》(Architects of Intelligence: The Truth About AI from the People Building It)。

Hinton认为,年轻人如果读个硕士然后就直接进入工业界,对研究是不利的。这样的人提不出全新的想法,学界应该留住那些受过良好教育的研究生,他们需要坐下来,思考几年才行。

他也鼓励年轻人批判地看待基础理论、挑战基本假设,也要在认为大家想法都错了的时候,坚持自己的直觉。

以下,是《智能缔造者》中节选出来的这段访谈

福特:我们来谈谈人工智能的潜在风险。有一个具体挑战是对就业市场和经济的潜在影响。你是否认为所有这些都可能引发新的工业革命并彻底改变就业市场?如果是这样,我们真的需要为此担忧,还是说这可能又被夸大其词了?

Hinton:如果你能够大幅提高生产力并提供更多好处,那应该是一件好事。

它是否是一件好事完全取决于社会制度,根本不取决于技术。人们却在研究技术,就像把技术进步是一个问题一样。

问题在于社会制度,在于我们是否会建立一个公平分享的社会制度,或者说,我们的社会制度会是公平的,还是会让所有进步集中体现在1%的人群身上,然后把剩下的人看得一文不值。

这与技术无关。

福特:那么问题就来了,因为很多工作都会消失——特别是可以预测,而且易于自动化的工作。社会对此作出的反应是为这类人提供基本收入。你同意这种做法吗?

Hinton:是的,我认为基本收入是一个非常明智的想法。

福特:那么,你认为需要通过政策来解决此事吗?有些人认为我们应该让事情自然发展,但那似乎不负责任。

Hinton: 我搬到加拿大是因为这里税率较高,因为我认为正确的税收是好事。政府应该做的是建立各种机制,以便当人们出于自身利益行事时,也会帮助到每个人。高税收是一种这样的机制:当人们致富时,其他人都会获得税收的帮助。

想要确保人工智能让每所有人都受益,还有很多工作要做。我当然认同这种观点。

福特:你对其他一些跟人工智能有关的风险怎么看?比如武器化?

Hinton:是的,我对普京总统最近所说的一些事情感到担忧。

我认为人们现在应该采取非常积极的措施,努力让国际社会以对待化学武器和大规模杀伤性武器的态度,来对待那些不需要人类参与就能杀死人类的武器。

福特:你是否赞成暂停某种类型的研发?

Hinton:这种类型的研发不会暂停,就像神经毒剂的发展也没有暂停一样,但的确有一套国际机制来阻止它们被广泛使用。

福特:除军事武器外,你怎么看待其他风险?是否有其他问题,比如隐私和透明度?

Hinton:我认为有,用它来操纵选举和选民非常令人担忧。剑桥分析由Bob Mercer成立,他是一名机器学习研究人员,你已经看到剑桥分析造成了很大的破坏。我们不得不认真对待。

福特:你认为有监管空间吗?

Hinton:是的,需要很多监管。这是一个非常有趣的问题,但我不是这方面的专家,所以谈不了太多。

福特:你怎么看一般的全球军备竞赛?你认为不应该让一个国家遥遥领先领先其他国家吗?

Hinton:你所谈论的是全球政治问题。

很长一段时间,英国是一个占主导地位的国家,但他们表现得不是很好。

然后就是美国,他们表现得也不是很好。

换一个国家主导,我也不指望他们会有很好的表现。

福特:你认为我们应该采取某种形式的产业政策吗?美国和其他西方政府是否应该关注人工智能,并将其作为国家重要发展方向?

Hinton:技术将迎来巨大的发展,如果一个国家不努力追赶潮流,它肯定是疯了。所以很明显,我认为应该有很多投资。这在我看来似乎是常识。

福特:总的来说,你对这一切感到乐观吗?你认为人工智能是利大于弊吗?

Hinton:我希望利大于弊,但我不知道最终能否如愿。这是一个社会制度问题,而不是技术问题。

福特: 人工智能人才短缺,大家都在招聘。对于想要进入这个领域的年轻人,你有没有什么建议?你能否再提一些建议来吸引更多人,让他们成为人工智能和深度学习方面的专家?

Hinton:我担心为基础理论挑毛病的人不够多。

我提出的“Capsules”(胶囊网络)的想法就是想说,也许我们现在做事的一些基本方法并不是最好的,我们应该抛出一张更大的网。我们应该思考一些非常基本的假设有没有替代品。

我给人们的一条建议是,如果你的直觉告诉你,人们在做的事情并不对,而且可能有更好的方法,你应该遵循你的直觉。

你很可能是错的,但是除非人们在思考如何彻底改变事物时遵循直觉,否则就会深陷其中。

还有一点担忧,是我认为新思想最富饶的来源是在大学中接受过良好教育的研究生。他们可以自由地提出真正的新想法,他们学到的东西足以让他们不再单纯重复历史,我们应该留住这些人

获得硕士学位然后直接进入工业界的人不会提出全新的想法。我认为你需要坐下来思考几年。

福特:加拿大似乎成了深度学习中心。这是偶然事件,还是说加拿大有什么特别的地方起到了帮助?

Hinton:加拿大高级研究院(CIFAR)为高风险领域的基础研究提供资金,这非常重要。

还有很多事情有运气成分,比如Yann LeCun(他曾经短暂当过我的博士后)和Yoshua Bengio也都在加拿大。我们三个人可以形成非常富有成果的协作,CIFAR为这种合作提供了资助。

那时,我们身处一个充满敌意的环境中感觉有点孤立——深度学习的环境直到最近才变得友好起来——所以获得这笔资金给我们很大帮助,让我们可以用很多时间召开小型会议,展开相互交流。在那里,我们可以真正分享尚未发表的想法。

One More Thing

在《智能缔造者》这本书里,还有很多AI领域名人的访谈。

比如和Hinton并称三巨头的Yoshua Bengio、Yann LeCun,著有人工智能经典教材的伯克利教授Stuart Russell,让马斯克对人工智能产生兴趣和恐惧的牛津大学哲学教授Nick Bostrom,还有我们熟悉的李飞飞、吴恩达、DeepMind创始人Demis Hassabis等等,共23人。

中文版目前还没有,希望以后能见到。

(☆▽☆)


加入社群

量子位AI社群开始招募啦,欢迎对AI感兴趣的同学,在量子位公众号(QbitAI)对话界面回复关键字“交流群”,获取入群方式;


此外,量子位专业细分群(自动驾驶、CV、NLP、机器学习等)正在招募,面向正在从事相关领域的工程师及研究人员。


进专业群请在量子位公众号(QbitAI)对话界面回复关键字“专业群”,获取入群方式。(专业群审核较严,敬请谅解)

诚挚招聘

量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复“招聘”两个字。

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态

喜欢就点「好看」吧 !




最新有关QbitAI的文章

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: TI培训

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved