新的人工智能安全项目获得Elon Musk的资助

2019-08-05 10:53:25    来源:    作者:

当硅谷企业家埃隆马斯克没有试图建造火箭技术来殖民火星或革命地球上的能量储存时,他担心人工智能有朝一日会如何摆脱束缚并成为人类的危险。现在马斯克的一些财富正在帮助资助一个新近公布的旨在控制人工智能的研究项目。

位于 波士顿的Future of Life Institute已经向Elon Musk和开放式慈善项目拨款700万美元,用于全球37个研究团队。获奖者名单包括开发人工智能的团队,可以向人类解释其决策,研究如何保持人工智能的经济影响,以及如何将基于人工智能的军事武器置于人类控制之下。此类研究可以帮助社会继续从智能人工智能的发展中受益,同时将潜在的危险降至最低。

“建立先进的人工智能就像发射火箭一样,”生命未来研究所的创始人之一Jaan Tallinn在一份声明中说。“第一个挑战是最大化加速度,但一旦开始加速,你还需要专注于转向。”

大约300个研究项目申请了生命未来研究所的资助,后者在1月份发布了一封公开信,要求进行“保持人工智能健全和有益”的研究。这封信是由Facebook,IBM和微软的AI研究人员签署的。谷歌DeepMind技术的创始人,以及学术界,非营​​利组织和工业界的其他领域。据报道,这让马斯克向生命未来研究所捐赠了1000万美元。

但并非所有人都担心时间旅行机器人会摧毁我们所有人。亚利桑那州立大学(Arizona State University)实践教授G. Pascal Zachary最近为IEEE Spectrum 写了一篇关于人类在塑造AI之前如何开始塑造人工智能的文章。

Zachary说,人类对杀手机器人的“黑暗幻想”倾向于分散更多相关问题的注意力,例如AI如何影响就业,机器人作家和艺术家如何改变人类对创意内容的消费,以及谁对自动过程中的事故负责。

浏览一下新资助的人工智能研究清单,可以看出研究人员可以开始解决其中的一些问题。生命研究所的 未来采取类似于扎卡里的立场,因为它强调了好莱坞的“终结者”幻想与现实之间的区别。

“终结者情景的危险并不是它会发生,而是会分散未来AI所带来的真正问题”,生命未来研究所所长Max Tegmark说。“我们保持专注,今天的资助支持的37支队伍应该有助于解决这些真正的问题。”

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。