从他对研究人员的调查中,他认为到2040或2050年我们将达到ASI,这可能是一个巨大的变化。引用尼克:
“现在,大多数人在思考什么是聪明而什么是愚蠢时,我认为脑海中大概有这样一张照片。因此,在一端,我们有乡村白痴,然后在另一端,有埃德·维滕(Ed Witten)或阿尔伯特·爱因斯坦(Albert Einstein),或者您最喜欢的老师是谁。但是我认为,从人工智能的角度来看,真实的画面实际上可能更像是这样:
人工智能从此处开始,此时的智能为零,然后经过许多年的艰苦努力,也许最终我们将获得鼠标级别的人工智能,它可以像鼠标一样在混乱的环境中导航。然后,经过许多年的艰苦努力,大量的投资,也许最终我们会获得黑猩猩级的人工智能。然后,经过多年的努力工作,我们到了乡村白痴人工智能。片刻之后,我们超越了埃德·维滕。火车不在Humanville车站停下来。相反,它很可能会突然出现。”
对于那些不熟悉该主题的人,他以非常直接的方式解决了这个问题。他提出了许多与人类利益分化有关的担忧,以及一旦开发ASI,我们控制ASI的能力受到限制。他在演讲中的最终处方是乐观的,但考虑到过去几年中人类对武器化代码的进步,它可能并没有引起人们的关注。在ted.com上绝对值得一看