【导读】就在刚刚,奥特曼罕见发表长文,预言ASI将在「几千天内」降临!他肯定,深度学习已经奏效了,它能够真正学习任何数据的分布模式。如今人类奇点已经近在咫尺,我们眼看着就要迈进ASI的大门!

就在刚刚,Sam Altman罕见发表一篇名为「智能时代」的长文博客,暗示超级人工智能(ASI)可能在「几千天内」实现。

一千天大约相当于2.7年,这比此前大多数专家预测的五年时间,可能要早得多。

图片

显然,奥特曼对于AI驱动的未来具有良好的愿景,比大多数人都更笃信AI发展的速度。

在他看来,「深度学习是卓有成效的」。

我们可以根据其训练数据,泛化一系列领域和困难问题集,从而能够「搞定各种难题」,比如「解决气候问题、建立太空基地、揭示所有物理学奥秘」等等。

这就像是人类发现一种算法,它能够真正学习任何数据的分布模式,或者说,产生任何数据分布底层「规则」。令人震惊的是,随着算力、数据增加,深度学习帮助人类解决难题方面的能力,就会变得越强。我发现,无论我花费多少时间来思考这个问题,我都无法真正理解它的重要性。

奥特曼大胆预言:超级智能几千天内到达

在去年12月,OpenAI曾发表过这样一篇论文,将超级智能定义为「比人类聪明得多的人工智能」。

图片

论文地址:https://cdn.openai.com/papers/weak-to-strong-generalization.pdf

仅仅过了一年,奥特曼就已经对此有了更为乐观的预期。

这可能会成为迄今为止人类历史上最具深远影响的事实。我们有可能在短短几年(几千天)内就开发出超越人类的人工智能!虽然可能需要更长时间,但我坚信我们终将实现这一目标。

网友们很快抓住全文重点——深度学习,有用!

图片

图片

也有网友表示,几千天快则3年,慢则10年。「我走过最长的路,就是奥特曼的套路。」

图片

而其他AI大佬对超级人工智能出现的时间,也有类似的预测。

6月份出走创业的Ilya Sutskever,初创公司名为Safe Superintelligence(SSI)。当时他的声明是:「超级智能触手可及」。

不过,Ilya并没有给出具体的时间线。

图片

同Ilya一样,软银CEO孙正义也相信超级智能。

他曾表示,AI「将在10年内比人类聪明一万倍」。并且声称,实现ASI现在是他的人生使命。

图片

Hinton相信,我们会在五年内看到AGI。

谷歌首席研究员Ray Kurzweil预测,AGI将在2029年到来。

图片

总的来说,相当多专家相信,ASI或AGI将在五年内实现。

当然,也有对此泼冷水的人。

NYU教授马库斯就表示,如果我们继续深度学习和语言模型的路线,将永远无法实现AGI,更遑论ASI了。

因为这些技术存在缺陷,相对薄弱,只有通过更多的数据和算力,才能取得进步。

华盛顿大学计算机科学教授、《终极算法》作者Pedro Domingos也认为,ASI只是一个白日梦。

图片

AI比人类更聪明了吗?

最近,在一项标准化门萨智商测试中,AI模型首次显著超过了人类智商的中位数——100。

位于峰值的,就是智商得分为120的OpenAI o1。

图片

这是否意味着AI已经超越了大多数人类的智商?

令人遗憾的是,进行测试的记者Maxim Lott随后创建了一个自定义智商测试,试题不包含任何训练数据。这次,OpenAI o1离线智商测试的结果是,IQ为95。

图片

当然,这个分数仍然击败了37%的成年人。

考虑到这一年来AI进步的飞速,奥特曼的推测,不无道理。

乌云下的阴影

当然,奥特曼也承认,我们离AI被广泛使用的世界还有几个障碍,比如需要先进芯片,和降低计算成本。

他甚至暗示,如果不建设基础设施来支持AI的发展,「AI能将成为一种非常有限的资源,引发战争,主要变成富人的工具。」

图片

奥特曼也提到了因AI导致的失业问题,这是科技泡沫外的许多人,对AI最大的恐惧。

他只能说:AI影响下的劳动力将发生好的和坏的变化,但人们永远不会无事可做。

这不会是一个十全十美的故事,但其潜在的巨大好处让我们不得不为了自己和未来的利益,想方设法去应对眼前的风险。

但有网友猜测,这篇文章或许只是OpenAI获得下一轮融资的方式。

很快,OpenAI就会获得6-6.5亿美元的融资,而估值也将到达1500亿。

图片

有趣的是,奥特曼选择在自己个人网站而非OpenAI官网上发布这一消息,或许这表明此文更像是他的个人观点,并非公司的官方路线。

马库斯则针对奥特曼的文章进行了「红字攻击」,将其称为一篇「营销文」,而非有科学论据的文章。

图片

图片

The Intelligence Age:智能时代

图片

在接下来的几十年里,我们将能做到在我们祖辈看来,如同魔法般的事情。

这种现象并非是新鲜事物,但它将会加速发展。随着时间的推移,人类的能力不断提升;我们现在已经能够完成我们的前人认为不可能完成的事情。

我们之所以变得更有能力,并非源于基因进化,而是受益于社会基础设施,这远比我们任何一个人更聪明、更有能力。

从某种重要意义上说,社会本身就是一种高级智能的体现。

我们的祖父母——以及他们之前的几代人——创造并实现了伟大的事业。他们为人类的进步搭建了一座坚实的阶梯,而我们从中受益。

AI将为人们提供解决难题的工具,帮助我们在这座进步阶梯上,添加新的支柱,这些都是我们靠自己无法想象出来的。

进步的故事还将继续,我们的下一代必将能够完成我们当前无法企及的事业。

虽然这不会一蹴而就,但我们很快就能与AI协作,完成比没有AI时多得多的事情。

最终,每个人都可以拥有一个私人AI团队,由各领域的虚拟专家团队组成,共同帮助我们实现各种想象。

我们的孩子将拥有AI辅导老师,可以用任何语言,以任何速度,提供任何学科的个性化教学。我们可以想象类似的理念应用于更优质的医疗服务、开发各种软件等等。

有了这些新的技术能力,我们可以实现在今天看来不可思议的共同富裕。

在未来,所有人的生活水平都可能超越当今任何人所能达到的高度。仅仅是物质富裕并不一定能让人快乐——世上不乏痛苦的富人——但它确实能显著提高全世界人民的生活质量。

这是一种看待人类历史的独特角度:经过数千年科学发现和技术进步的不断积累,我们已经掌握了如何熔炼沙子,添加一些杂质,在极其微小的尺度上以惊人的精密度将其排列成计算机芯片,通电,最终得到能够创造越来越强大AI的系统。

这可能会成为迄今为止,人类历史上最具深远影响的事实。

我们有可能在短短几年(几千天)内就开发出超越人类的人工智能!虽然可能需要更长时间,但我坚信我们终将实现这一目标。

深度学习效果拔群

我们进入下一次超级智能时代的钥匙是什么?

Altman用三个字总结:deep learning worked。(深度学习成功了)

再用15个词来概括:deep learning worked, got predictably better with scale, and we dedicated increasing resources to it。(深度学习成功了,随着规模扩大而预测能力变得更好,我们投入了越来越多的资源)

这就像是人类发现一种算法,能够真正学习任何数据分布模式,或者说,产生任何数据分布底层「规则」。

令人震惊的是,随着算力、数据增加,深度学习帮助人类解决难题方面的能力,就会变得越强。

我发现,无论我花费多少时间来思考这个问题,都无法真正理解它的重要性。

我们仍还有许多细节需要解决,但如果被某个特定挑战,而分散注意力是不明智的。深度学习卓有成效,我们终将解决剩下的问题。

关于未来可能发生的事情,我们有很多可以讨论的,但最主要的一点是:AI将随着规模的扩大而不断进步,这将为全球人类生活带来实质性的改善。

AI模型即将成为我们的自主个人助理,能够代表我们执行特定任务,例如为你协调医疗服务。

在不久的将来,AI系统将变得更加强大,不仅能开发出更优秀的下一代系统,还能在各个科学领域取得突破性进展。

科技的发展推动人类社会从石器时代迈入农业时代,继而跨入工业时代。

如今,我们正站在新的起点上,通往智能时代的道路就在眼前,而算力、能源和人类的坚定意志,正是铺就这条道路的三大基石。

要想让更多人用上AI,我们就必须想方设法降低计算成本,让计算资源变得唾手可得(这需要海量的能源和芯片)。

如果我们不努力建设足够的基础设施,AI就会变成稀缺资源,甚至可能引发战争,最终沦为少数富人的工具。

我们必须谨慎但坚定地采取行动。AI时代的到来是一个具有里程碑意义的发展,面临着极其复杂且风险巨大的挑战。

虽然这不会是一个十全十美的故事,但其潜在的巨大好处让我们不得不为了自己和未来的利益,想方设法去应对眼前的风险。

我坚信,未来将会无比光明,现在任何人都难以用文字准确描绘它的模样;AI时代的一大显著特征就是会带来空前的繁荣昌盛。

尽管这将是渐进的过程,但诸如「解决气候问题、建立太空基地、揭示所有物理学奥秘」这类令人惊叹的成果,最终将变得司空见惯。

有了近乎无限的智能和丰富的能源,我们将拥有产生伟大想法,以及实现这些想法的能力。

正如我们在其他技术中所看到的那样,AI也会有缺点,我们需要从现在开始努力,以最大限度地发挥AI的优势,同时将其负面影响降到最低。

比如说,我们预计这项技术在未来几年可能会对就业市场造成重大变化(既有好的,也有坏的),但大多数工作岗位的变化速度会比大多数人想象的要慢,我并不担心我们会无事可做(即使这些事情在今天看来可能不像「真正的工作」)。

人类有一种与生俱来的创造欲,以及互帮互助的愿望,AI将让我们以前所未有的方式增强自身能力。作为一个社会,我们将重新进入一个不断发展的世界,我们可以再次专注于进行正和博弈。

我们今天所做的许多工作在几百年前的人看来可能只是无关紧要的,但现在没有人回顾过去,希望自己是个点灯人。

如果一个点灯人能看到今天的世界,他会觉得周围的繁荣简直难以想象。

同样,如果我们能够从今天快进一百年,我们也会对周围的繁荣感到同样无法想象。

参考资料:

https://ia.samaltman.com/

Logo

开放原子开发者工作坊旨在鼓励更多人参与开源活动,与志同道合的开发者们相互交流开发经验、分享开发心得、获取前沿技术趋势。工作坊有多种形式的开发者活动,如meetup、训练营等,主打技术交流,干货满满,真诚地邀请各位开发者共同参与!

更多推荐