Hinton发2024末日预警：10年内人类灭绝！奥特曼预言18个月ASI降临

　　来源：华尔街见闻

　　奥特曼预测，ASI将引发10倍的科学AI突破，每一年的革命性都会像十年一样；Hinton表示，在工业革命中，人类的体力不重要了，因为机器更强大，如今的AI，已经在取代人类智能。人类如今只是3岁孩童，但AI却已经长成了成年人。

　　2024年，注定是AI历史上浓墨重彩的一年。

　　站在2024年的尾声，各位大佬也给出了自己对于未来的预测。

　　OpenAI CEO奥特曼看来，我们即将迎接超级智能的到来，而且很快了！2026年夏天，我们或许就会见证奇迹的出现。

　　Meta首席AI科学家、图灵三巨头之一的LeCun，跟奥特曼对此意见不同，他强调，AGI在未来两年内不会发生。

　　获得今年诺奖的人工智能教父Hinton则坚信，AI的进步会很快，但已经到了一个可怕的地步——

　　10年内，AI可能会导致人类的灭亡！

　　奥特曼：ASI即将到来，想象18个月后

　　在圣诞节前夕，外媒记者Bari Weiss采访了OpenAI CEO奥特曼。

　　在他看来，超级人工智能ASI，已经离我们很近了！

　　奥特曼让我们想象一下，18个月后，2026年夏天即将到来时，AI会是什么样子？

　　ASI会如何出现？

　　在今年9月，奥特曼罕见地发出长文预言：深度学习已经奏效了，ASI即将在几千天内降临。

　　奥特曼强调，我们必须关注科学进步的速度，它不会改变人类深层的基本驱动力，但我们生存的世界将会发生很大的变化。

　　在他看来，有AI帮我们干活，人类就可以从工作的繁重负担中解放出来，尽情娱乐和游戏了！

人类天生渴望创造并对彼此有所帮助。人工智能将使我们前所未有地放大自身能力。作为一个社会，我们将回到一个不断扩张的世界，处于一种正和博弈。

　　正和博弈是指总收益大于总损失，所有参与者都获得净收益的情况

　　奥特曼认为，我们今天从事的许多工作，在几百年前的人们眼中可能显得微不足道，甚至是浪费时间。

　　但没有人会回头怀念过去，渴望自己成为一名点灯人。

　　如果一个点灯人能够看到今天的世界，他会觉得眼前的繁荣完全超乎想象。

　　而如果我们能够快进到一百年后的未来，那时围绕人类的繁荣，同样会让我们难以想象。

　　奥特曼预测到来，ASI将引发10倍的科学AI突破，每一年的革命性都会像十年一样

　　当被问到，如何衡量我们世界中AI的总体影响时，奥特曼回答说，这些AI产品被人们快速采用，吸引更广泛的受众的过程，已经令人印象深刻。

我从未见过，一项技术能如此迅速地被大规模使用。

　　那么，奥特曼本人是怎样使用AI的呢？

　　他表示，自己早已将默认搜索改成了ChatGPT。

　　他经常用ChatGPT从网络上获取实时信息，而不是依赖过去那种传统的超链接流程——如今看来，那种方式简直像蜗牛爬行一样缓慢。

　　所以这种方式仍然被称为‘搜索’吗？奥特曼说，自己仍称之为搜索，不过年轻人们会这样描述：我刚刚‘聊’出了这个信息。

　　Hinton：AI可能会在10年内让人类灭绝

　　今年刚获得诺贝尔物理学奖、77岁高龄的Hinton同样认为，AI技术的发展速度比自己预期的要快很多。

　　这让他感到恐惧，并且发出警告：AI可能会在10年内，让人类灭绝。

　　作为深度学习之父，Hinton对自己在创造这项技术中所扮演的角色表示遗憾。

　　AI的迅疾发展已经如同一次全新的工业革命，但不同的是，这次，机器可能会掌控一切。

　　因此，政府务必加强对AI公司的监管。

　　此前，Hinton曾预测，AI有10%的可能性，会在30年内导致人类的灭亡。

　　而最近，他的说法又提前了。

　　在BBC广播4台的《今日》节目中，主持人问Hinton他的看法是否有所改变。

　　Hinton再次强调说没有。甚至他表示，AI让人类灭绝的时间可能是10到20年，因为，我们从未遇到过比我们更聪明的事物。

　　‘你知道多少例子，是由不聪明的一方控制更聪明的一方？少之又少’。

　　人类是3岁孩童，AI是成年人

　　1972年，Hinton在爱丁堡大学首次开始研究神经网络。当时少有研究者相信，神经网络可以通过分析数据来学习技能。

　　在20世纪80年代，他发明了可以自主查找数据属性、识别图片中特定元素的方法，奠定了现代人工智能的基础。

　　2012年，Hinton和两名学生Ilya Sutskever和Alex Krishevsky建立了一个神经网络，可以分析数千张照片，并自学识别花、狗和汽车等常见物体。

　　但现在，AI技术的发展已经远比他预期的快得多。导致的后果就是，人类如今只是3岁孩童，但AI却已经长成了成年人。

　　Hinton表示，这就像工业革命一样。

　　在工业革命中，人类的体力不重要了，因为机器更强大——如果你想挖一条沟，用机器就可以了。

　　如今的AI，已经在取代人类智能。最前沿的不再是普通的人类智能，而是机器。

　　狄更斯式的变化

　　‘现在我们拥有的东西正在取代人类的智能。普通的人类智能将不再是前沿，而是机器将成为前沿。’

　　Hinton预测，AI将极大地改变普通人的生活，就像查尔斯·狄更斯所记载的工业革命一样。

　　而AI将如何走向，很大程度上取决于我们的政治制度会如同利用这项技术。

　　而Hinton担心的是，尽管AI会带来生产力的大幅提高，但所有好处都会流向富人，很多人会因为失业而变得更加贫穷，最终这对社会就是不利的。

　　在工业革命中，机器没有机会仅仅因为自己更强大而取代人类，因为我们有智能，所以事情仍在掌控之中。

　　但现在，情况已经不同了，AI很可能会掌握一切。

　　而对领域内其他知识渊博的专家对AI未来的乐观看法，Hinton表示，希望他们是正确的。

　　政府必须监管

　　然而，Hinton补充道：我担心，这只看不见的手无法保证我们的安全。如果仅仅依靠大公司追逐利润的动力，并不足以确保他们安全地开发这些技术。

　　唯一能迫使这些大公司在安全方面进行更多研究的，就是政府监管。

　　Hinton呼吁，政府必须在这方面担起责任。

　　此前Hinton就表示，自己痛悔向世界介绍AI。

　　‘后悔有两种。有时候，你会因为做了一些你知道不应该做的事情而感到内疚、后悔；还有一种，是你在同样情况下还会做一样的选择，但最终结果可能并不好。’

　　‘我的后悔属于第二种。在同样的情况下，我会再次做同样的事情，但我担心这样做的后果，就是比我们更智能的系统最终会占据控制权。’

　　毕竟此前，我们从未经历过拥有比我们更聪明的东西，是什么感觉。

　　纳德拉：OpenAI已成为巨头

　　在与知名投资人Bill Gurley和Brad Gerstner深度对话中，纳德拉分享了自己对OpenAI独到的见解。

　　他表示，‘从某种意义上，OpenAI就是这个时代的谷歌、微软或Meta’。

　　这番话暗示着，OpenAI可能会像这些科技巨头定义了此前几代计算技术一样，塑造了AI领域的格局。

　　显而易见的是，微软与OpenAI的早期合作，为其在AI竞赛中带来的巨大的优势。

　　纳德拉称，‘我们基本上获得了两年的领跑期，不过这样领先优势可能不会再出现了’。

　　这种战略合作已经开始显现成效，包括Shopify、Stripe和Spotify等大型云客户，已经从AWS或谷歌转战微软阵营。

　　而OpenAI本身，也早已成为了微软云服务的重要客户。

　　AI无限复制，取代人类在即

　　o3发布之后，Quora联创Adam D‘Angelo曾表示，‘令人疯狂的是，o3的测试结果已经公开了，但市场仍然没有将AGI的可能性计入定价之中’。

　　对此，马斯克回应道，‘市场声称会向前看，但实际上只是关注过去。AI最终会让金钱变得毫无意义’。

　　马斯克的这句话在全网掀起了巨大风暴。AGI时代，金钱真的不再重要了吗？

　　最近，AI圈大佬Rudolf发表了一篇文章对此做出了回应：

默认情况下，AGI之后，资本比以往任何时候都重要。

　　文章中，他提出了几个重要的观点：AI取代人类劳动力，将从根本上改变生产关系，同时现有的权力结构将更加稳固。

　　许多人对这个帖子的理解出现了偏差：

　　（a） 将‘资本’仅理解为‘金钱’，而不包括工厂和数据中心等实物资本

　　（b） 主要关注人与人之间的差距，而不是更广泛的社会问题，如人类的整体地位、社会变革的可能性和人类能动性

　　业内著名AI咨询师Luke Hornof总结道，‘当能替代人类劳动的AI出现后，拥有资本的人将获得永久性优势。

　　这是因为资金将能更有效地购买成果，由于AI可以被复制，且不像人类具有复杂的偏好，这将导致权力进一步集中在资本持有者手中。

　　同时，人类劳动力将失去其价值和影响力，削弱人们影响国家的能力和实现卓越成就的可能性’。

　　一起来看看这篇文章具体讲了什么。

　　首先，需要明确两个概念：劳动，是指人类为创造价值而付出的体力和脑力努力；资本，是指人类建造的用于生产商品和服务的东西，比如工厂、数据中心、软件等等。

　　作者表示，文中提到的‘资本’（capital）用来指资本货物存量，以及用来购买资本品的货币。另外，提到的‘资金’（money），专指金钱本身。

　　AI的核心经济效应在于，它使‘资本’成为越来越普遍的劳动力替代品。

　　后果就是，支付人类劳动时间的需求将大幅减少，因为运行软件的数据中心直接可以替代人类的脑力劳动！

　　而这个数据中心的规模，仍在不断扩大。马斯克的20万块超算已经在紧锣密鼓建设中了。

　　xAI研究员Guodong Zhang表示，自己在半年前参观时还是空的，再看现在，简直太酷了！

　　足见，世界数据中心规模只会越来越大，不断推向取代人类劳动力的极限。

　　重金招募顶尖人才

　　随着AI逐渐取代人类，如何雇佣最合适人才的深层问题，就迎刃而解了。

　　对于企业来说，可能无法去判断AI的才能。即便是一些领先的AI评估生态系统，也可能难以正确评判。

　　但真正的区别在于，AI可以被克隆。

　　目前，大量资金往往追逐，少数取得突破性成果的明星研究员。他们的才能得到了资本市场的认可，最重要的是，他们的能力是不可被复制的。

　　但如果顶尖研究员是AI，将从根本上改变了游戏规则。

　　这意味着，未来每个人，或者至少是那些有足够资金购买GPU的人，都能获得这个AI明星研究员。

　　这就是为什么，一旦我们拥有能替代劳动力的AI，金钱就能更容易找到顶尖人才的主要原因。

　　当然，人才的价格也会大幅下降，因为AI比同等水平的人类劳动力更便宜。再加上AI可以被克隆，市场的竞争会更加激烈。

　　另外，将资金转化为人才的最后一个重大瓶颈是：许多顶尖人才都有复杂的个人偏好。

　　顶尖艺术家对自己的艺术愿景有着真诚的执着；顶尖数学家对优雅和美有着深深的热爱。

　　相比之下，AI的存在就是为了能够被轻易地收买（至少在其安全训练的范围内）。

　　从2024年这个时间点回望，AI发展轨迹确实远超所有人的想象。

　　这一刻，也许是我们驻足思考的最佳时机：当AI真正超越人类，我们该何去何从？

　　文章来源：新智元，原文标题：《Hinton发2024末日预警：10年内人类灭绝！奥特曼预言18个月ASI降临》

　　风险提示及免责条款

　　市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。