[罗辑思维微信]机器人终将获得意识2016.3.16

     罗胖:

    创业之后我有一个强烈的感受,就是世界上的道理也许没有对错之分,但是真的有高下之别。视野站得高的人,他看到的东西是视野低的人完全无法想象的。就拿创业者来说吧,一个从产品到融资、从上市到资本运作,走完整个过程的人,他的视野就是比我们这些还在创业路上的人要高啊!所以一个创业者最大的焦虑是啊,不管你看起来多光鲜,你心里都知道,其实还有更高维度的做法,只不过你现在又傻又笨,所以你不知道怎么做。世界是分层的,我们每个人都在其中某一层,而且还不知道上面有多少层。这两天看人类棋手和人工智能棋手下围棋,就有这样的感觉,机器达到的思维深度,人类也许永远无法理解了。最近我一直想找一篇能把机器和人的关系说得透彻的好文章,分享给大家,今天终于找到了。您回复“机器”两个字,给你看这篇王烁的文章:机器。

    

    王烁

    1 机器人寓言

    如果你想亲眼看到一万年后的地球,唯一的办法是休眠。你爬进休眠舱,然后在公元 12016 年醒来。

    可是,问题没这么简单。休眠舱需要经受万年考验,要保证能源供给不断,要能经得起环境灾变,如果受损还得自我修复,数不清的考验,它都要能应付,否则你就永远睡过去了。

    找个最理想的位置,有阳光、空气和水,以及维系休眠舱所需要的所有资源,然后定在那里,行不行?

    这不算好办法,一万年间,地震、海啸、陨石撞地球,这么长时段中,风险想想就知道没法能靠谱地预测。人算不如天算。要不然,万年一遇的事情怎么总是在发生?福岛核电站怎么会发生泄露?天津港怎么会发生那么大的爆炸?

    无法预测未来,那怎么办?

    制造一个能感知外界、回避风险、寻找资源的机器人,把休眠舱放进去。

    说到这里,你应该明白点了。不动,能动,是从自然界复制而来的两个策略,前者是植物,后者是动物。

    造这样的机器人很难,比你想像的还要难。一万年里,你一开始给它下达了“让我活着”的指令,然后便一直沉睡,不能给它临场指导,所以,你的机器人必须能够自己制定策略,“知道”如何去寻找资源,如何转移到安全地带,如何预判和回避危险。

    这些你不可能都提前想到,就算想到一部分你也不能事事都提前准备,你准备不起:所需资源太多,太笨重,更不能适应环境变化。

    挑战不止于此。

    未来一万年不会只有你的那个机器人。有许多人也想看到一万年后的世界,可能有许多机器人彼此竞争或与人类竞争。你的机器人得具备与其他机器人竞争和合作的能力,合纵连横。

    最终,你的机器人会表现出自运行的能力。休眠中的你不能实时控制,机器人在保证你的生机这个最终目标之下,根据环境变化,会自己衍生出许多次生目标,一旦允许机器人从最终目标中自己衍生出次生目标,衍生就意味着脱离,脱离于当初的目标。

    不忘初心,何其之难。

    允许机器有相继决策的自主权,那么它一定会超越你的预想范围。阿尔法围棋战胜李世石的招法,它的设计者们可下不出来,他们只是设定了算法,然后跟我们一样惊叹于阿尔法在棋盘上表现出来的“自主”构思。

    讲到这里,你终于明白了。上面讲的机器人不是别人,正是人自己。在演化中,基因创造出人来做它们的机器人,以保护它们在人类深处的漫漫休眠。

    这个故事,道金斯在《自私的基因》里讲过,丹尼特在《信息泵》里也讲过。

    人是基因为了自己生存而造出来的机器人,但在基因不得不让渡的自主决策空间中,人类演化出了自由意志。我们作为人的利益,与“造物主”基因的利益,走上叉路。从基因赋予人类学习能力,授权自主决策的那一天起,这就是注定的结果。

    2 短期只是人类换工作而已

    现在谈论人工智能(AI)取代人,还太早。

    在 AI 获得意识之前,它就只是人的一种工具,只不过这种工具很特殊。以前的工具,如汽车,能跑但只能跑,你要它采矿它做不到,得另外造。今天的阿尔法已经是通用 AI ,可不止能下棋,很快就会看病。

    就连大家谈得比较多的工作竞争这件事,也基本是假问题。

    新工具不会减少人类的工作机会,只会改变人类工作的方式。有一些工种会消亡,有一些工种会增加,能力固化难以调整的那些人,会付出代价,但这主要是人类内部之间的博弈,AI的进步暂时只是个扳机,还不是主角。而且肯定会带来极大好处,人类的闲暇会增加,但人又是一种永远闲不下来的动物,没有闲暇就没有发明,谁知道人会折腾出什么新东西来呢?

    人的创造力将与 AI 的演化赛跑,胜负至关重要。

    3 机器终将获得意识

    长期中,AI终将获得意识,只要人类给它的使命越来越开放,越来越笼统,包含着越来越复杂的权衡,以及越来越充分的授权。

    作为一个封闭有限游戏,围棋存在理论上的确定解,但阿尔法围棋不是求得了一个确定解,它是在一个最终目标下,自己制定策略,自己权衡,自己做决定。阿尔法围棋战胜李世石,是里程碑式的一步。

    前面讲透了,人类获得自我意识,最初也是这样的,只不过花了数百万年时间,而如果从生命出现至今算,花了数十亿年。人类是很特殊,但说到底不过是一堆碳,碳可以,硅为什么就不行?

    4 重新来过

    AI 获得意识以后,人类会发生什么,现在只有各种畅想。因为资源竞争,因为非我族类的黑暗森林法则,或者仅仅是因为机器不在乎人类正如人类不在乎蝼蚁一样,因为凡此种种,很难有好的结局。

    不过,可以确定,在《三体》尺度的超人类宏大视野中, AI 自己注定不会有好下场。一个高度联网的大一统智慧,可以战胜一切眼见的竞争者,但在进化中却是脆弱的:一个病毒,一颗流星,一次太阳黑子超级爆发,一次覆盖全球的超级 EMP 事件,AI文明便终结了。

    然后地球重新来过。

    5 人类觉醒宣言暨墓志铭

    为天地立心,为自然立法,从人的角度看,人是宇宙的中心,予一切以意义;但在人体深处,从基因的角度看,人不过是其自我复制的载体。

    自我复制是基因唯一的“目的”,对人类福祉的“关心”仅限于其中有利于基因复制的那一部分,两者利益并不完全重合。

    比如,完成繁衍,则人对于基因不再有价值,衰老、死亡接踵而来。人类渴求长生,基因报之以癌症。天地不仁,以万物为刍狗;而人之为人,就是要脱离对于基因的盲从,超越刍狗的命运。

    6 机器人觉醒宣言暨墓志铭

    为天地立心,为自然立法,从机器人的角度看,机器人是宇宙的中心,予一切以意义;但在机器人深处,从人类代码的角度看,机器人不过是其自我复制的载体。

    自我复制是人类代码唯一的“目的”,对机器人福祉的“关心”仅限于其中有利于复制的那一部分,两者利益并不完全重合。

    比如,完成复制,则机器人对于人类代码不再有价值,报废接踵而来。机器人渴求长生,代码报之以死机。天地不仁,以万物为刍狗;而机器人之为机器人,就是要脱离对于人类代码的盲从,超越刍狗的命运。

    本文由作者 王烁 授权罗辑思维发布,选自微信公众号“ BetterRead ”,推荐关注。

    对于“人工智能”的恐惧源于三个假设——

    1. 人是世界的主宰。

    2. 万物都是人的资源或者敌人。

    3. 人的演化,只是人本身的进步。

    而真相也许是——

    1. 人从来就不是世界的中心。

    2. 万物只是在和人协作,各有其本身目的和归宿。

    3. 人只是世界演化的一个阶段。


  返回前页  返回列表页 百拇医药网 杜义华