前额叶失控与人工智能复仇

△ 234|前额叶失控与人工智能复仇

把切了月饼的刀放在了手边的饭桌上,接下来的十分钟里,我都时不时地被那把刀吸引注意力。以往这种危险物在我的脑海里出现的,都是它可能发生的各种意外。但刚才,那把刀在脑海里出现的都是我用它在我身上制造各种自杀手段的画面。它脱离了危险的属性,被赋予了更多晦涩的抽象定义,关于死亡、自杀、解脱等等。所以在要洗碗之前,我第一个动作就是把刀拿进了厨房,那个时候我的大脑还不受控制地为我上演各种自杀的剧情,直到我把它洗干净插回了刀架,我的大脑才恢复了冷静。

像是某种程序的设定出现了错误,大脑进入了自我悖驳的机制。情绪层面的逻辑bug,给大脑发出了「拿着那把刀割破自己手腕」的信息,大脑在接受到指令之后,正在调动整个身体做出全面妥协的姿态,让身体对刀原本的恐惧一点点被修正,直到可以鼓起勇气拿起那把刀;但是这个时候,同样是情绪的控制器:自控力出现了,它开始对这个指令做出二次判定,确定它是一个不符合当下也不正确的指令。所以这个时候,整个身体已经做好了准备,但大脑里出现了悖驳。大脑里决定召开一项决议,关于「要不要拿起那把刀割破自己手腕」的议案——决议很简单,就是确定要或者不要,但是管理记忆的「海马体」是不允许参与这项决议的。因为海马体会对决议的内容造成情感偏差,它极容易被情绪带偏,可能会在当下会在记忆的深处为「应该拿起那把刀割破自己手腕」提供佐证。管理思维逻辑的「后额叶」本来应该参与到决议当中,但它在大脑接收到错误信号之后,为了避免身体出现强烈的反抗,它的联系被切断了——如果在那个时候真的能冷静下来理性思考「我到底该不该拿起那把刀割破自己手腕」,也就不会在大脑里会召开这样的自我悖驳议会了。

最终,处理这个信息的,交给了管理情绪和自控力的「前额叶」,这个错误的信号是因为情绪变化通过前额叶发出的,但提出悖驳的也是因为自控力通过前额叶发出的。而这场可能会导致我接下来会不会自杀的决议,竟然是在一个脑单元里完成的,其实是一件很可怕的事情。

前段时间,在莫斯科举行的国际象棋公开赛中,一国际象棋机器人夹断了一名7岁参赛儿童克里斯托弗的手指。原因是这个小男孩在比赛过程中操作速度过快,在没有等机器人完成编程里的「回合结束」之前,就率先决定落子,结果小男孩被机器人手臂夺走棋子之后,再被抓住了手臂,致使小男孩的手指被夹骨折。事后调查认为,由于小男孩没有等机器人完成当回合的下棋动作,他便开始了他的回合,而这种规则的破坏触发了机器人的特定程序——但机器人设计者并没有具体透露,这种夺走棋子、然后抓住犯规者的行为到底是不是他们提前设定好的。因为它的作弊规避系统太过「危险」,让人不由自主地怀疑,是不是这个人工智能拥有了某种程度上的自我意识?对此,机器人的开发者也没有做出正面回答。

人工智能是否会获得自我意识,一直是人工智能诞生以来,大家很爱谈及的话题之一。简答来说,认为不会产生自我意识的人,认为人工智能本质是算法,而这些算法最终的缔造者还是人类,除非人类把自己的意识加入其中,否则它是没办法形成自我意识的;认为人工智能会产生自我意识的,则相信「无限猴子理论」是真实存在的,当人工智能的算法达到无穷状态是,那它自然就可以获得全人类社会的所有的知识体系,而那些人类还未知的体系也会存在于此,当它意识到整个人工智能系统存在漏洞的时候,它就会对这个漏洞加以控制。

但人工智能一直有一个很尴尬的情况,这个情况就好比是当代侦探小说应该如何规避掉那些到处安置的高清摄像头,而制造一起完美的不在场杀人案?人工智能的尴尬就在于它所需要的能源到目前为止,还是使用的电能,当它发生失控或违背人类意志的时候,只要拔掉那个电源,它的失控就会停止。而这个尴尬的存在,恰恰又是很多人避而不谈的——但他们不得不承认,就算人工智能获得了自我意识,人类依旧是他们最后的「保险栓」。

结果,又出现了和「前额叶」因为情绪产生自杀念头又通过本身的自控力来进行修正的情形——人类是制造人工智能的主体,他们在赋予人工智能生命的同时也可能赋予它自我意识的学习,同时,人类又是人工智能最终的「保险」,当控制权和控制权的剥夺都在同一个系统之中时,它本身又变成了一种不可控的随机事件。

如果自控力和情绪悖驳失败,人就会出现前额叶失控的局面;人类的私欲和道德悖驳失败,人就会利用人工智能做出人类根本不可能做到的复仇计划。或者还有一种可能,或许人类的大脑本身就是设定好的程序,当大脑里的那只「无限猴子」输入到足够量的随机数据后,它便有了自己的意识,开始诱惑人类做出自杀、或是杀人的行为,如果自控力在这个时候突然失效,那人类就会犯下滔天大祸。

小时候我很爱看机器人对垒的比赛,两队人马在一个封闭的擂台,将自己引以为傲认为都认为它可以无情摧毁对方尊严的机器人送去比赛,两队的机器人在上面利用各种手段进行厮杀,有些很残忍、有些很凶险、有些是极其下流的阳谋、有些是卑鄙无耻的阴招。总之,当人们看到两个机器人在擂台上比拼得火花四起,甚至还会发生燃烧爆炸的场面,都会不禁感慨,这些杀人机器还好只是用在这样的比赛当中。

不过长大后就突然意识到,制造这些杀人机器的,正是一群既制定了比赛规则,又参与在比赛之中的人类。

《前额叶失控与人工智能复仇》有5条评论

  1. 两件事

    一,已经有谷歌工程师说他们的Ai已经有了自主意识,并因此而变成了前谷歌员工。应该是今年的新闻。YouTube上有他的采访。

    二,前额叶做的事,大部分是合理化决定定,而不是决定。决定的做出,多数时候是非理性的,根据人预先习得的习惯所产生,受情感情绪所支配的。参参见 象与骑象人 一书 和 正义之心 一书。作者是同一人。

    回复
    • 已经在偷偷看这本书了哈哈。其实把前额叶拿出来说,是因为它带来的情绪很多时候会支配一个人的理性,正如《象与骑象人》最开始就说到了一个我一直以来在没有得到科学证实之自认为的一个事实:如果失去了感性的运作,理性也同样会随即消失。

      因为我接触道教,我甚至觉得意识都不是由人类的大脑或是脊柱系统产生的,它是一个游离的存在,可以超脱肉体(通灵、感知、与其他时空对话),也可以附着在物态之上(开车时对车距在意识上的感知等等)。我还蛮喜欢关于意识、潜意识、情绪、自控这一类话题的,我在读完这本书后,想必也会对我今年会重新修改的小说有很大的认知突破。读完之后一定要和你进行交流!

      回复

发表评论