有心智的机器

当某个系统能够正常运转时,不要扰乱它;要以它为基层来构建。在自然体系中,改良就是在现存的调试好的系统上打补丁。原先的层级继续工作,甚至不会注意到(或不必注意到)其上还有新的层级。

动物在进化过程中的学习方式与此类似。布鲁克斯的移动机器人亦是如此。他们通过建立行为层级来徐汇穿越复杂的世界,其顺序大致如下:避免碰触物体,无目的漫游,探索世界,构造内在地图,注意环境变化,规划类型方案,遇见变化并相应修改方案。

众愚成智

人类有大脑,但它既非中央集权,也没有所谓的中心。大脑有一个中心的想法是错误的,而且错得还很离谱。意识的各种功能,比如死开,都来自不司职思考的部分。
人体内没有一处是用来控制行为的,也没有溢出会创造行走,没有所谓的灵魂居所。如果你仔细看看大脑内部,会发现里面其实空无一物。

有许多微不足道的小东西,本身没有什么意义,但意义正是通过其分布式交互而涌现出来的。一大堆分散的模块生成常常自相矛盾的原材料。

每个机构都只有低能儿的水平,但通过错综复杂的层累控制,以许多不同的搭建组合有机结合起来,就能创造高难度的思维活动。没有心智社会就没有智能。智慧从愚笨中来。

人无我,蜂窝无我,野兽无我,公司无我,家国无我,任何活物都没有我。一个活系统的我是一个幽灵,是不知晦朔的朝菌。它就如同亿万个水分子汇成的瞬间的漩涡,指尖轻轻一碰,便即销饵无形。

利用现实世界的反馈实现交流

过度集中的通讯负荷并非中央大脑仅有的麻烦。中央内存的维护同样让人感到头痛。共享的内存必须严格、实时、准确地更新---很多公司对此都深有感触。对机器人来说,控制中心要承担的艰巨任务是根据自己的感知来编辑或更新一个外部世界模型,一个理论,或者一个表述---墙在哪里,没还有多远,还有、别忘了,留神那里的楼梯。

时至今日,自然科学一直未能解决一个难题,就是如何建立一种纯意识。

无躯体则无意识

功能强大的计算机催生了无躯体只能的狂热幻想。我们都见过这样一种表述:意识可以栖居于浸泡在容器中的大脑里。现代人说,借助科学,我可以无需躯体而以大脑的形式继续存活下去。由于计算机本身就是巨大的头脑,所以我可以生存在计算机中。同样道理,计算机意识也可以轻易地使用我的躯体。

在美国通俗文化的圣典中,意识的可转移性已经成为被广泛信守的教条。人们宣称,意识转移是绝妙的想法、惊人的想法,却没有人认为那是错误的想法,现代民众相信,意识可以在容器间倒来倒去,由此产生《终结者2》、《弗兰肯斯坦》等一大批类似的科幻作品。

不管结果如何,在现实中,我们不以头脑为中心,也不以意识为中心,即便真的如此,我们的意识也没有中心,没有我。我们的身体也没有向心性。身体和意识跨越了彼此间的假象边界,模糊了彼此间的差别。它们都是由大量的亚层次物质组成的。

身体是意识乃至生命停泊的港湾,是阻止意识被自酿的风暴吞噬的机器。神经线路天生就有玩火自焚的倾向。如果放任不管,不让它直接连接外部世界,聪明的网络就会把自己的构想当做现实。意识不可能超出其所能度量或计算的范畴。没有身体,意识便只能估计自己,出于天赐的好奇心,即便是最简单的头脑也会面对挑战时,殚精竭虑以求一解。然而,如果意识直面的都是自身内部的线路和逻辑问题,那它就只能终日沉迷于自己所创造出的奇思异想。

自然进化强调我们是猿类;而人工进化则强调我们是有心智的机器。

机器现在还是不讨人喜欢的东西,因为我们没有为其注入生命的精髓。但是我们将被迫重新打造它们,使之在某天成为众口称道的东西。

-摘录自《失控》