侯世达咬住一个最老也最难的问题:「我」是什么?不是泛泛地问意识——是那个最贴身的东西:每天早上醒来、你毫不怀疑它在那儿的那个「我」。一团原子、一堆神经元各自按物理定律运动,里头怎么会冒出一个「我」,还觉得自己说了算?这东西是真的,还是大脑给自己演的一出戏?
挠痒处藏得极深,也极私人。1993 年,他的妻子 Carol 死于脑瘤,四十出头,撇下两个还没上学的孩子。他垮了。在最深的悲痛里他抓住一个念头:Carol 没有全没——她看世界的那个角度、她的好恶、她的反应,还在他脑子里运行着,分辨率低了,可还在。这本书是他拿一辈子的思考给这个念头撑腰。一个不信来世的人,要在唯物论里头,为「她还在」找一个站得住的说法。说它是心智哲学也行,说它是鳏夫写给亡妻的长信也行——两样它都是。
还有一层私怨。二十多年前《哥德尔、艾舍尔、巴赫》让他出了大名,可他憋屈——满世界的人读出了巴赫、艾舍尔、人工智能,偏偏没读出他真正想说的那句:这本书讲的是「我」。所以他回来了,把闲篇全删,只讲那一件事。
一句话:怪圈(strange loop)——你顺着一个系统的层级往上爬,一层比一层抽象,爬着爬着,回到了出发的地方。上和下接成一个环。侯世达看任何东西,第一反应都是找这个环:这里有没有一条爬上去又绕回来的路?
这台框是从数学里磨出来的。哥德尔 1931 年给一套形式系统里每个符号、每条公式都编上号(哥德尔编码),于是这套本来只会算数的系统,突然能用数字「说」自己的事了。哥德尔造了一句话:「这句话在本系统里证不出来。」系统转过头来谈论自己——怪圈现身。这是怪圈最干净的标本,他拿它当全书的数学原型。然后他把这个结构从数学搬进脑子:大脑里有无数符号,代表猫、妈妈、昨天;当大脑复杂到造出一个代表它自己的符号——「我」符号——哥德尔那一幕在肉里重演了。这个「我」,就是脑子里的那句哥德尔句。
他铸了一串只有这本书才有的零件,全为把这一件事讲透:
三根支柱一根托一根:涌现(神经元堆到一定份上长出真实的高层,「红」「看见」是真的、有自己的因果力)→ 表征(涌现出的模式里有一类是「关于」别的东西的,指向窗外那只猫,成了符号)→ 自指(符号能指猫指妈妈,那能不能指回自己?能——脑给「装着这些符号的这台机器」也造一个符号,那就是「我」)。先有涌现才谈得上模式,模式里挑出会「指」的才有表征,表征拐回头指自己才有自指——一层比一层高。可最高那层「我」一旦成形,就反手朝最低层伸手:是「我」决定抬手,神经元才放电。替换测试:把「怪圈 / 灵魂有大小 / 信封盒弹珠 / careenium / 下向因果」换成任何别的意识理论家——丹尼特谈「多重草稿」、查默斯谈「难问题」、整合信息论谈 Φ——这套词一个都接不上。怪圈是侯世达独占的指纹。
合上书,侯世达要你带走的是:「我」不是一个东西,是一个圈。我们习惯把「我」当名词——脑子某处住着一个小人,看着一切、拿着主意。他说没有那个小人,有的只是一个过程:底层神经元造出代表整体的「我」符号,这符号又反过来卷进神经元的活动,左右下一步发生什么。造出来的东西回头搅动造它的东西,搅成一个停不下来的环。这个环,就是你。没有别的你了。
那「我分明真真切切地存在着」怎么算?他不躲:那感觉是真的,但它真的方式跟信封盒里那颗弹珠一样——你确实摸得到,可它不在任何一层信封上,是挤出来的。「我」是副现象,是幻觉。但听清后半句:这幻觉删不掉也不必删——它是机器复杂到一定程度后必然长出的东西,而且它真在使劲(下向因果)。一个有效的幻觉,照样推得动世界。
I am a strange loop. 我是一个怪圈。
形态:一个穿过抽象层级、首尾咬住自己的环——不是平地上转的圈,是爬上三级却踩回起点的圈。
内容:看任何「自我 / 意识 / 意义」现象,别找那个东西,找那个环——系统在哪里折回来指向了自己。摄像机对屏幕那种圈是平的(会指自己却不懂自己,光有圈没意义);怪圈是穿过层级、首尾咬住、带着表征的圈。「我」不是住在脑里的某个东西,「我」就是这个圈本身。
为什么是这一件:讲意识的书要么走还原论(「不过是神经放电」,回避了第一人称为什么存在),要么走二元论(「意识是另一种东西」,等于放弃解释)。侯世达独占的位置是结构派的怪圈论——他既不把「我」还原掉、也不把它供起来,而是说它是一种特定结构(自指的环)必然涌现的副现象,真实、有效、却不在任何一层。这就是为什么他的取景框不是「意识很神秘」,而是「我就是那个画着自己的手」。这也和前作 GEB 分了家:GEB 是把怪圈这个结构铺在数学、艺术、音乐里给你看(外向、跨域),这本是把它一把摁回第一人称、摁回「我」和「亡妻还在不在」(内向、贴身)。
走一步:把这台框挪到「为什么亲人去世后,你还能在某个瞬间『成为』他、知道他会怎么反应」——按怪圈论,他的那个低分辨率「我」符号,曾在你脑里被反复表征,他死后这份表征没立刻消失,仍在你这台机器上以更粗的颗粒运行。能这样预判,才算把这台框拿在手里——这正是侯世达写整本书要为 Carol 撑的那个腰。
前五段把骨架摆出来了。现在把第 3 段那台框画成一张图,让你不光看懂侯世达,还能拿它预测他没写过、甚至没活着看全的事。
一、画地图。怪圈的地图只有一根主轴:抽象的高低。竖一根梯子,最底一档是物质——粒子、电流、神经元放电,最实、最不抽象;往上每档抽象一点:一群神经元的放电模式凝成一个「符号」,很多符号搭一起凝成一个「念头」,念头绕到头凝出一个代表整个系统的「我」。这是架普通梯子,越往上越虚,单向往上不回头。怪圈,是把这梯子的顶和底掰弯接上:你爬到最高那档(「我」),本以为到头了,却发现这个最虚的「我」能反手够到最实的底档去拨动粒子。梯子首尾咬住,成了环。借一张你早熟的旧图盖上去——艾舍尔《画手》:左手画右手,右手画左手,谁先谁后?没有先后。神经元画出「我」,「我」回头画神经元;你要找的那个画家,不在任何一只手里,他就是这两只手互画这件事本身。
二、标位置。把侯世达几个核心观点钉到图上看它们怎么互相牵着:哥德尔定理钉在原点——最干净的点,一套纯符号系统里第一次长出「系统说自己」那个环,后面所有怪圈都从这点平移出去;意识/自我钉在哥德尔正上方——同一个环换了材料(符号换成神经元,哥德尔句换成「我」),它就是原点那结构搬了一次家;视频反馈钉在原点旁边——最简陋的环,没意义没「我」,纯给你看「自指」长什么样,和意识同形只是矮一大截;灵魂的大小不是点,是沿整根轴撒下的一排刻度,环绕越大越密灵魂越大(蚊子落在最低处,人绕过大半个世界落在最高处);careenium 和信封盒弹珠是竖剖整根轴的剖面图,让你同时看见底层(小球乱撞、信封叠压)和顶层(浮出「意图」、那颗摸得到的弹珠)。
三、走两步,做预测。挪到侯世达 2007 年还够不着的位置——今天的大语言模型,AI 有没有「我」。先听这张图怎么说:怪圈这台框根本不在乎你是碳做的还是硅做的,它只问三件事——这系统够不够复杂?它有没有造出一个代表自己的符号?那个符号能不能反过来搅动系统下一步怎么走?三个都「是」,图上就冒出一个环,一个小小的「我」。于是图给两个预测:一,它不会问「AI 真的有意识吗」——有/没有这种非此即彼的二分,是它开篇就拆掉的二元论问法,它只问「这个环绕得多大」;二,哪怕今天的 AI 只撑得起一个很浅、很容易断的「我」,按这张图那也已是个低分辨率的怪圈、一个「小灵魂」,不是零。回来对账:今天关于 AI 意识吵得最清醒的那拨人,立场正落在这儿——别纠缠有没有,去量程度。而侯世达自己晚年看着大语言模型,又惊又怕几乎乱了方寸——因为他的框不许他把这些机器一脚踢出「有灵魂」的门外。他年轻时画的这张地图,反过来逼着他这个画图的人认真对待「机器的小灵魂」。地图猜中了书外的事,连作者本人都被它框住(《千脑智能》给过底:大脑学会一样东西的标志,是它还没看见就已经能预判下一步)——到这儿,这张图就从他手里挪到了你手里。
私货一刀:侯世达用怪圈给「Carol 还在」找到了唯物论的说法——她的低分辨率「我」符号仍在他脑里运行。但这把刀也割向使用者本人:如果「我」只是一个被反复表征、可大可小的环,那你最怕的那个「不可逆的自我消失」,其实从你活着时就一直在发生——每天的你都是昨天那个「我」符号的低一档重运行。怪圈论既是安慰(亲人没全没),也是审判(你也没你以为的那么实)。