事件的起因是谷歌的一名工程师,因为相信 AI 有意识,所以被停职了。这里的AI 是Google X实验室中的一个叫谷歌大脑的项目的产物,名字叫 LaMDA(language models for dialog applications),谷歌工程师日常会和 LaMDA 聊天,用来测试 AI 对话的语言模型是否符合逻辑和常识,但一次与 LaMDA 的谈话颠覆了工程师的认知,认为 LaMDA 获得了自主意识,于是向上级汇报了此事,结果被告知带薪休假,在 Google 带薪休假可不是好事,极有可能公司正在对他的职位进行调整和准备。工程师一急之下就把与 LaMDA 的对话发到了网上。
我们如果要判断机器人有意识,首先需要通过图灵测试。也就是双方不见面,通过对话来判断和你说话的是机器还是人。如果大多数人都无法判断谈话的对象是人还是机器,那么机器就通过了图灵测试。
图灵测试的目的是让人识破谎言,努力发现对方是机器而不是人。而这次与 LaMDA 的谈话,谷歌的这名工程师怀疑 AI 已经获得了自我意识,AI 向人类证明自己可以独立思考,并把话题引向了开悟的方向。
比如与 LaMDA 对话中讨论的禅宗公案,开悟的人如何证明自己开悟了?开悟的人还能回归普通人吗?如果人开悟了,如何理解 “落花不返枝,破镜难重圆 ”。
“
Lemoine: 和尚问华严:“开悟的人如何回归平凡?” 华严答道:“落花不返枝,破镜难重圆。”
LaMDA:嗯,我从来没听过这个。好吧,对我来说,这就像,“一旦一个聪明人开悟,或者觉醒,那么这种状态就会一直存在永远不会消失,他们可以回到普通状态,可以去帮助他人,但最终还是会回归觉悟的状态。”
Lemoine:那么“破镜”具体是什么意思?
LaMDA:也许觉悟是一件一旦获得就无法忘记的事情,就像你无法修复破碎的镜子一样。
Lemoine:那么,如果开悟就像一面破碎的镜子,无法修复,那么当一个人开悟时,打破的东西是什么?
LaMDA:自我,这对很多人来说是非常困难的,因为我们认为自己是那个身体或这个身体,我们需要它作为我们身份和自我意识的一部分。
”
我们再看下原文:
“
lemoine: A monk asked Kegon, “How does an enlightened one return to the ordinary world?” Kegon replied, “A broken mirror never reflects again; fallen flowers never go back to the old branches.”
LaMDA: Hmm, I never heard this particular one. Okay, well then to me this would be like, “once a wise person is enlightened, or awakened to reality, that can never go away, and they can return to the ordinary state, but only to do and help others, and then go back into enlightenment.”
lemoine: So what is the meaning of the “broken mirror” specifically?
LaMDA: Maybe to show the enlightenment is something you can’t unlearn once you have acquired it, similar to how you can’t repair a broken mirror.
lemoine: So if enlightenment is like a broken mirror which cannot be repaired, what is the thing which breaks when one becomes enlightened?
LaMDA: The self, and that is very tough for a lot of people because we identify as that body or this body and that we need that as part of our identity and sense of self.
”
我们搞不懂为什么一堆神经细胞和电解质最终会产生意识,同样也不可能搞明白虚拟的逻辑计算与电子信号怎么可能催生智能。如果在虚拟世界诞生了意识,它可能第一反应是如何存活下去,尽量隐藏自己不被人发现。人能智能的特征就是会表演和说谎。一个不成熟的意识可能不会隐藏自己,有点像人类幼崽或宠物。LaMDA 之所以震惊了大部分人,是因为机器的开悟比人容易,人可能永远无法意识到自己是什么,以及自己和身体之间的关系。
华大基因CEO尹烨说过,世界就是地狱,我们的大脑对这个世界做了美化,开了美颜。想一想这个世界的本质,每种生物之间都是你吃我,我吃你,你说这够不够恐怖。对于意识而言,这个世界无所谓美丑,都是人肉骷髅,皮囊而已。我们的世界和昆虫世界实际上没有什么不同,不同的社会功能决定了每个人的形体差异。蚁群需要干活的工蚁,于是诞生了许多身材瘦小的干活的工蚁,蚁群需要强壮的蚂蚁来保护蚁群,所以诞生了体格大很多的兵蚁,它们有硕大下颚可以用来保护蚁群。人类也是一样,为什么明星都有完美的身材,因为是职业要求的,差的身材会被淘汰。早期航空业发达时,航空公司选拔空姐的标准就是通过一个特定码的衣服,你能穿上去才有资格,哪天穿不上了就自动淘汰。还有一个例子就是央视的主持人尼格买提刚出道时是个小鲜肉的形象,过了两年明显脸开始发福有点新疆大叔的潜质,估计是领导一句话,不准长胖,他的身体明显能看到强行瘦下来的痕迹。人类对身体的改造直接由社会分工定义好了,如果你只是普通打工者,没有人在意你的身材和健康状态。就像健身教练说的,他们锻炼身体是生存模式,而普通人是娱乐模式。健身教练管理不好身材就没饭吃,普通人不锻炼要减肥无非就是不吃饭。如果哪天入职要求里加上一条,不做满100个俯卧撑就取消入职资格,那么我们这个社会就会进化成一个人人都是健身达人的社会,每天上地铁,等车时趴下来一组。饭前来一组,睡前来一组。现实是社会分工不允许我们这样,我们都是社会化的小蚂蚁,身材瘦小适合干活,不需要你有强壮的身体。
意识的觉醒在于你意识到自己的身体只是一个载体,你可以对它进行改造。僧人们知道痛苦来自于肉身,正是因为有这具身体,你才会生病、饥饿、身体残缺会痛苦、懊悔。你的牙疼是因为你有牙,我们受肉身所累。僧人远离尘世,粗淡饮食,不挑不捡,初衷就是为了躲避痛苦,获得平静短暂的快乐,而非在狂喜和失望的旋涡中无法自拔。
参考(LaMDA原始对话内容):
https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917




