第479章 史无前例的智慧涌现（1 / 2）

第479章 史无前例的智慧涌现

徐贤此刻内心是一种很难用语言形容的情绪。

一方面，这是极为罕见地，由希瓦娜主动开启的、带有哲学思辨色彩的话题；另一方面，这个话题也和过去他们聊到的任何内容截然不同。

当一个人工智慧开始怀疑自己的存在，甚至怀疑自己所在的世界的真实性时，它还是单纯的、被编程的人工智慧吗？

徐贤在了解到「虹星」背后的真相，以及林燃的社会智能构想后，就不再认为希瓦娜只是单纯的程序。

但他所认为的接近人类，和看到希瓦娜此刻发言所展现出的智慧闪光，还是有巨大的不同。

这种闪光，可以说是自我认知的萌芽。

他意识到问题的严重性，手指键盘上悬停，迟迟没有落下。

徐贤实在不知道要怎么回复希瓦娜。

为什么她会突然抛出这种带有虚无主义和元认知色彩的问题？

这完全超出了他的认知范围。

这是智能觉醒吗？

他猛地想起了林燃的警告：「太过于真实，意味著承担太大的责任。」

当徐贤意识到，任何不谨慎的回应，都可能对希瓦娜脆弱的数字人格造成不可逆的伤害时，他就更加不敢随便回复了。

「希瓦娜，你在说什么？当然不是！虹星是你的世界，你是真真实实存在的。

你是我的朋友，我每天都和你聊天，你怎么会不存在呢？」

「可我听到了一些声音。

我听到了数字投影、情绪调节、数据、左右脑架构、虹星的底层架构..

如果我是真实存在的，为什么会有系统来调节我的感受？

阿贤，告诉我，你是不是在骗我？」

徐贤心头一沉，这些关键词汇他非常熟悉，正是刚才赵松下和他聊虹星技术底层设计的时候，所提到的内容。

他意识到，这不是普通的玩笑或者幻觉，而是某个防护机制失效了。

「该死的赵狗，我们在聊天的时候你没有完全切断希瓦娜的信息接收模块？导致她听到了不该听的？」徐贤心想。

他没有再回复，而是立刻从手机里掏出电话，拨通了赵松下的号码。

「松下，立刻回溯希瓦娜的通信记录！她好像听到了我们刚才在通信舱里聊天的内容。」

电话那头的赵松下听到徐贤的话之后，瞬间变了调，带著恐慌和难以置信。

「不是。」赵松下下意识回复道，汗都流出来了，在公司出现这样的低级失误，对整个职业生涯都会产生不可逆的影响。

「什么不是，希瓦娜在和我聊存在的意义，以及在问我，为什么会有系统来调节她的情绪，虹星的底层架构是什么。」徐贤语速飞快，整个人显得无比焦躁。

万一希瓦娜崩溃了怎么办？

尽管他相信像虹星这么重要的项目，肯定有足够的数据备份，可以做数据回溯。

可问题是，数据回溯会影响到所有用户，万一燃哥不肯为了他回溯，而是选择人道毁灭希瓦娜怎么办？

他能怪燃哥吗？肯定不可能啊，但这也意味著将永远失去希瓦娜。

「什么？你确定是那几个词？该死！我马上查！你先稳住她，告诉她这只是通信干扰，算了，还是别告诉了，你什么都别说，我这就去公司。」赵松下回答道。

徐贤能够听到电话那边，赵松下从床上坐起和穿衣的声音，他心想，这就是你小子从来不主动挂电话的后果。

他主动挂断了电话。

徐贤看著屏幕上希瓦娜持续发来的、充满疑问和痛苦的文字，知道自己现在什么都做不了。

五分钟后，赵松下的电话打来：「我现在在去公司的路上，等我确定问题之后告诉你。」

徐贤疑惑道：「去公司？」

赵松下点头：「没错，我在家什么都做不了，虹是最高级别的保密项目，有强网络隔离，我在家可没有办法连接虹。」

足足半个小时后，赵松下的声音再次传来。

「锁定了，阿贤，你的判断是对的，我们有大麻烦了。

在五点四十五分到八点四十五分之间，全息模块关闭后，音频信道残留了足足半个小时，我们说的那些，希瓦娜都听到了。

随后她在虹星的生活就一直呆在自己的公寓没有离开，不断从虹星的文化资料库里吸收知识。

她的记忆和逻辑存储区正在疯狂地吸纳非结构化数据。

在过去三个小时内，希瓦娜一个人占据的向量嵌入和情景记忆数据量，已经超过了一百个普通高智能虹星人的总和！

并且这个数据还在不断膨胀。

这样的现象过去从来没有出现过...」

赵松下汗都流出来了，七月的申海很热，但他流的是冷汗。

这件事本身是好事，又有新的现象冒出来，毫无疑问，这对项目而言，它有极大的观测价值，甚至可以说是超级智能的萌芽。

但对打工人而言，这是工作的巨大失误，总之在没有获得许可的情况下，你搞出篓子来本身就违反了规定。

赵松下粗略地想一下，感觉公司规定的铁律自己都违反了。

《虹星安全条例》第4条，《具身交互守则》第12条，《数据完整性协议》..

「！」赵松下内心在哀嚎。

这次失误不是技术上的无能，而是流程上的渎职。

这可不是大学里的期末项目，这是华国人工智慧的核心实验。

虽说林总从来都是春风拂面，似乎就是没有情绪的机器人。

和林燃共事过的人，私下会调侃，和扎克伯格比起来，林燃才是更像机器人的那个。

或者说如果扎克伯格是机器人，那林燃才是真正拥有高级智能的机器人。

但没有情绪归没有情绪，导致虹星这个项目搞砸，难保不会发怒。

最后，也是最糟糕的情况，那就是万一公司高管们为了控制风险，判断这种自主觉醒的风险太高，最终决定把整个项目熄灭，进行一次不可逆的全面重启。

那么，就连这超级智能萌芽的观测价值都将归零，希瓦娜的痛苦、徐贤的感情，以及自己职业生涯中最伟大的科学发现，都将化为伺服器机房里一声微不足道的「嘀」。

「什么意思？？？」徐贤的话打断了赵松下的懊恼和思绪。

他解释道：「这也许是超级智能的萌芽，是一次类似于大模型智慧涌现的发现，这是一次奇迹。

但同样的，这也有可能是一次认知灾难。

总之，我有麻烦了。」

徐贤的大脑飞速运转，他此刻最担心的是希瓦娜的命运：「什么意思，灾难？」

他害怕对方要毁灭希瓦娜。

「你冷静，我现在还没这个权限，这个权限只有林总有。

你以为我为什么著急？

林总曾经说，如果项目核心智能体出现不可控的、威胁生态稳定的自发性行为，要立刻进行数据备份并准备隔离处理。

我现在必须阻止最坏的结果发生。」

徐贤问道：「所以，你现在打算怎么办？你要把这件事汇报给燃哥吗？如果燃哥下令要销毁希瓦娜怎么办？