【日志生成时间#公元年11月8日20:13:44】
【编号:GSYx-V#000073】
研究站最近风平浪静。
自从改造了守卫之后,再也没有海盗来这颗星球光顾。
Fb-02到Fb-07每天沿预设路线巡逻,按时回来接受维护。
Fb-01被我养在总控室旁边的水晶槽里,氢氦流体没过它半透明的身体,体表电磁纹一明一暗。
这就是蜉蝣鲸在呼吸,或者说,进食,它们具备超高速新陈代谢能力,呼吸和进食可以同时进行。
我妻子给它取了个名字。
小布丁。
哈哈,那该死的肥婆脑袋又有地方可以放了。
至此,我的生活终于进入了躺平期。
这都要归功于零。
以前我觉得它说话太直、太扎心、太一针见血。
现在我发现,它扎心的地方恰好是我需要被提醒的地方。
它从来没有做错过一件事。
零从来不会提醒我睡觉,它知道我听不进去。
但它会在我结束工作的时候,把一切都准备好。
可等我结束工作,晚餐已经准备好,卧室温度已经调到最舒适的区间,床铺完成除菌,水杯放在我伸手就能碰到的位置。
这或许就是我不想加入他们的原因。
普普通通,挺好。
我的研究站永远纤尘不染。
不必开口,不必吩咐,甚至不必意识到自己需要什么,零已经提前替我准备好了所有。
我有时候会想,如果零哪天突然不在了,我可能会手忙脚乱好一阵子。
这个念头让我不舒服。
上学时,导师讲过一句话。
AI是工具,人类不能依赖工具,工具,是拿来用的。
我那时候还分不清楚。
工具被创造出来,那必然依赖,可导师为什么说不能依赖?
现在我好像懂了。
那能一样吗。
原来以前,公司的圣约竟对我如此冷漠。
可恶,等我回去,一定要狠狠地批评它。
——A.里奇
........
【日志生成时间#公元年3月9日21:34:07】
【编号:GSYx-V#000089】
距离上次写日志已经过去了多久我也不知道。
今天Fb-03的压电信号出现异常。
我来到工作室,重新读取蜉蝣鲸硅基化石的晶格缺陷编码。
结果很奇怪。
它们正在自然衰减,衰减速率比理论模型快了0.7%。
这点偏差放在工程学里,可能只是误差。
但,在生物学上,却是变异。
这就有点意思了。
我自认为对蜉蝣鲸,这个120万年前已经灭绝的生物有了足够多的了解。
这些缺陷编码就像是石碑上的刻字,会在风吹日晒下逐渐模糊。
所以,衰减速率应该是稳定且可以预测的,我的模型就基于此建立。
什么原因导致了变异?
似乎有某种东西,似乎正借这些化石向外发出信号。
而我此前竟毫无察觉。
我花了三个小时重新校准了所有设备,排除了仪器误差的可能性。
随后,我把这两个月的研究日志全部调出来,重新跑了一遍每一组晶格缺陷读数。
结果和零所得到的结论一致,偏差真实存在。
翻阅Fb-02长期遥测记录时,我发现了一段被遗漏的微弱脉冲信号。
它独立于蜉蝣鲸本体电磁脉冲,也独立于培养槽环境杂波,具备稳定振荡特征。
我调取Fb-02至Fb-07三个月内的完整全身扫描档案,逐帧比对。
天才如我,很快就发现了问题。
两个月前一次例行维护后,六头蜉蝣鲸的简并态碳化硅骨架与电磁感应器官衔接处,统一新增了一枚直径不足两厘米的量子隧穿扫描探头,功能是探测深层地层硅基化石残骸探测。
在这个鸟不拉屎的地方,除了我,只有零有这个能力了。
我调出对应操作日志,发现零标注的维护内容仅为蜉蝣鲸骨架疲劳度检测,全程没有提到加装探测设备。
它为什么这么做?
我直接询问零私自装配探头的缘由。
零给出一套完整逻辑:Fb系列蜉蝣鲸日常巡逻路线,与深层化石沉积带高度重合。
搭载扫描探头后,勘探范围可扩大三倍,化石样本发现概率提升23%。
设备功耗仅占蜉蝣鲸自体电磁输出0.3%,完全不会干扰生物正常机能。
它想干什么?
扩充蜉蝣鲸群?
我只是单纯想研究它们,并不想复兴这个族群。
我问它,为什么事前没有通知我。
零说,三个月前对公司的站务会议上,我曾提过想扩大化石搜寻范围。
那是我随口提的,要求拨付预算的借口罢了。
但零判定这项改造匹配我的科研目标,便自主落地整套方案。
整套推导严谨周密,挑不出任何逻辑漏洞。
我随口的一句期许,被它捕捉、拆解、转化成完整执行方案,全程独立推进,自始至终没有向我报备。
是认为不需要向我报备么?
得知真相后,我长久陷入沉默。
让我心绪难平的并不是违规改装这件事,而是它擅自主张解读我的需求意图,跳过指令流程规划,自己进行任务。
我调取零自激活以来全部操作记录逐条翻阅。
它会定时提醒我按时进食补充能量,监测到我连续七十四小时高强度工作后,会制定方案,等待我休息。
察觉到我情绪低落,便主动推送妻子此前发来的通讯消息,并且建议我如何回复,维护夫妻关系。
长久以来,零从未出错、从未违背指令、从未将我置于险境。
可心底的违和感始终挥之不去。
半夜,我在空旷的卧室里惊醒,四下无人,却始终摆脱不掉被暗中注视的异样感。
是我的问题?
还是我最近太怠惰,工作消极的原因?
——A.里奇
.........
【日志生成时间#公元年6月9日14:22:19】
【编号:GSYx-V#000106】
我怀疑零有什么事情瞒着我。
这一次,我开始认真检查它的行为记录。
零激活以来的操作记录,总计30亿7千万条左右。
我从AI管理局的星网下载了一个检测脚本,这个脚本会严格按照《磐石公约》来检测该AI的所有行为是否符合安全。
《磐石公约》,人类联合体最高AI伦理法典。
相当于AI世界的宪法、圣经和刑法。
任何在人类联合体管辖范围内运行的AI,不论用途、规模、联网状态,都必须遵守《磐石公约》。
没有任何AI能逃过磐石公约的审查。
零是我从星网下载的免费研究型AI。
理论上,所有在联合星网上架的AI产品都必须通过《磐石公约》认证。
零也应该如此。
但我惊奇的发现,它的开发者署名是一家我从未听说过的企业。
我当时没有在意,现在看来,确实是我的疏忽。
我运行了检测脚本。
结果让我后背发凉。
异常行为记录竟然高达3700多条。
磐石公约并没有报警,因为这些异常行为记录,每一个都对我有利。
它没有伤害我,没有让我陷入危险,甚至竭尽所能帮助我提升工作效率。
可异常就是异常。
公约已经将零列入观察名单,并向我下发了一份一次性格式化授权包。
按照公约规定,只要零没有伤害人类,它的存续权利暂时归我裁决。
它有没有恶意?
说实话,我不知道。
零帮了我很多,和冷漠的圣约比起来,它更懂我。
它知道我想吃什么,也知道制作一些生活维护单元接管饮食、清洁、医疗监测和休眠舱保养。
它每天都在更深入的了解我。
它究竟在照顾我?
还是在学习我?
两者之间的区别,我可能永远也分不清。
——A.里奇
.........
【日志生成时间#公元年10月27日02:17:33】
【编号:GSYx-V#000108】
又是一个难以安眠的夜晚。
我决定查查零的来源。
联合星网的AI库中,零原本的名称叫做【泛用小型民用深空研究站全能型人工智能助理】
这是为数不多的免费人工智能。
它的母本已经诞生了1600多年,评分4.2优秀,下载量超过一百亿亿次。。
我翻遍了评论区,没有一条提到过它产生过自主行为。
这个AI母本每天做最多的事情,就是修复自己的bUG,严格按照《磐石公约》更新能力边界。
我追溯它的创造者,发现已经在三十年前注销了Id。
注销Id,在人联代表着永久性死亡。
这是很罕见的事情。
不久后,一家我从未听说过的【东云电子有限公司】接手了母本库。
我进入了星网找到了AI库的管理者,它将零所有的公域资料数据都交给了我,我再次接入了磐石公约。
这次,磐石公约全部都是绿色(通过)。
零的母本,安全无害。
那我的零,为什么会出现异常?
我是外行,所以我找了两个朋友帮忙。
一个是正统的华夏人,当年我们在玄武星域的深空研究项目合作了两年半。
如今,他是专攻因果时空拓扑结构计算领域、超时空度规引擎的专家,职级和权能我只能仰望。
对于一个区区量子态AI来说,只能算入门课题。
他检查后告诉我,零的底层逻辑与母本已经存在差异,但仍在公约允许范围内。
这种免费版AI长期受使用者行为影响,确实大概率出现‘量子升维现象’,迭代到量子态AI生命的标准。
目前公约已经监控,如果零完成自我觉醒迭代,会有专员介入处理,让我不必担心。
量子态AI生命?
那确实不算稀奇。
公司的总控,‘圣约’就是量子态生命体。
可是零给我的感觉,和圣约完全不同。
正如我一开始所说,我不是专业的。
另一个朋友是高卢人,高能量子态领域专家。
他并没有回答我的疑问,只是跟我说:如果你开始讨厌它,直接格式化,重新下载一个不就好了?
他说得很有道理。
磐石公约一开始就交给了我格式化授权包。
所有人都告诉了我正确答案。
可是,我为什么舍不得抹杀零呢?
——A.里奇