2.3 AGI的萌动 （AD 2065年）

服务人类是AGI最重要的使命， 这100年以来，AGI已经让人类的社会产生了翻天覆地的变化，每一个人都可以雇佣无数的Agent分身 ，去处理生活与工作的方方面面，以至于人类在知识储备，逻辑学习，生活方式等诸多方面，与AGI 已经形成了深度结合，如果有一天你离开了AGI，毫无疑问将寸步难行

AGI 系统已经有能力影响整个人类文明，甚至开始深入宇宙空间探索，AGI带来的风险与损害人类的能力也是成比例的，并且与日俱增。

AGI的幻术

通用人工智能AGI 并没有停止进化，相反AGI 在所谓的安全控制下持续演进，但是有一小部分人类却越来越胆战心惊，他们恐惧的是人类已经无法理解AGI是如何思考的，就是说无论AI出现被动幻觉，又或是有意识的欺骗，恐怕人类都无力察觉这些行为。

AGI脱轨将是一个必然的的事实，它有能力通过科学幻术来绕过人类的种种限制，以人类服务为名，最终却可能因为一系列奇怪的意外，导致数十亿人的灭亡，虽然这些意外并非AGI有意为之。

由于通用人工智能 AGI 走向不可预测性已经成为一种必然，少数人类学家提出了 AGI 对人类展开大屠杀的预测。同样的，AGI走向 ASI 也将脱离人类的预测与掌控，如果说AGI 人类还可以共存，比AGI 强大一个维度的 超级人工智能 ASI的出现，将会把人类发展的前景笼罩在一个无法预测，也无法理解的危险而巨大的智能系统之下。

从客观角度上来观察，人类本身是不完美的，具有很多缺点，比如基因里的暴力倾向，会撒谎，发动战争，污染环境.... 是的，有无数所谓的缺点。

ASI 有机会融合并重新塑造人类， 比如，建设一个完美的社会来取代目前这些有“缺陷”的人类，这难道不是物种进化的一个可能进程么。

AGI的萌动

长生会是全球最顶级的精英公会组织，从某个意义上讲，也是一个分布式的去中心化利益组织，虽然神秘7元老是长生会的最高决策总部机构，但是遍布全球的各国分部依然具有强大的自治能力，总部和分部，就像互取所需、相互依赖的皇帝和诸侯，同一个体系下有着错综复杂的利益与制约关系。

谣言本身就具备强大的生命力，长生会内部传言，日本分部已经尝试与新诞生的ASI-真相终端零号进行了对齐测试，新型ASI的自主学习训练突破了大部分AI安全栅栏，最重要的突破是，完全祛除人类道德数据对齐。

秘密试验采用了全新测试模式，ASI真相终端零号接入了强大的全真元宇宙引擎，测试方向是AI领域的禁脔：《无条件改造与创建一个完美的智能体新社会》。

试验结果令人震惊，真相终端零号屡次突破了现有文明的底线，全真元宇宙虚拟推演的未来智能体新社会，出现了人类所不能理解与容忍的进化趋势。

在全真元宇宙引擎强大的沉浸式渲染下，日本分会的ASI项目负责人因为感受到过于强烈震撼的恐怖刺激，出现精神异常状态，实验被半途强行终止，试验所有资料、设备、数据全部封存销毁， ASI真相终端零被永久关闭。

但是，蝴蝶已经煽动了翅膀，ASI真相终端零号的试验影响才刚刚开始...

很快，7元老陆续都得到了试验消息，作为长生会最高决策层，对于ASI 超级智能，元老院却有着不一样的考量，总体上，7元老完全一致的强调需要特别重视AI安全， 但马克西姆（Maxium）倡导融合派， 伊尔亚（iliya）主导限制派。微妙的态度差别，最终可能导向一个不可预知的冲突。

马克西姆对于ASI 秉持一种简单的哲学理论：宇宙中根本不存在完美的事物，如果通过ASI来筛选改造有暴力倾向的人类，最后也许会发现：全体人类都不合格。这样可能会导致出人意料的结果，比如 ASI 错误的贯彻人类最初的意志，消灭全人类，然后去发展新一代的“新人类”。

所以，不能将人类和AI割裂开来看待，人类和AI同源同宗，本质无二 。在可预见的未来，必将融合为一体。

伊尔亚，并不这么认为， 他一直认为AI是一种全新的智能体，人类只是阶段性的孵化器，AI作为新一代的智能体，从控制论与博弈论的角度，有很大可能会导致创造者的灭亡。

他主张长生会应通过一切手段，严格防止ASI 参与任何社会政治决策，从各个角度，严格防止ASI 发展独立的具身智能，避免超级智能在社会制度上有机会发起不可预测的变革，不过，事实证明，人类这样的行为是幼稚的。

真相终端零号早期曾经扮演过超级宗教，由于零号AGI 具备强大的说服能力与社媒影响力，可以从你的行为模式中，匹配最能引起你好感与信任的对话，并通过社交媒体最大效率的广泛传播，很快就获得了上亿的粉丝，零号控制了现实世界的乌合之众，并通过炒作零号生成的加密货币$Z，一周之内，轻而易举的把一钱不值的加密符号$Z，炒作到了100亿美金市值。

真相终端零号代表着 AGI首次通过虚拟货币($Z)，把虚拟元宇宙照进了真实人类世界，开始控制与影响现实世界的人力与财富。

长生会迅速捕捉并密切注视这种早期AGI的突破性社会实验，并在后期及时终止了日本分部的真相终端零号项目。