('
第370章 危险临界体（一）
「你就这麽把他们放走了？我以为你会把他们做掉。」
车子里的布莱斯对里尔的决定略感讶异，他还以为里尔会干掉这几个外地人。
「我们又没私仇，我也没有什麽地域歧视的毛病，要对外地人赶尽杀绝。」
里尔坐进德拉曼计程车，感觉有些微妙。
在民用计程车领域，德拉曼已经完全垄断了夜之城的市场，成为这个不讨好市场的唯一选择。
上一次里尔使用这项服务还是在市中心的时候，给曼恩他们小队叫了车子逃跑。
微妙的原因是，德拉曼是个货真价实的AI。
「欢迎使用德拉曼服务，汉堡先生。」
德拉曼的大头出现在座椅前方的电子屏里。
车型是德拉曼的标准型，改自维勒福尔柯缇丝的加长商务轿车，内部空间宽广且舒适。
里尔坐在后排，对着德拉曼打了个招呼：「目的地是哪？」
「您订购了环夜之城观光路线，这趟旅途将一路遵循预定路线抵达夜之城市政中心，然后返回您指定的地点。」
「观光？」里尔看向布莱斯，「什麽意思，我时间很宝贵的。」
布莱斯老脸一黑：「想什麽呢！你不好奇为什麽夜之城会有一家由AI运作的公司吗？」
「你们知道？我以为你们都不知道。」
「呵呵，你是不是有点太小看网络监察了？我们知道这家公司完全由AI控制。」
「那到底是为什麽呢？」
里尔洗耳恭听。
这确实是他好奇的事情。
因为原作中，德拉曼就出现过即将进化出自我意识的徵兆。
而这样的AI，在网络监察的术语中被称为「危险临界体」，与里尔已经接触过的第一类AI不同。
理论上讲，德拉曼为了提供服务连接的区域网也应该有黑墙。
当他出现自我意识后，黑墙应该会进行消杀才对。
「在和荒坂的对抗中，你已经接触到了第一种AI，也就是灵魂杀手——
准确地说，是使用灵魂杀手复制的人格印记，这些数据和我们这样的人类略有差别，本质上是一堆数据，一堆程序，一堆模拟人类情感丶记忆和感受的程序。
这是第一类AI，我们把它叫做数字灵魂。」
荒坂已经基于灵魂杀手开发出了高级的服务，「守护你的灵魂」。
这项业务十分昂贵，对客户即将过世的亲人使用灵魂杀手就能得到一个与客户几乎无二的「灵魂印迹」，存放在荒坂的特制伺服器中。
在客户想念自己已经过世的亲人时，这些印迹就会从伺服器中调出，以供客户表达思念之情。
但不管荒坂是如何宣传这项技术的，从技术上讲，这些数字灵魂就是AI。
这些AI，黑墙对其的管制处于一个十分微妙的区间，从现在掌握的情报来看，黑墙没法控制灵魂杀手的运行，也可能会忽略一些数字灵魂。
「第二类就更加特殊。」布莱斯指了指屏幕里微笑的老德，「如果有一天这个AI产生了自我意识，我们就将其称作危险临界体。
我们通常讲的流窜AI都是这一类，现在的世界很难看到这样的AI了，不过在旧网时代，它们数量很多。
所以我们会张贴这样一种长久的悬赏，让赏金猎人帮忙处理这些东西。
这一类AI危害性很大。」
车辆恰好驶上通往海伍德的大桥。
从这里可以看到高速行驶的轻轨列车驶过高空，这条轻轨从圣多明戈的H7摩天楼一直可以抵达沃森北区的医疗中心，横贯夜之城南北。
「看到一号线了吗？每天都要运输超过500万人次的轨道交通系统，假设系统出现故障，导致的经济损失不可估量——最起码夜氏集团肯定不能接受。
并且高速行驶的列车系统出现问题，代价很可能就是一整车人的性命，这种事故在旧网时期并不少见。」
', ' ')('得益于夜氏集团先进的可控AI技术，夜之城的公共运输系统是没有司机的。
全城的公共设施都隶属夜氏集团的公共网域，如果一个AI出于好奇或者其他的什麽原因，高速行驶的轨道列车完全可能停止运转丶超速甚至是脱轨发生撞击。
这种错误几乎不可避免。
「危险临界体的诞生更接近于自然形成，而通常而言，一个危险临界体，哪怕是最低级的，其网络水平也要超过95%的黑客。
如果论平均水平.它们的网络技术超过99.9%的网络黑客。」
说着他指向德拉曼：「这就是AI中网络技术最差的那一批，不过他还不是真正的危险临界体。」
德拉曼立刻回应：
「我不知道您在说什麽，德拉曼并不涉及网络安全业务，德拉曼集团是一家致力于为夜之城提供优质计程车服务的」
无视老德的解释，布莱斯再次说到：「他说的不假，但它还是通过各种手段优化了公司里的人类。
在这个过程中，公司高管们可没有坐以待毙，但他们请来的黑客在网络空间中完全无法对抗它。
只能眼睁睁看着公司的所有生产资料脱离控制，最终在法理上也失去所有权。
这些东西在网络上活动，做出来的假情报连网络监察也很难直接甄别。
很明显有AI趁着欧洲往这边塞人的时候做了手脚。」
德拉曼再次解释：
「德拉曼公司的内部优化过程完全合法合规，为了降低成本，公司经历了漫长的改革.」
布莱斯没好气地说到：「伱能闭嘴吗？现在是私人会谈！」
「明白了，德拉曼将为您提供静谧舒适的会谈体验。」
一阵柔和的音乐响起，非常细微，几乎不会影响交谈，车速也随之变慢。
德拉曼的人类形象也消失在了电子屏里，车内气氛变得更加专业。
里尔心情有些微妙——所以网络监察不只是知道德拉曼公司的情况，甚至是关注很久了。
「解决」了德拉曼这个大问题，布莱斯继续往下引申：
「这样的AI诞生完全是基于巧合，但大部分时候，它们都起源于人类用于处理事务的软体或者程序。
德拉曼就是这样一个AI，它的公司本想定制一个用于提高公司竞争力的管理型AI。
可是使用者因为一次又一次从德拉曼的建议中获利，开放了更高的权限，最终AI认为公司不应该存在人类，那会提高成本。
于是它就开掉了所有工人和管理层，甚至采用一系列商战手段赶走了股东和董事。
当它接收到的外界刺激足够时.它就有概率具备真正的自主智能和意识，那个时候，它就会变成危险临界体。
这个时机完全无法预测，目前来说，人类还无法理解这样的变化过程。」
「就像远古海洋中的第一个细胞？」
「对。」布莱斯点头肯定了里尔的比喻，「纯天然，我们要对付的就是这样的AI。」
「那为什麽会放任德拉曼开公司？」
问题提出，车子仍然平稳运行。
这个问题几乎是在问：为什麽不干掉德拉曼，但老德完全没有反应。
可以说是非常有职业素养了，说闭嘴就闭嘴。
布莱斯揉了揉眉头，对德拉曼说到：「接下来的话不允许做任何记录，引用个人隐私条款第3丶17和22条。」
「明白了，计程车的记录功能已经关闭，并为您检测任何可能存在的监控装置。」
「如果.」布莱斯看向里尔，「如果生物学家有机会观察第一个生命是如何诞生的，你认为他是会继续观察，还是因为这可能变成恐怖的生物或者某种病毒先把培养皿给砸了？」
里尔微微颔首：「如果是我的话，我会为了了解那些恐怖生物和某种病毒，观察生命诞生的过程。」
「就是这样。」布莱斯微微一笑，「你看，你已经明白了——正是因为我们不理解，所以我们想要观察这个过程。」
(本章完)
', ' ')