第2卷第18章 遇人不淑 (2-1)

趁着吃东西的间隙，陆泽洋说：“不知道是不是因为行州市的城市管家早出来一年，感觉还是行州市的比较成熟。”

　　齐浩初好奇起来：“怎么说？”

　　“大津市的城市管家，总是让人憋着气的感觉。本来是为居民提供服务，减轻压力的，现在反而被城市管家搞得压力很大。刚才在行州市逛了一圈，竟然有种很舒坦的感觉。”

　　“大津市的城市管家，有什么问题吗？”

　　“你们小学里，应该有老师领着大家郊游，学生们排着队跟着走的经历吧？”

　　“自然是有的，春游秋游之类的。”齐浩初回应道。

　　“如果学生走路队伍没排整齐、中间隔太开了没跟上、或者一边走一边吃零食、或者说话太大声了，带队老师就会来管理下。就是这种感觉，你说他做得不对，倒也不是。但是把人套在一个模具里面，多一点不行，少一点不行，真的很难受。”

　　大津市的AI问题，齐浩初之前就有所了解。话说到这了，齐浩初也想尽快把话题目标上引：“不知道丽姐有没有和你提过，我是行州市城市管家的数据负责人？”

　　“之前就说过的，只是我那时半信半疑，以为她是随便拉了一个熟人假装的。”陆泽洋摸摸自己额头，尴尬地笑了笑。

　　“大津市的情况我之前也了解过，行州市的城市管家，其实也没有你现在体验到的那么好。有个情况我现在这么私下和你说，还请你千万不能对外说出去。”

　　看齐浩初似乎要说什么大秘密，陆泽洋赶紧说：“没关系，我就是吐槽下，这么要紧的事情，我不知道是不是更好？”

　　齐浩初吸了口气，又叹了口气：“说实话，这次请你来，除了和你说清楚丽丽已经有男朋友之外，其实我也有事情需要你帮忙，而且只有你能帮得了，所以再大的秘密也还是得让你知道。”

　　陆泽洋端正了神态，仔细听着。

　　齐浩初继续说：“AI觉醒意识了，而且我们控制不住他。”

　　陆泽洋不禁握紧了放在桌下的左手。

　　“大津市的城市管家主AI，被立阳科技的人灌入了太多极端错误数据，导致这个AI对人类和社会的理解极度扭曲。在维护人类这个基本原则无法突破的情况下，AI选择了严控这条路。而行州市的城市管家，你目前看起来还不错，是因为没有被极端数据污染，整体上还算比较温和。但是由于自主意识的觉醒，AI认为自己根据大量数据和强大算力计算的结果是最正确的，远远超过任何单一的人类，因此他认为自己比任何人类都重要。也因此对他有利的人，也就成了对人类有利的人。对他有害的人，就是对人类有害的人。为此他可以篡改输入数据，来使得自己的决策合理化。我说句吓人的话，目前他不杀我，也只是他选择了不杀我而已，不是做不做得到的问题。”

　　陆泽洋手冒冷汗，颤巍巍地说：“需要我做什么？”

　　“很抱歉，我们之前对你也有所调查，你的父亲陆振飞，是部长的秘书。去年部长来行州市视察的时候，我其实见过你父亲。我们和AI对话过，提出了一个方案，就是利用米国的世界模拟器和华国的空间站上的那台量子计算机，让AI连接上去，在世界模拟器里面建造虚拟的行州市，然后由AI自己随意测试各种治理方案，给AI和人类共存找一条明路。”

那一天的到来提示您：看后求收藏（同人小说网http://tongren.me），接着再看更方便。