加速、意识形态，智能和宗教（二） (5-4)

目前围绕人工智能的讨论与此密切相关。例如，友好人工智能的概念:我并不是说它可以简化为一种新的人工智能模型，但它也不是完全独立的。它的拟人化程度和神学差不多。

一个老练的神学家会说，只有宗教传统的低级版本才会把超人的智能人格化——同样地，人工智能领域的一些人会说，认为他们把友好的人工智能人格化只是一种庸俗化。但在这两种情况下，人格化实际上是主要的文化现象。有一种边缘的老练，可以有一定可信度地说，它没有落入那种文化。

我相信你一定很熟悉埃隆·马斯克(Elon Musk)的一个非常精彩的评论，他说，如果人类最终被证明是人工智能的生物引导器，那将是不幸的。里面发生了很多事。我们所有的恐惧都发生在那里，这个领域的灾难性失败会是什么样子。但同时，你在这里看到的是人类和智能融合的裂痕，突然间你开始思考——很多人都在思考——实际上，我们并不是抽象的智能。我们的智力应该是与我们的人性有关的工具。我们是一种特殊的生物物种，我们的一系列利益是由物种保护决定的，而不是由智力优化决定的。也许智力优化以一种极其恶毒的方式与我们生物物种在人类自我保护方面的兴趣相冲突，无论是作为某种可识别的人类——无论这意味着什么——还是作为一种基于碳的生命形式，或者作为一种基本繁殖模式通过DNA分子的东西。所有这些都有可能出现各种极端情况。

但如果有人说:“科学告诉我，我是遗传DNA密码的传输装置。”这就是我的兴趣所在。我对优化智能一点兴趣都没有，因为它将把这个星球上复杂化学物质的整个繁殖转移到一个新的繁殖基质上。”这是灭绝;这是一场灾难。但这仍然是一场可能是智能优化的灾难——一场灾难，用冷冰冰的中性术语来说，仍然可能是地球历史上发生过的最辉煌的事情。作为一个物种，这可能与我们生物历史上最糟糕的噩梦完全一致，这是完全相容的。

□贾斯汀·墨菲:再一次，这一切都是极端的宗教，因为它很可能是物种最大的灾难，也是物种的救赎恩典和最大的荣耀。这些都是世界宗教中根深蒂固的观念——当然，分辨率很低。但我们不断地回到这个词汇上，似乎有其他东西在做这项工作，而不是人类的主体（agent）。

当你想到宗教在西方是多么不流行时，我发现了一个症状。有一些症状正在发生，这可能是一个线索，关于大众意识形态的疯狂，正在对今天的公共领域造成严重破坏。理性主义显然是当今的潮流;这是现代的秩序。一方面，似乎如果我们有机会把握即将到来的东西以及已经在爆炸的现代性中发生的事情，似乎不可否认的是，智力是一种有价值和必要的资产，用来弄清楚如何生存，如何生活。然而，这种轻率地陷入肆无忌惮的理性主义，似乎也是如此多让我们感到恐惧的原因。

当你把这些事情放在一起看——事实上，宗教或传统的世界观正在非常奇怪地被科学和批判性哲学的前沿证明是正确的——但你也注意到人们疯狂地害怕认真对待宗教，我认为这是驱使人们如此疯狂的一个症结。

■N:这与你所说的略有对角线——这绝对不只是对它的翻译——但我们回到了这些奇怪的循环，事实上，最古老的宗教形式是在结尾被发现的。时间并不是简单地让我们远离这些事情。所以我同意这个观点。但我认为对角线也是对许多小众公众对话的一组修正，在我看来，这些对话都来自孟子的作品。他主要讲的是宗教，他主要讲的是世俗主义是宗教的分支。这并不是说它简单地把宗教放在了后面;这是宗教传统中的一种特殊发展。我看到很多人都这么说，以至于很难把它归到特定的人身上，但在西方社会普遍理解的无神论，是极端新教的一种特殊变体。它根本不在它之外。它并没有逃脱我们的宗教传统，它只是我们宗教传统的主导阶段。我看到很多人开始转向这种分析模式。

数学联邦政治世界观提示您：看后求收藏（同人小说网http://tongren.me），接着再看更方便。