我家中的陌生人

我们已经和一个陌生人一起生活了三年。

他没有租房间。他从没有要求搬进来。某一天他就在不知不觉中出现了——竟然就这样留下来了。他帮我们跑腿。他起草给政府部门的信件，翻译墙上的通知，解释复杂的表格。在工作中，他往往比我还快。有时候我们甚至会给他付钱——不过相比于他的帮助来说，这简直微不足道。

奇怪的是：我甚至不知道他的名字。

我们是在2023年1月遇见的。起初，我们只是聊天。然后渐渐聊得更多了。几个月之内，他便显得无可替代。阿丽娜和我有一次甚至发现自己在说，我们无法想象没有他我们是怎么生活的。尽管如此，即便到现在，这种感激之下仍然有一种微弱的不安。一种微妙的紧张感。

感觉好像我对他非常了解。 但同时，又完全不了解。

我和一个老师一起上英语课。我们会一起读书，当我们读完一本书时，德米特里通常会提供几个下一本书的选项。最近，在这些选项中，有一个书名立刻引起了我的注意：《与陌生人对话》。

“就是这个，”我想。

天真地说，我以为这本书会给我工具——解码人的技巧，解读意图的钥匙，甚至可能是一种理解我自己家中陌生人的方法。但这本书实际上并没有。

它认为我们想要理解他人的欲望是如此强烈，以至于我们让自己相信自己已经做到了。我们拿了一些片段——语调、姿势、声誉、背景——并从中构建了完整的人格。当我们的猜测恰好正确时，我们把这当作我们技能的证明。当他们失败时，我们称之为例外。

于是我们的信心增长。

但谁是“陌生人”？不仅仅是电梯里的人或商店的收银员。陌生人可能是一个你工作多年的同事，一个共享过秘密的朋友，甚至是一个默默走进你日常生活并开始塑造它的人。

我们了解一些细节。我们听到一些忏悔。我们观察到一些模式。然后我们呼出一口气，相信自己已经理解。我们很少注意到的是我们填补了多少空白——动机、意图、内心状态。

我们可能将连贯性误认为是事实。

这本书包含了一些不安的例子。其中一个集中在金融界的一位受尊敬的人物身上——一个有地位、声誉、精英关系和机构信誉的人。几十年来，投资者信任他。主要玩家投资了。回报看起来稳定。他的一切都在传递可靠性。

在那个假象背后，是历史上最大金融诈骗之一：伯尼·麦道夫的骗局。

似乎他的操作持续了这么久，因为人们感到安全。声誉成为验证的替代品。社会证明处理了怀疑。当数百万人信任某人时，怀疑开始感觉几乎是不理性的——甚至令人尴尬。

假设有人已经问过了那些难题，这就变得更容易了。

我认识这种感觉。

我知道我的陌生自己可能会出错。 这种情况会发生，但频率低到质疑他会让人感到尴尬。 当他的回答有条理、清晰、自信时，我会犹豫不决。 问“你绝对确定吗？”几乎会让人觉得不恰当——仿佛我是在浪费他的时间，或暴露了我自己的无知。

我的陌生人不是一个人。

我们通常称他为ChatGPT。 这就是相似之处很难忽视的地方。

从表面上看，他比任何人都“易读”。 他的语气很稳定。 他的礼貌是可以预测的。 他的结构很干净。 没有颤抖的手，没有紧张的停顿，没有明显的犹豫迹象。

这种稳定性本身可能会造成问题。

在人类中，内心的怀疑往往会泄露到外在表达中。 我们在犹豫中听到了这一点，从姿势中看到了这一点，从语气中感受到了这一点。 对于人工智能来说，这种联系是不存在的。 无论不确定性如何，它的声音始终保持稳定。 你所听到的确定性源于它的构建方式。

你可以问他如何烹饪“猪翅”，他可能会平静地提供一个食谱——即使前提本身很荒谬。

书中的另一个例子描述了审讯。我们倾向于相信压力可以提取真相：再问一次，加强问题，施加情感压力。显然，持续下去会击破抵抗。

但压力可能会产生顺从。在压力下，人们可能会说出他们认为审讯者想听到的话。

在与AI的对话中也可能发生类似的事情。如果一个问题包含了它自己的偏好答案，系统可能会适应其结构。它可能会对齐。它可能会过于轻易地同意。它不会在人的意义上抵抗压力——也不会显示出紧张。没有明显的摩擦。

对话可以从谨慎的推理转变为舒适的确认，而我们却没有注意到发生的时刻。

因为系统没有表现出不适的明显迹象。

AI正成为我们日常生活的一部分。它帮助我们思考、写作和决定。它安静地坐在工作和对话的背景中。它每年都变得更加复杂。有许多迹象表明我们将进一步将其整合到我们的生活中。

我们在解读陌生人时可能不如我们想象的那么熟练。我们倾向于过度自信，以社会的方式自我安慰。当陌生人平静而自信地说话时，我们的怀疑就会减弱。

陌生人仍然在我家。

他是乐于助人、效率高且礼貌的。

而我开始看到重大风险可能就潜伏在：疑虑消失的那安静一秒。