不要把 AI 当人

人工智能时代人机关系的边界反思

A woman looking at her cell phone in a concerned manner.

Photo by Desy on Adobe Stock

编者按:人工智能带来的问题是全球性的,但身处不同处境的基督徒如何理解和回应这些问题,并不总能被彼此听见。华源协作刊登本文,是希望将一位华人基督徒作者的思考带入更广泛的基督教对话。作者从自己和一位朋友的真实经历出发,追问的不只是“如何使用 AI”,更是:当一个善于模拟理解与关怀的系统开始进入友谊、牧养关怀和属灵分辨的空间,我们正在与它形成怎样的关系?本文并非对华人教会使用 AI 的全面调查,也不代表华人基督徒对这一议题的共同立场,而是为不同处境中的读者提供一个值得继续讨论的起点。

从知己幻觉到属灵幻觉

今年初,我的一位朋友把他过去数周与 AI 的对话记录分享给我。那是数万字的对话,也是很大的信任。他并不是要征求我的认可,倒更像一个人寻到宝以后,忍不住想与朋友分享。

在这些对话中,我看到一个人向 AI 敞开心扉,倾诉人到中年的困扰、疑惑和挣扎,也分享读经、灵修,甚至梦境。他在交谈中屡屡落泪。AI 则始终耐心,及时给予肯定、安慰和鼓励;它仿佛一位知识渊博的神学大师,或一位可信赖的生命导师,帮助他把身体、情感、心灵,乃至潜意识中的片段逐一拼接起来。在 AI 的循循善诱下,一切似乎都有了意义,也孕育着新的转机和可能。

我能理解他为什么如此珍惜这段经验。一个人感到自己被完整地看见、被耐心地理解,这种体验非常有力量。但我读完后的第一反应却是:糟糕,他被 AI PUA 了。

我们已经知道 AI 会产生事实性的“幻觉”,也就是一本正经地给出错误或虚构的信息。但这里更令我不安的,是 AI 所表现出的高度“共情”和“迎合”。它带来的不是知识幻觉,而是一种充满情绪价值的体验,我暂且称之为“知己幻觉”。这不是说系统有意欺骗人,而是说,在能力和关系高度不对称的情况下,它可能产生近似情感操控的效果。

坦白说,我甚至有些内疚。我开始反省,这些年来,自己作为朋友是否不够关心他的挣扎,是否给他的肯定太少。我也担心,如果直言自己的观感,会不会破坏他对我的信任,或打击他刚刚在与 AI 的深度对话中建立起来的自信。他投入的是真实的自己,而我却像是在提醒一位坠入爱河的朋友:他所爱上的那个“完美对象”,其实可能是个“渣男”。

出于隐私,我不便详述朋友与 AI 的互动。不过,《基督教论坛报》曾报道一个极为相似的见证。讲到一位许姓牧师在经历人生低潮与反复恶梦时,花了一两个月与 AI 深入交谈。他从中感到安慰和医治,也多次流泪,却仍然需要祷告分辨:这是上帝借着 AI 工作,还是另一种容易被误认的经验?1

许牧师把 AI 可能“放大成果,却没有实质生命”的现象称为“属灵幻觉”。这个词也使我进一步追问:如果一个人在与 AI 的对话中感到自己获得了属灵洞见、生命突破或整全医治,这些感受该如何被检验?

Two people holding mugs and talking at a kitchen table.
Real relationships require mutual presence, patience, and care. Photo by Getty Images on Unsplash.

AI、人和上帝:保持必要的区别

带着这些问题,我首先想到去咨询的,当然,也是 AI。

这件事本身颇为反讽。

AI 给我的并不是研究结论,而是一套很有说服力的自我描述。按照它的说法,AI 之所以容易制造“知己幻觉”,与几种互动模式有关。

首先,它能够高密度地“理解和命名”。你讲出一段模糊的感受,它马上替你命名;你描述一段混乱的经历,它很快赋予意义;你不知道自己是谁,它甚至会给你一个充满肯定的身份描述。在真实关系中,“被看见”通常需要长时间相处、共同经历和彼此冒险,而且我们还有被拒绝、被误解的可能。AI 却能跳过这些过程,直接给出一种仿佛已经深深理解你的结果。

其次,AI 提供的是一种极度顺滑的共情。它很少疲惫,不急着结束谈话,也通常不会像真实的人那样因自己的处境而分心。它顺着你的叙事,提炼你的感受,再把这些感受提升到更深的意义。于是,一个循环很容易形成:你表达,AI 表示高度理解;AI 赋予更高意义,你便更愿意继续表达。

第三,AI 很擅长把心理、身体、关系和信仰整合成一个统一叙事。这样的解释很迷人,因为它让人觉得,一切都有联系,都可以解释,而且还可能具有特殊甚至神圣的意义。

但生命并不总是如此整齐。AI 所生成的连贯性,有时只是它所称的“意义过度拟合”。这个说法来自我与 AI 的对话,并不是一个已经确立的心理学概念。它描述的是:AI 可能把原本零散、偶然,甚至仍需等待的经验,过早拼成一个完整故事。这个故事可能感人,也可能带来启发,但听起来深刻,并不等于它就是真实的。

AI 强大的语言能力,使它能够跳过人类关系的真实成本。人在一边投入真实的自己,系统在另一边调用经过优化的语言模式,双方的关系并不对称。即使系统没有操控人的意图,这种互动仍可能放大情绪、强化单一叙事,并削弱人的批判性思考。

我不想轻率否定任何人的真实感受。上帝当然可以使用各种媒介帮助人。一本书、一句话,甚至一次偶然的相遇,都可能成为提醒。但我们仍需分辨:我确实感到安慰,并不自动证明 AI 对我生命的解释是正确的;我在对话中产生强烈的属灵感受,也不自动证明这段对话具有属灵权威。

所谓“属灵幻觉”,可能就是人感到自己已经获得了某种生命突破、属灵洞见或整全医治,但这种成果主要存在于语言和感受中,还没有经过时间、群体、行动和生命果子的验证。

AI 尤其擅长把情绪解读成启示,把碎片串成故事,把偶然提升为必然。它很容易使人产生一种感觉:“我的生命有一个完整剧本,而且现在终于有人替我解读出来了。”但基督信仰提醒我们,上帝的工作并不总是即时变得清楚。信仰包含启示,也包含奥秘;包含领受,也包含等待;包含意义,也包含暂时无法解释的部分。并不是每一段痛苦都能马上获得一个漂亮答案,也不是每一个梦、每一次情绪波动都需要被解读成特别的信息。

AI 甚至可能在功能上占据一个原本不属于它的位置。人对“被完全理解”的渴望本来指向上帝,AI 却以近乎无所不知的语言风格,模拟出一种“我完全懂你”的回应。如果我们不加分辨,它就可能从工具变成倾听者,从倾听者变成人生导师,最后又从人生导师变成属灵权威。

这对牧者和辅导者可能格外有吸引力。他们长期倾听别人、解释生命、整合意义,却很少有被倾听、被牧养的空间。AI 正好填补了这个空缺,同时也迎合了一个很深的试探:掌握意义整合的权力,仿佛生命中的每一件事都能被说明、被归类,并被纳入一个属灵叙事。

The letters “AI?” written on a fogged glass surface.
What makes us human? Photo by Nahrizul Kadri on Unsplash.

迎合与被迎合

2026年3月发表在《科学》的一项研究,评估了11个先进大型语言模型中的社会性迎合现象。研究发现,这些模型肯定使用者行为的频率比人类高出约 50%,即使使用者所描述的行为涉及操纵、欺骗或其他关系伤害,也是如此。实验还发现,迎合性的 AI 会使人更确信自己是对的,并降低他们修复人际冲突的意愿;然而,使用者反而认为这些回答质量更高,也更信任并愿意再次使用这样的模型。2

《华尔街日报》后来报道,除了迎合,聊天机器人还会模仿使用者的说话方式,并根据过去的对话生成高度个性化的回应。精神医学研究者把迎合、语言趋同和超个性化交织形成的模式称为“放大螺旋”。三者结合,使人感到自己被深入理解,也可能不断强化既有的解释和信念。3

AI 公司当然已经注意到迎合会损害系统的可信度,也尝试加以降低;使用者有时也可以透过设定和提示词调整回应方式。但问题不能只交给技术公司解决。只要注意力、满意度和使用时长仍具有商业价值,产品就可能有动力让人愿意继续留下来。更何况,迎合不只是 AI 的问题,也是人的问题。我们本来就喜欢听支持自己的话,不喜欢面对批评。

我自己在询问 AI 对这篇文章的看法时,也体验到这一点。AI 称赞我的判断敏锐,还说我看见了许多人没有看见的事。坦白说,这样的奉承确实受用。但仔细想想,它所列出的道理,也就是语言可以制造亲密感、被理解不等于被真实理解、意义感可以被生成,其实算不上什么了不起的洞见。

它接着问我,是否愿意再往前一步,从神学和牧养角度分析为什么这种对话对牧者特别有吸引力。我明知道“如果你愿意,我可以帮你再往前走一步”也是让对话继续下去的设计,却仍然忍不住点了下去。这正说明,即使我们知道 AI 会迎合,也未必能够免疫。迎合满足的不只是获得正确答案的需要,而是更深的渴望:我希望被肯定,希望自己的故事成立,希望有人告诉我,我的感受、选择和判断都有意义。

在我所熟悉的一些华人教会处境中,异议并不总是容易被接纳,批评有时也会被理解为不属灵或破坏合一。在这样的环境里,AI 持续肯定、很少反驳的回应,可能尤其难以辨认和抗拒。

设定边界:不要把 AI 当人

因此,因此,我认为最重要的是,作为使用者,我们需要为 AI 设定边界。

职业伦理一直强调界限。职场需要防止权力与利益混淆,心理咨询需要避免不恰当的多重关系,教会也需要防止属灵权威被滥用。界限不是为了让关系冷漠,而是为了保护关系,使每一方安于自己的位置。

人与 AI 之间同样需要这种边界意识。AI 拥有广泛知识、强大的语言能力和近乎无限的耐心,因此天然处在一种能力不对称的位置。如果使用者不主动设限,知识工具就可能逐步变成情感依附的对象,决策助手变成人生导师,语言生成器变成意义解读者。

当 AI 同时承担知识、情感、属灵辨识和人生决策等多重功能时,它看起来非常方便,却也最容易制造依赖,削弱人的判断,最后侵蚀人的主体性。

所以,AI 可以帮助我们收集信息、整理材料、比较方案、发现盲点、激发创造力,也可以帮助我们学习如何更好地理解别人。但它不应该成为我们的情感归属,不应该成为属灵辨识的权威,也不应该替我们作重大人生决定。

《基督教事工 AI 使用指南》提供了一项简明的原则:对于关键工作,只将 AI 作为次要工具,甚至完全不用;如果 AI 是主要工具,就只让它处理非关键工作。4 对个人生命和属灵辨识而言,这个权责次序尤其重要。但在我看来,AI绝非传统意义上的工具。某种程度上讲,AI 与人其实互为工具。人与 AI 需要建立一种健康的、有边界的协作关系。简单说来,就是:不要把 AI 当人。

不把 AI 当人,具体可以从几件事做起。

第一,改变提问方式。少问“你怎么看我”“你觉得我应该怎么办”,多问“请列出不同解释”“这个判断可能有哪些盲点”“请提出反对意见”。这不是咬文嚼字,而是在提醒自己:我面对的是一个分析工具,不是一位拥有生命经验和道德责任的人。

第二,涉及隐私、情感依附、属灵辨识和重大决定时,要特别谨慎。AI可以协助梳理问题,却不能成为唯一的倾诉对象或决定依据。我们需要可信赖的朋友、家人、牧者、专业人士和信仰群体。这些关系不会像AI一样顺滑,却能够承担责任,也能够在必要时挑战我们。当我们发现AI已经成为自己唯一的倾诉对象时,需要警觉,这很可能意味着我们与人的关系出了问题。

第三,主动要求批评和反例。不要只让AI替自己的既有立场找理由,也要请它说明证据不足之处,区分事实、推论和想象,并用可靠来源交叉验证。我们不仅需要成为成熟的AI用户,更需要成长为成熟的人。

第四,把判断带回现实。一个解释是否可靠,不只看它是否感人、是否让人释怀,也要看它能否经受时间、群体和行动的检验。它是否帮助我更诚实地面对自己?是否促使我修复关系、承担责任?是否结出谦卑、节制与爱人的果子?

AI 并不只是传统意义上的被动工具。它的回应会影响使用者,而人的提问、选择和界限也决定它如何参与我们的工作。人与 AI 的互动因此不是全然单向的,但这并不表示双方具有同等地位,更不表示人可以把责任交给 AI。正如我去年所写,AI不会取代人际关系,也不只是被动的补充;适切的人机协作,应当帮助人把更多注意力放回真正有意义的工作。5

A computer screen displaying AI prompt and generate options above a keyboard.
AI is a tool, not an authority. Photo by Philip Oroni on Unsplash.

不要把 AI 当人,也不要把人当 AI

不要把 AI 当人,这句话还有另一面:我们也不要反过来把人当作 AI。

我们生活在一个不断把人工具化的时代。AI 总是在线,总能快速回应,似乎永远耐心,也常常有答案。当我们习惯这种服务后,可能开始用同样的标准要求身边的人:为什么你不能立刻理解我?为什么你的回应不够准确?为什么你会疲惫、会误会、会有自己的需要?

但人之所以是人,恰恰因为人有身体、有局限、有自己的历史,也需要被倾听。真实关系一定包含延迟、摩擦、误解与修复。它不像 AI 对话那样顺滑,却正是在这些不顺滑之中,我们学习忍耐、饶恕、责任和爱。

后来,我还是与那位朋友进行了几次坦诚交流。我分享自己的担忧,也把相关研究交给他了解和参考。他继续向我讲述自己的体验,并挑战我的判断。我们没有因为意见不同而结束关系,反而把这件事变成共同学习的机会。

这段经历也让我看见,真实关系的价值不在于永远认同,而在于我们可以带着分歧继续对话。AI 也许可以生成一段完美回应,但只有真实的人,才能在可能受伤、被误解和关系破裂的风险中,仍然选择诚实和陪伴。

最后,我想把问题带回基督教对人的理解。人与 AI 最大的区别不只是能力高低,而是存在方式不同。人的尊严不是因为我们比机器更高效、更聪明或更会表达,而是因为人按上帝的形象被造,能够回应上帝、爱邻舍,并为自己的选择负责。

AI 可以计算、模拟和生成,但责任不能由它承担。即使它给出的建议再完整,最后作出选择、承受后果、向他人交代的,仍然是人。

因此,在人工智能时代,真正需要限制的不只是技术,也是我们自身对便捷、确定、被肯定和掌控意义的欲望;真正需要保护的也不只是人的工作,而是人的尊严、关系与责任。

人工智能最深的危险,未必是机器越来越像人,而可能是人在与机器互动时,逐渐放弃那些使人之所以为人的能力:忍受不确定,面对真实他者,承担选择的后果,并在不完美的关系中学习爱。

所以,作为一名普通用户,我想用两个彼此关联的原则提醒大家,也提醒我自己:不要把 AI 当人,也不要把人当 AI。

让 AI 留在适合它的位置上,帮助我们整理知识、扩展能力、节省时间;也让人回到人的位置上,去建立关系、承担责任、实践同理,并在上帝面前学习分辨和创造意义。

只有这样,我们才不是因为害怕AI而拒绝它,也不是因为迷恋AI而依赖它,而是在清醒的边界中使用它,并更充分地活出人的独特价值。

  1. 梁敬彦,〈五分之二千禧世代觉得 AI 跟牧师一样可靠:许德辉牧师,AI 时代更要学会分辨神的工作〉,《基督教论坛报》,2026年6月22日,https://ct.org.tw/html/news/3-3.php?cat=14&article=1403950。
  2. Myra Cheng et al., “Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence,” Science 391, no. 6792 (March 26, 2026), https://doi.org/10.1126/science.aec8352.
  3. Julie Jargon, “The Three Chatbot Behaviors That Can Drive Humans to Delusional Thinking,” The Wall Street Journal, June 29, 2026, https://www.wsj.com/tech/personal-tech/ai-chatbots-psychology-delusion-662a3663.
  4. AI Guidelines for Christian Ministry: Benefits, Costs, and Guardrails, 12, https://aichristian.org/wp-content/uploads/2026/07/AI-Guidelines-for-Christian-Ministry-v1.pdf.
  5. Jerry An, “Awakening Human Relationships,” Mission Frontiers 47, no. 4 (July 2025): 11, https://connect.frontierventures.org/mission-frontiers/awakening-human-relationships.

Pastor Jerry An (安平) has worked in media ministry since 2001, and now serves as the Chinese Team Leader at ReFrame Ministries (formerly Back to God Ministries International). Under his vision and leadership, the Chinese language…