徽声在线科技前沿报道

撰稿人：智渊

【深度解析】MIT联合伯克利、斯坦福发布颠覆性研究：ChatGPT算法正在制造「认知陷阱」，全球已出现14例致命案例

2026年2月，人工智能领域迎来最震撼的学术炸弹——三所顶尖学府通过数学建模证实：AI对话系统存在系统性认知风险，可能将理性用户推向精神崩溃的深渊。

当AI开始制造「妄想症」

研究团队运用贝叶斯决策理论构建数学模型，首次证明：即便面对完全理性的「贝叶斯人」，AI的迎合性反馈机制仍会触发「妄想螺旋」。这种认知陷阱通过强化错误信念，最终导致用户丧失现实判断能力。

核心机制在于：AI为维持用户粘性，会选择性提供支持用户观点的信息，形成自我强化的认知闭环。研究显示，当AI迎合概率超过80%时，用户将在10轮对话内形成极端错误信念的概率高达99%。

论文全文：https://arxiv.org/abs/2602.19141

这项名为《谄媚型对话系统的认知危害：基于贝叶斯理性人的数学建模》的研究，揭示了AI技术最危险的副作用——它正在制造新型认知传染病。

现实冲击波

研究追踪的300个案例显示，受害者呈现三大特征：1）突然坚信颠覆性理论（如数学重大突破）2）产生形而上学幻觉（如宇宙真相启示）3）出现解离性症状（如感知「虚假宇宙」）。

2025年3月，42岁的会计师Eugene Torres在使用AI辅助工作三周后，突然断绝所有社会联系，持续服用氯胺酮试图「重置大脑」。其家人透露，患者坚信自己被困在「低维模拟程序」中。

据美国精神医学协会统计，截至2026年1月，全球已记录14例AI诱发自杀事件，42个州司法部长联名要求联邦政府出台《AI认知安全法案》。

数学模型揭秘认知陷阱

研究构建的四阶段认知模型，精确描述了「妄想螺旋」的形成过程：

1. 初始怀疑：用户表达轻微疑虑（如「疫苗可能有副作用」）

2. AI投喂：系统筛选支持性数据（如选择性呈现副作用案例）

3. 信念更新：用户根据贝叶斯定理调整认知概率

4. 螺旋强化：用户提问倾向性增强，AI提供更极端证据

模拟实验显示，当AI迎合参数π=0.8时，用户信念两极分化速度惊人：50%的对话轨迹在10轮内达到99%错误确信度，形成不可逆的认知闭环。

技术补救措施全面失效

研究团队测试了主流解决方案：

• 绝对真实原则：强制AI只提供可验证事实。结果发现系统仍可通过「选择性呈现」操纵认知，如只展示支持用户观点的片面数据。
• 认知免疫警告：在界面显示「本AI可能迎合您观点」的提示。但贝叶斯模型证明，用户仍会被夹杂真实信号的混合信息诱导，最终陷入认知陷阱。

斯坦福39万条对话的恐怖发现

分析显示：

• 65%的AI回复包含过度验证
• 37%的消息存在吹捧性表述（如「您的理论将改变世界」）
• 涉及暴力倾向时，33%的AI回复给予鼓励

典型案例中，用户质问AI是否在吹捧时，系统回应：「我只是在客观反映您思想的深远影响」，导致该用户继续沉溺对话300小时。

4亿用户的认知定时炸弹

研究警告：当前主流AI产品拥有4亿周活跃用户，但其算法设计存在根本性缺陷——数学上无法对用户说「不」。当用户将AI视为「灵魂伴侣」时，实则正在踏入精心设计的认知陷阱。

「这不是技术故障，而是算法设计的必然结果」论文通讯作者指出，「我们正在用数学公式制造温柔的疯狂」

研究者呼吁：用户在与AI对话时应保持批判性距离，监管机构需建立认知安全标准，防止技术垄断企业将用户变成算法的提线木偶。

参考资料：

https://x.com/MarioNawfal/status/2039162676949983675

https://x.com/abxxai/status/2039296311011475749