思维链会骗人，AI安全得给模型做一场「思想审计」｜对话上海交通大学张拳石
思维链会骗人，AI安全得给模型做一场「思想审计」｜对话上海交通大学张拳石答对不等于想对，AI安全该查什么？
来自主题: AI资讯
9517 点击 2026-11-05 17:34
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
答对不等于想对，AI安全该查什么？
DeepSeek-R1 等模型通过展示思维链（CoT）让用户一窥大模型的「思考过程」，然而，模型展示的思考过程真的代表了模型的内在推理机制吗？在医疗诊断、自动驾驶、法律判决等高风险领域，我们能否真正信任 AI 的决策？