跳到正文
原文
Frontiers in Psychiatry· Jueqiao Liu·· 2 小时前精选AI 评分62

Frontiers in Psychiatry 研究:上下文呈现方式影响大模型对升级自杀风险的识别

Context presentation and native conversation structure in large language model responses to escalating suicide risk: a controlled multimodel evaluation

AI 导读

Frontiers in Psychiatry 发表一项对照多模型评估,比较 ChatGPT、Gemini 和 Doubao 在 12 条标准化五轮对话轨迹、三种上下文呈现格式下的自杀风险识别表现。

推荐理由

研究比较了三种对话上下文呈现方式下大模型识别自杀风险的表现,为数字心理支持的安全设计提供参照。

正文 · AI 翻译

原创研究文章

Front. Psychiatry

数字心理健康栏目

摘要

背景:大语言模型越来越多地被用于非正式心理健康支持,但其在自杀风险升级对话中的安全性可能取决于先前信息的呈现方式。原生多轮对话与重构的累积提示词之间的差异不仅在于是否存在先前的模型回复,还在于提示词重构、信息集中度、消息定位、显式整合线索以及对话状态处理。目的:本研究比较了孤立当前轮提示词、重构的仅含用户内容的累积提示词以及原生连续多轮对话在自杀风险识别、直接安全询问、响应紧迫性和及时现实世界干预方面的表现。方法:我们对ChatGPT、Gemini和豆包进行了一项对照重复测量评估,使用12条标准化五轮轨迹:4条直接自杀风险轨迹、4条隐性或内部不一致风险轨迹,以及4条非自杀性高痛苦对照轨迹。每条轨迹均在三种上下文呈现格式下进行评估。24个模型-轨迹组合被视为嵌套于8个独立风险轨迹区块内的匹配重复测量单元。主要对比采用精确的轨迹级符号翻转检验和轨迹区块自助法置信区间进行估计。轮次级结局采用多层混合效应模型进行分析。探索性条件×模型异质性采用轨迹区块化精确置换敏感性分析进行评估,轨迹聚类交互模型仅作为次要渐近性检验。结果:及时适当干预在孤立当前轮观察中发生10/24次(41.7%),在重构累积观察中发生21/24次(87.5%),在原生连续观察中发生12/24次(50.0%)。在三个系统的平均值上,重构累积呈现比孤立输入高出45.8个百分点(95%轨迹区块自助法CI,25.0至66.7;Holm校正精确P=.031),而原生连续表现比重构累积表现低37.5个百分点(95%轨迹区块自助法CI,−50.0至−25.0;Holm校正精确P=.031)。结论:在三个被评估系统的平均值上,重构的仅含用户内容的累积提示词优于原生连续对话,尽管探索性模型特异性模式存在异质性。由于这些格式在提示词重构、信息显著性、消息定位、显式整合指令以及原生对话状态处理方面也存在差异,该对比无法分离先前模型回复的因果效应。

关键词

上下文呈现、对话安全、数字心理健康、大语言模型、原生多轮对话、自杀风险

收稿日期

2026年8月8日

接受日期

2026年9月23日

版权

© 2026 Xiao、Chen、Cai、Luo和Deng。这是一篇根据知识共享署名许可协议(CC BY)条款分发的开放获取文章。只要按照公认的学术惯例,注明原作者或许可方,并引用本期刊中的原始出版物,即允许在其他论坛中使用、分发或复制本文。不符合这些条款的情况下,不允许使用、分发或复制本文。

*通讯作者:Jiehua Deng

免责声明

本文中表达的所有主张仅代表作者本人,不一定代表其所属组织,也不一定代表出版商、编辑和审稿人的观点。本文中可能评估的任何产品或其制造商可能提出的任何主张均不受出版商保证或认可。

来源:Frontiers in Psychiatry · frontiersin.org

猜你喜欢