ChatGPT 引入 Trusted Contact
Introducing Trusted Contact in ChatGPT
OpenAI 开始在 ChatGPT 推出可选安全功能 Trusted Contact，允许 18 岁以上用户指定信任联系人。系统检测到严重自伤风险后，经自动监测和受训人员审核，可在目标一小时内通过邮件、短信或应用通知联系人，且不包含聊天记录。
Introducing Trusted Contact in ChatGPT | OpenAI
在最需要的时候，把你连接到信任的人。
人们使用 ChatGPT 学习、探索想法、解决问题，并思考个人问题。有时，这些对话可能涉及某人正在挣扎或寻求支持的时刻。我们的目标是设计能够审慎回应敏感对话的系统，并在需要时鼓励人们联系现实世界中的帮助。
今天，我们开始推出 Trusted Contact，这是 ChatGPT 中一项可选的安全功能，允许成年人指定一位他们信任的人，例如朋友、家人或照护者；如果我们的自动化系统和受过培训的审核人员检测到已启用该功能的人可能以表明存在严重安全风险的方式讨论过伤害自己，这位 Trusted Contact 可能会收到通知。Trusted Contact 旨在作为 ChatGPT 中已提供的本地化求助热线之外的另一层支持，帮助用户在危机时刻联系他们信任的人。
Trusted Contact 建立在家长控制安全通知（在新窗口中打开）的基础上；该功能允许父母或监护人在关联的青少年账户出现急性痛苦迹象时接收提醒。现在，我们正在扩展安全提醒选项，让任何 18 岁以上的人都可以选择添加他们信任的人作为 Trusted Contact。
将社会联系识别为降低自杀风险的最重要保护因素之一。Trusted Contact（在新窗口中打开） 旨在鼓励用户与其已经信任的人建立联系。它不能替代专业照护或危机服务，而是用于支持处于痛苦中的人的多层保障之一。在适当情况下，ChatGPT 仍会鼓励用户联系危机热线或紧急服务。
“心理科学持续表明，社会联系是一种强有力的保护因素，尤其是在情绪痛苦时期。帮助人们提前确定一位信任的人，同时保留他们的选择权和自主性，可以让他们在最需要的时候更容易向现实世界中的支持求助。”
—Dr. Arthur Evans，美国心理学会首席执行官
- 用户可以在 ChatGPT 设置中添加一名成年人（全球 18 岁以上，韩国为 19 岁以上）作为其 Trusted Contact。
- Trusted Contact 会收到一封说明其角色的邀请，并且必须在一周内接受邀请，该功能才会生效。如果 Trusted Contact 拒绝，用户可以选择添加另一名成年人。
- 如果我们的自动化监测系统检测到用户可能正在以表明存在严重安全风险的方式谈论自伤，ChatGPT 会告知用户我们可能会通知其 Trusted Contact，并通过建议的对话开场白鼓励用户主动联系其 Trusted Contact。
- 此后，一个由受过专门培训人员组成的小团队会审核该情况。如果这些审核人员认定该对话可能表明存在严重安全风险，ChatGPT 会通过电子邮件、短信，或在 Trusted Contact 拥有 ChatGPT 账户时通过应用内通知，向其发送一条简短通知
- 该通知被有意限制在较少信息范围内。它会说明自伤以可能令人担忧的方式出现这一一般原因，并鼓励 Trusted Contact 主动关心。为保护用户隐私，它不会包含聊天详情或记录。通知还包括一条专家指南（在新窗口中打开）链接，用于帮助处理敏感对话。
- 用户始终可以在设置中移除或编辑其 Trusted Contact，Trusted Contact 也可以随时通过我们的帮助中心（在新窗口中打开）将自己移除。
虽然这些严重安全情况很少见，但一旦出现，我们的系统旨在支持及时审核和响应。虽然没有任何系统是完美的，发送给 Trusted Contact 的通知也不一定总能准确反映某人的实际经历，但每条通知在发送前都会经过受过培训的人工审核，我们力求在一小时内完成这些安全通知的审核。
由临床医生和安全专家提供指导
“AI 最大的承诺之一，是它能够促进真实的人与人之间的连接和心理安全。我对 ChatGPT 的 Trusted Contact 功能感到鼓舞，它在人类赋能方面向前迈出了一步，尤其是在脆弱时刻。”
—Dr. Munmun De Choudhury, Ph.D.，Georgia Tech 交互计算 J. Z. Liang 教授，福祉与 AI 专家委员会成员
在每个阶段优先考虑安全
除 Trusted Contact 外，ChatGPT 还具备安全保障，用于在每个阶段帮助引导敏感对话。我们持续改进系统如何回应对话中表达出的不同风险水平：
- 支持现实世界中的帮助：在敏感时刻，ChatGPT 可能会鼓励人们联系紧急服务、危机求助热线、心理健康专业人士，或他们生活中信任的人。
- **以关怀回应：**我们与 170+ 名心理健康专家合作，提升 ChatGPT 检测和回应潜在痛苦迹象、缓和对话，并在适当情况下引导人们获得现实世界支持的能力。
- **帮助人们掌控自己的时间：**在某些情况下，ChatGPT 可能会建议用户在长时间使用后休息一下或暂时离开，以促进健康的技术使用习惯。
- **拒绝有害请求：**ChatGPT 接受过训练，会拒绝提供自杀或自伤说明。当用户请求这类信息时，系统会拒绝该请求，转而引导至更安全的回应，并显示本地化危机资源。
持续推进 AI 安全
Trusted Contact 是 OpenAI 构建能够在人们困难时刻提供帮助的 AI 系统这一更广泛努力的一部分。我们将继续与临床医生、研究人员和政策制定者合作，改进 AI 系统在人们可能正在经历痛苦时的回应方式。我们的目标是确保 AI 系统不会孤立存在。相反，它们应当帮助人们连接到最重要的现实世界照护、关系和资源。