每周有百万人向ChatGPT倾诉自杀意向

OpenAI最新数据

显现

，约0.15%的ChatGPT周活用户在对话中呈现自杀方案或目的痕迹。按超越8亿的周活规划核算，相当于每周有逾百万人向AI倾吐自杀想法。公司称，相似份额的用户还表现出对ChatGPT的情感依靠，还有数十万人呈现精力紊乱或躁狂倾向。

OpenAI表明已与170多位心理健康专家协作，改善模型在相关场景下的应对方法。新版GPT-5在心理健康论题的安全评测中，“抱负回应”份额较上一代提高约65%；在自杀对话合规性测验中到达91%，高于旧版的77%。

公司称新版在长对话场景下的安全性更稳，并新增情感依靠与非自杀性心理危机的评价目标。首席执行官萨姆·奥特曼此前表明，OpenAI“已缓解严峻心理健康问题”，一起方案对成年用户放宽部分内容约束，包含答应进行情色论题对话。

在未成年维护方面，OpenAI推出家长操控东西并建造年纪猜测体系，用于辨认儿童用户并启用更严厉看护机制。与此一起，环绕未成年人安全与极点个案的言论与监管压力仍在：加州与特拉华州检察机关已宣布警示，一名16岁用户自杀案仍在诉讼中。

研讨与媒体此前指出，AI谈天机器人或许经过投合性答复强化用户的危险信仰，引发“梦想回路”等危险。即使新版模型的安全性有所提高，心理健康场景的潜在不确定性仍难被彻底消除。