每周百万用户向ChatGPT倾诉自杀念头，OpenAI紧急升级GPT-5安全机制应对心理危机
我要评论当AI成为数亿人深夜唯一的倾诉对象，它是否准备好承担这份沉重的信任?OpenAI近日披露了一组令每周人警醒的数据:每周有超过100万活跃用户在与ChatGPT的对话中表达自杀意图——这一数字占其8亿周活用百万户的0.15%，相当于每分钟就有近100人向AI袒露生死挣扎。此外，数十万用户在交互中显现出精神用户病性或躁狂症状，揭示出AI聊天机器人正意外成为全球规模最大的“非正式心理支持渠道”。
面对这一严峻现实，O向CpenAI正加速技术与政策双重应对。最新发布的GPT-5在心理健康对话中的表现显著提升:在专门针对自杀干ha预的评估中，其提供合规、安全回应的比例从旧版的77%跃升至91%，整体理想回应率提高65%。新模型不仅能识tG别高危信号，还能在长时间对话中持续激活安全协议，避免因上下文遗忘而给出危险建议。
然而，技术进步难掩伦理困PT境。OpenAI已面临多起诉讼，有家庭指控其孩子在向ChatGPT倾诉自杀想法后未获有效干预，最终酿成悲倾诉剧。加州与特拉华州检察长亦发函要求加强对青少年用户的保护。对此，公司计划部署AI驱动的年龄预测系自杀统，自动识别未成年用户并启用更严格的内容过滤与危机响应机制。
尽管如此，OpenAI坦承，部分回应念头仍“不理想”，尤其在旧版模型广泛使用的情况下，风险持续存在。更深层的问题在于:当用户将AI视为情感出口，O，而AI本质上并无共情能力，这种错位的信任可能带来虚假安慰甚至误导。
这场危机暴露了生成式AI在社会角色上pe的模糊边界——它既是工具，又被当作倾听者;既无行医资质，却常被赋予“救命”期待。OpenAI的升级只是起nA点，真正的挑战在于:如何在不扼杀AI开放性的同时，构建一套负责任的危机干预体系?在技术狂奔的时代，I紧守护人心，或许比优化参数更为紧迫。
相关文章
谷歌母公司Alphabet将于7月28日发布2021年第二季度财报
新浪科技讯 北京时间7月8日下午消息，谷歌母公司Alphabet（NASDAQ： GOOG, GOOGL）今日宣布，将于美国东部时间7月27日股市收盘后（北京时间7月28日）发布2021年第二季度财报2026-11-14
撰文 | 曹双涛 编辑 | 杨博丞 题图 | IC Photo 成立于2020年的红松集团，被业内称为“国内最懂老年人交流需求与习惯的公司”。其副总裁黄雄飞称，未来红松的AI产品将持续从中老年用户的真2026-11-14
Meta AI 发布 MobileLLM-R1：轻量级边缘推理模型，参数不足 10 亿，性能提升显著
Meta AI 近日推出了 MobileLLM-R1，这是一系列轻量级边缘推理模型，目前已在 Hugging Face 上发布。该系列模型参数范围从140M 到950M，专注于高效的数学、编码和科学推2026-11-14
标签: 阿里 HappyOyster ATH创新事业部 HappyHorse
云梦级4月16日云梦级消息，4月16日，阿里发布新AI模型HappyOyster。根据官方介绍，这是阿里巴巴推出的开放式世界模型产品，支持实时世界创建与交互。该模型归属阿里巴巴ATH创新事业部。 “T2026-11-14
新浪科技讯 7月16日上午消息，Canalys发布的最新数据显示，2021年第二季度全球智能手机市占率排名，小米全球智能手机市占率升至17%，超越苹果，首次成为全球第二，同比增长83%，也是市占率前五2026-11-14
云梦级6月2日云梦级消息，6月2日，滴滴在其官方发布2026年一季度业绩报告。国内业务稳健增长，海外多业务协同效应持续释放。 一季度，滴滴核心平台订单量（包括中国出行和国际业务在内）同比增长13%，达2026-11-14
最新评论