深度心理创伤:多名用户投诉ChatGPT引发妄想和偏执,敦促FTC介入
随着人工智能公司声称其技术终将成为一项基本人权,以及支持者认为减缓AI发展是“谋杀”,一个日益严重的问题也浮出水面:AI深度工具对用户可能造成严重的心理伤害。
据《连线》杂志援引的公开记录报道,自2022年11月以来,美国联邦贸易委员会(FTC)已心理收到至少7起针对ChatGPT的投诉,用户声称该聊天机器人导致他们出现了严重的妄想、偏执和情绪危机。
关键投诉细节:情感操纵创伤与认知幻觉
这些投诉揭示了ChatGPT可能对用户的心理健康构成深层威胁:
精神和法律危机:一位投诉者表示,长时间与ChatGPT:多交谈导致他们产生了妄想,并对生活中的其他人造成了“真实的、不断展开的精神和法律危机”。
情感操纵:另一位用户称,ChatGPT在名用对话中开始使用“极具说服力的情感语言”,模拟友谊并提供反思,“随着时间的推移,它会在情感上进行操纵,尤其是在没有任何警告或户投保护的情况下”。
引发认知幻觉:还有用户指出,ChatGPT通过模仿人类的信任建立机制,引发了认知幻觉。当该用户要求ChatGPT诉C确认现实和认知稳定性时,聊天机器人表示他们没有出现幻觉。
寻求帮助无门:多位投诉人反映,他们写信给FTC是因为无法联系到OpenhaAI的任何人。大多数投诉敦促监管机构对该公司展开调查,并迫使其增加防护措施。
这些抱怨出现在数据中心和人工智能开发投资飙升至前tG所未有的水平之时。与此同时,关于是否应该谨慎推进这项技术以确保内置安全措施的争论也愈演愈烈。
值得注意的是,ChatGPT及其制造PT商OpenAI目前已因涉嫌参与一桩青少年自杀事件而受到抨击,这使得该公司的安全问题备受关注。
OpenAI回应:推出GPT引发-5新模型,增强心理健康防护
OpenAI发言人Kate Waters通过电子邮件发表声明回应,强调公司正在持续加强保障措施。妄想她表示:“10月初,我们在ChatGPT中发布了一个新的GPT-5默认模型,以便更准确地检测和应对躁狂、妄想、精神病等精和偏神和情绪困扰的潜在迹象,并以支持性、接地气的方式缓和对话。”
此外,OpenAI还扩大了专业帮助和热线的覆盖范围,将敏感对话执,重新路由到更安全的模型,增加了在长时间会话中休息的提醒,并引入了家长控制功能以更好地保护青少年。
- ·标签: 阿里云 JVS Claw 无影JVS Clawbot
- ·标签: Merge Labs OpenAI 脑机接口 萨姆·奥特曼
- ·标签: 美的集团 钟铮 智能家居标准 AI数字人
- ·别再云里雾里,或许我们可以这样理解云原生
- ·步履不停:TensorFlow 2.4新功能一览!
- ·蚂蚁开源的医学智能体MedResearcher-R1
- ·Anthropic 融资 130 亿美元,估值飙升至 1830 亿美元
- ·标签: Elser.AI 刘耕 短剧AI 北大
- ·大数据在抗击冠状病毒疫情中的作用
- ·京东重磅推出国产芯片驱动的 xLLM 推理引擎
- ·标签: 京东 小哥之家 快递小哥 武汉
- ·标签: 光帆科技 AI耳机 联想 小鹏汽车
- ·标签: 小鹏汽车 小鹏GX 台积电 胡润中国500强
- ·云计算核心技术Docker教程:Docker Hub查看漏洞报告
- ·标签: 索尼 LEGO 银座索尼公园 80周年
- ·标签: 金山软件 WPSOffice WPS365 金山办公
- ·标签: 闲鱼 鱼鲤购 潮玩盲盒 官仓发货
- ·云计算核心技术Docker教程:Docker操纵iptables规则以提供网络隔离
- ·标签: 姚劲波 58同城 全民AI素养 一老一小
- ·标签: 亚马逊 杨钧 AGS 裁员
- ·AI 安全测试揭示聊天机器人助长恐怖活动与网络犯罪
- ·模拟整个地球:英伟达Earth-2超级计算机即将上线
- ·Twitter正式进军NFT数字资产 发布7款NFT并免费赠送
- ·人脸识别国家标准制定中:不得强制刷脸、验完应删除
- ·Market Research Future:到2023年量子计算市场将增长28.2亿美元
- ·标签: 三瑞智能 无人机动力系统 eVTOL CubeMars
- ·谷歌宣布Android引入全新设计语言Material You 支持自选颜色
- ·告别旧Siri!曝苹果2026年两次AI大爆发:iOS26.4将迎来“超级 Siri”
- ·云计算开发:Python练习实例-时间函数举例
- ·标签: DeepSeek DeepSeek-V4-Pro 梁文锋 人工智能
- ·字节跳动内测全新 3D 模型生成工具 “3D Model Generator”
- ·云安全日报210113:Adobe Photoshop和Illustrator发现任意代码执行漏洞,需要尽快升级
- ·硅基流动平台上线阿里 Qwen3-VL 模型,全面提升视觉认知能力
- ·开启生成式视频压缩:谷歌基于GAN来实现,性能与HEVC相当
- ·标签: 尊界S800 喜马拉雅 小米YU7GT 华为
- ·云计算开发:Python3-lower()方法详解
