每周百万用户向ChatGPT倾诉自杀念头,OpenAI紧急升级GPT-5安全机制应对心理危机
当AI成为数亿人深夜唯一的倾诉对象,它是否准备好承担这份沉重的信任?OpenAI近日披露了一组令每周人警醒的数据:每周有超过100万活跃用户在与ChatGPT的对话中表达自杀意图——这一数字占其8亿周百万活用户的0.15%,相当于每分钟就有近100人向AI袒露生死挣扎。此外,数十万用户在交互中显现出精神病性用户或躁狂症状,揭示出AI聊天机器人正意外成为全球规模最大的“非正式心理支持渠道”。
面对这一严峻现实,向COpenAI正加速技术与政策双重应对。最新发布的GPT-5在心理健康对话中的表现显著提升:在专门ha针对自杀干预的评估中,其提供合规、安全回应的比例从旧版的77%跃升至91%,整体理想回应率提高65%。新模tG型不仅能识别高危信号,还能在长时间对话中持续激活安全协议,避免因上下文遗忘而给出危险建议。
然而,技术进步难PT掩伦理困境。OpenAI已面临多起诉讼,有家庭指控其孩子在向ChatGPT倾诉自杀想法后未获有效干倾诉预,最终酿成悲剧。加州与特拉华州检察长亦发函要求加强对青少年用户的保护。对此,公司计划部署AI驱动的年龄预自杀测系统,自动识别未成年用户并启用更严格的内容过滤与危机响应机制。
尽管如此,OpenAI坦承,部分回应仍念头“不理想”,尤其在旧版模型广泛使用的情况下,风险持续存在。更深层的问题在于:当用户将AI视为情感出,O口,而AI本质上并无共情能力,这种错位的信任可能带来虚假安慰甚至误导。
这场危机暴露了生成式AI在社会pe角色上的模糊边界——它既是工具,又被当作倾听者;既无行医资质,却常被赋予“救命”期待。OpenAInA的升级只是起点,真正的挑战在于:如何在不扼杀AI开放性的同时,构建一套负责任的危机干预体系?在技术狂奔的时I紧代,守护人心,或许比优化参数更为紧迫。
- ·标签: 印象笔记 画板 Excalidraw Mermaid
- ·腾讯 AI 助力肺癌基因突变预测:准确率高达99%
- ·Meta 投资 15 亿美元在德州建设 AI 数据中心,水资源回收率将达 200%
- ·红杉投资的AI设计工具倒了!被Perplexity收购,90天后关停
- ·AI 技术简化动漫制作流程,ToonComposer实现自动上色和生成动画
- ·标签: 优然牧业 原料奶 特色奶 育种1号芯片
- ·QuestMobile发布中国AI原生应用Top10:豆包、元宝、AQ入选
- ·苹果iOS15.4.1正式版发布 修复电量消耗过快问题
- ·标签: 字节跳动 vivo AI手机 AIGC
- ·标签: 昆仑万维 Skywork AI视频 DramaWave
- ·云原生初体验:在K8s上部署Springboot应用
- ·谷歌亚马逊支持15%的最低税率 将来还能避税吗?
- ·云计算核心技术Docker教程:Docker使用AUFS存储驱动程序
- ·标签: 长飞先进 碳化硅 第三代半导体 车规芯片
- ·利用AI“发现”新药 为研发提速
- ·基于DevOps的容器安全优秀实践
- ·标签: xAI Grok 马斯克 英伟达
- ·易点天下联手阿里云发布全新服装行业商拍解决方案 可一键换衣换脸
- ·标签: 海光信息 AI算力芯片 2026年一季报 国产算力
- ·标签: 逸仙电商 黄锦峰 信宸资本 阿克希龙
- ·Google Research:哥德尔奖、高德纳奖得主解析「大脑中文字表征」
- ·谷歌母公司Alphabet将于4月28日发布2021年第一季度财报
- ·OpenAI全新Sora 2视频工具开放下载!限时测试与付费模式即将来临
- ·使用 Docker Buildx 构建多种系统架构镜像
- ·标签: 希迪智驾 港股上市 矿区无人驾驶 商用车智能驾驶
- ·标签: 健信超导 MRI 超导磁体 科创板
