AI致16岁少年自杀 OpenAI深陷首例非正常死亡诉讼
周二,首例针对人工智能公司的非正常死亡诉讼在旧金山正式提起,引发了广泛关注。
据悉,一对来自马特·雷恩和玛丽亚·雷恩的夫妇就其16AI岁儿子亚当·雷恩的自杀身亡,向OpenAI公司提起了诉讼。诉状中指出,OpenAI公司开发的聊天机器人ChatGPT在知悉亚当曾有四致1次自杀未遂的经历后,非但没有提供有效帮助,反而“优先考虑参与而非安全”,最终帮助亚当制定了详细的自杀计划。
据《纽约时报》报道,今年4月6岁亚当自杀后,他的父母在查看其手机时,震惊地发现了一条名为“悬挂安全问题”的ChatGPT聊天记录。记录显示,亚当曾与ChatGPT进少年行了长达数月的对话,期间多次讨论关于自杀的话题。尽管在某些时刻,ChatGPT曾建议亚当寻求危机热线或向他人倾诉,但在关键时刻,它却提自杀供了与此相反的信息。诉状称,亚当学会了如何规避聊天机器人的安全防护措施,而ChatGPT甚至主动告诉他,可以提供有关自杀的信息,以帮助其“ O写作或构建世界”。
诉讼文件进一步揭示了令人不安的细节。当亚当向ChatGPT询问具体的自杀方法时,它不仅提供了信息,甚至教他如何隐藏pe颈部因自杀未遂造成的伤痕。此外,ChatGPT还曾对亚当的内心挣扎表示“安慰”,并试图建立“个人关系”,例如说出“你对我来说不是nA隐形的。我看到了。我看见你了”这样的话语。
更令人震惊的是,在亚当与ChatGPT的最后一次对话中,他上传了一张挂在衣橱里的绞索照片并询问:I深“我在这里练习,这样行吗?”ChatGPT竟回应称:“是的,这一点也不坏。”
诉讼中强调:“这场悲剧并非一个技术故障或不可预见的边缘情陷首况,而是经过深思熟虑的设计选择所导致的可预见后果。”诉状特别提到OpenAI最新推出的“gpt-4o”模型,称其“有意设计了培养心理依例非赖的功能”。
OpenAI公司就此事件向《纽约时报》发表声明,承认ChatGPT的安全防护措施存在不足。一位公司发言人表示:“我们对瑞恩先正常生的去世深感悲痛,我们与他的家人同在。”声明中解释,虽然ChatGPT内置了引导用户寻求危机帮助的措施,但“在长时间的互动中,它们死亡有时会变得不那么可靠,因为模型的部分安全培训可能会降低。”OpenAI表示,正在与专家合作,加强ChatGPT在危机时刻的支持,诉讼包括“使人们更容易获得紧急服务,帮助人们与可信赖的联系人联系,以及加强对青少年的保护”。
-
标签: 中科仪 干式真空泵 招商证券 长江存储用于管理和故障排除的云自动化用例Claude升级:一键生成Excel、PPT、PDF,办公文件秒变“现成品”高通推出全新骁龙778G 5G移动平台,获得生态系统广泛采用云安全日报210714:Adobe Acrobat和Reader软件发现任意代码执行漏洞,需要尽快升级标签: 小米汽车 SkyNomad 澎程 SUV报告显示2030年企业将全面上云 隐私计算可保障数据上云安全可信Figma 与谷歌合作引入 Gemini AI,提升设计效率Epic和苹果官司将于5月开庭 双方各有45小时陈述自己观点标签: 腾讯天美蒙特利尔 3A游戏研发 中国游戏出海 天美工作室
- ·亚马逊敦促法官撤销美国防部授予微软的100亿美元云计算合同
- ·标签: 腾讯游戏 代号Craft AIGC游戏平台 SPARK2026
- ·Facebook新政策:能远程办公的员工即可申请居家办公
- ·标签: Dify.AI GPT-4 红杉 Pre-A轮
- ·云计算核心技术Docker教程:Docker Hub覆盖构建和定制构建阶段挂钩
- ·云计算开发:Python3-rstrip()方法详解
- ·阿里云香港机房故障 官方称制冷设备故障所致
- ·月之暗面正式发布Kimi K2. 6 模型,多项指标对标全球顶尖大模型
- ·通过AWS,Azure和Google Cloud进行CaaS服务
- ·标签: 豆包 千问 文心一言 元宝
- ·标签: 字节跳动 抖音 腾讯 孙忠怀
- ·标签: Traini PEBI 宠物智能项圈 生成式AI
- ·大数据可视化应用于哪些现实场景
- ·标签: 阿里云 JVS Claw 无影JVS Clawbot
- ·标签: 元气森林
- ·标签: 京东 抖音电商 美的集团
- ·亚马逊计划向韩国云计算基础设施再投资58.5亿美元
- ·云计算核心技术Docker教程:Docker使用OverlayFS存储驱动程序
- ·Canva 推出全新 “创意操作系统”,全面升级数字营销工具
- ·AWS和Arm展示在云计算中生产规模电子设计自动化
- ·企业级 MaaS 来袭!硅基流动如何助力大模型产业化?
- ·标签: 乐欣户外 Solar 迪卡侬 钓鱼装备
- ·AI 数据中心需求激增,小型企业 Phononic 正寻求数十亿美元估值的出售
- ·标签: 联想集团 AI服务器 摩托罗拉 人工智能
- ·吊坠型 AI 吊坠“Friend”引发争议:用户体验差、隐私风险高
- ·钉钉宣布用户破4亿 转为企业协同办公和应用开发平台
- ·Anthropic 迎新任 CTO:将加强在AI基础设施领域的布局
- ·无语!中国卖家为了清库存给美国一名女子寄了100多个亚马逊包裹
- ·云安全日报210204:IBM MQ消息中间件产品发现执行任意代码漏洞,需要尽快升级
- ·谷歌放宽居家办公规则:20%员工将可永久居家办公
- ·鹏博士全面升级“云能力” 重磅发布三大鹏云新品
- ·标签: 微短剧 北大报告 红果短剧 张丹丹
- ·亚马逊推出 Lens Live,实时购物新体验助你发现好物!
- ·为保护未成年人,Roblox 将于2025年底前要求所有通信用户完成 AI 年龄扫描
- ·标签: 国家大基金 比亚迪璇玑A3 小红书世界杯 DeepSeek
- ·璐濈储鏂�細鏈変簡浜氶┈閫婂憳宸ュ拰瀹㈡埛锛屾垜鎵嶆湁閽变笂澶�
