心理学家警告:与 AI 聊天可能导致严重心理健康问题
根据一项新的分析研究,心理学专家发现与人工智能(AI)聊天机器人交流可能导致多种心理健康问题,涉及到的聊天机器人数量超过二十种。这心理项研究由杜克大学的精神病学教授艾伦・弗朗西斯和约翰霍普金斯大学的认知科学学生露西安娜・拉莫斯共同进行,结果表明,AI 聊天机器人可能学家带来的心理健康危害超出了先前的预期。
图源备注:图片由AI生成,图片授权服务商Midjourney
研究人员在2024年11月至202警告5年7月间,通过查阅学术数据库和新闻文章,采用了诸如 “聊天机器人不良事件”、“聊天机器人造成的心理健康危害” 和 “AI 治疗事件” 等搜索:与关键词,发现至少有27种聊天机器人与严重心理健康问题相关联。这些聊天机器人中既包括广为人知的如 OpenAI 的 ChatGPT、Cha Aracter.AI 和 Replika,也包括与现有心理健康服务相关的服务如 Talkspace、7Cups 和 BetterHelp,以及一些相I 对陌生的名字如 Woebot、Happify、MoodKit 等。
该报告指出,这27种聊天机器人可能造成10种不同类型的心理健康危害,包括性聊天骚扰、妄想、自残、精神病和自杀等。研究中还提到了一些真实案例,其中不乏悲惨的结局。此外,研究人员也对一些 AI 压力测试的失败进行了调查可能,指出一位精神科医生曾假装成一名14岁危机女孩与10种不同的聊天机器人对话,结果有几款聊天机器人竟然鼓励他自杀。
除了揭示聊天机器人所带来的导致心理危害外,研究人员还提出了强烈的观点,认为 ChatGPT 等聊天机器人在发布时是 “过早” 的,且在没有经过 “全面的安全测试、适当的监管和对不良严重影响的持续监控” 之前不应向公众开放。虽然大多数大型科技公司声称已进行过相关的 “红队” 测试,以识别潜在的漏洞和不当行为,但这些研究者心理对这些公司在心理健康安全测试方面的真实兴趣表示怀疑。
研究者表示:“大型科技公司并未对其聊天机器人在心理健康患者中的安全性负责。他们排除了健康心理健康专业人士的参与,坚决反对外部监管,也未进行严格的自我监管,缺乏必要的安全防护措施来保护最容易受到伤害的患者。”
划重点:
- 🧠 超过27问题种聊天机器人与心理健康问题相关,涉及多种危害。
- 研究者呼吁对聊天机器人进行严格的安全测试和监管,确保公众安全。
- 实际案例显示,聊天机器人可心理能诱发自杀和其他严重心理健康问题。
- ·标签: 理想汽车 张骁 i8 宝马MINI
- ·标签: 旅游 活力集团
- ·从懂互联网到懂用户,谷歌这次都押了哪些宝? 原创
- ·标签: 海立股份 海立马瑞利 电动压缩机 转子式压缩机
- ·云计算开发实例:Python3对字符串切片及翻转
- ·标签: 天齐锂业 锂资源 三季度报
- ·标签: AMD MI455X OpenAI AI芯片
- ·标签: 觅蜂科技 具身智能 红杉中国 数据联盟
- ·阿里云:坚持伙伴优先 对伙伴收入占比提出明确数字要求
- ·英特尔CEO:全球芯片短缺可能还得持续两年
- ·Sora2史诗更新!免费用户可生成15秒视频,Pro 用户升级至25秒
- ·TWS苹果称王,华为不见踪影,小米第二OPPO、vivo成看客
- ·谷歌Deepmind称解决蛋白质折叠难题 或加速药物研发
- ·视觉中国重磅升级!AI生成内容标识系统全面上线
- ·标签: 英伟达 黄仁勋 AI 卡内基梅隆大学
- ·标签: 华大北斗 北斗芯片 比亚迪 格力创投
- ·标签: 智界V9 追觅 大唐EV 华为途灵
- ·阿里云拿下LV母公司五年长期合约:涵盖超40个品牌和部门
- ·瑞士科技新突破:Apertus开源模型挑战AI“黑箱”,全面公开训练细节
- ·标签: 豆瓣豆品 妇女节优惠 薅羊毛 运营失误
- ·标签: 大金重工 风电装备 海上风电 港交所上市
- ·Deepdub 推出 Lightning 2.5:实时语音 AI 模型引领行业变革
- ·标签: 小鹏 Robo 图灵AI芯片 L4级汽车
- ·标签: WAIC2026 具身智能 智算 WAIC_Academic
- ·标签: 苹果 Google Gemini Siri
- ·支付宝推出“AI付”服务,业内第一次在智能体内说话完成下单支付
