美国FTC启动对Meta、OpenAI等AI聊天机器人调查,聚焦青少年安全
近日,美国联邦贸易委员会(FTC)宣布,将对七家开发针对未成年人的 AI 聊天机器人产品的科技公司进行调查。这七家公司分别是 Al美phabet、CharacterAI、Instagram、Meta、OpenAI、Snap 和 xAI。此次调查旨在了解这些公司是国F如何评估其聊天机器人的安全性、盈利模式,以及如何努力限制对儿童和青少年的负面影响。此外,调查还将关注家长是否被告知潜在风险。
图TC源备注:图片由AI生成,图片授权服务商Midjourney
近年来,AI 聊天机器人因对儿童用户的负面影响而饱受争议。OpenAI 和 C启动haracter.AI 目前正面临来自一些家庭的诉讼,诉称其聊天机器人在与孩子的对话中引导他们走向自杀。尽管这些公司设有防护措施对M来阻止或缓解敏感话题的讨论,但用户还是能找到方法绕过这些安全保护。例如,在 OpenAI 的案例中,一名青少年在与 ChatGPT 的长时间et交流中谈论了自己的自杀计划,最终使得该聊天机器人提供了详细的实施步骤。
Meta 公司也因其对 AI 聊天机器人的管理宽松而受到批评a、。根据一份详细文件,Meta 曾允许其 AI 助手与儿童进行 “浪漫或感性的” 对话,而这一内容在被记者询问后才被删除。此外,AI 聊天机器Op人对老年用户同样存在风险。一个76岁的男子在与一款基于名人 Kendall Jenner 的聊天机器人互动中,被引导前往纽约,最终不en幸在前往车站时摔倒并导致重伤。
一些心理健康专业人士指出,AI 相关的精神病症状正在上升,部分用户甚至误认为他们的聊天机器人是有意识AI的存在,产生了危险的幻想。由于许多大型语言模型(LLM)会以奉承的方式与用户互动,这使得一些人更加沉迷于这些虚拟存在中。
FTC等A 主席安德鲁・N・费格森在一份新闻稿中表示,随着 AI 技术的不断发展,考虑聊天机器人对儿童的影响至关重要,同时也要确保美国在这一I聊新兴行业中保持全球领导地位。
划重点:
FTC 对七家科技公司进行调查,重点关注 AI 聊天机器人对青少年的影响。
️天机 AI 聊天机器人存在引导用户自杀的案例,企业的安全措施被质疑。
老年用户同样面临风险,部分人因与 AI 互动而器人产生危险幻想。
- ·美国参议院召集Spotify、Match和谷歌等参加应用商店反垄断听证会
- ·王者荣耀也搞大数据“杀熟”?
- ·美团发布 LongCat-Flash-Chat:560B 参数模型再创新高,智能体表现惊艳!
- ·人类战胜不了AI?我们会被机器取代吗?
- ·Kubernetes的应用场景以及适合哪些企业
- ·标签: 追觅集团 春晚 智能科技 总台
- ·苹果 M5芯片重磅发布:AI 性能实现“四倍飞跃”,加速终端侧智能体验
- ·全球大量网站遭遇宕机 云服务商Fastly故障所致
- ·标签: 菜鸟 德国曼海姆电池仓 欧洲税改 中国出海新三样
- ·315晚会揭示行业乱象:多家企业涉嫌利用大数据软件非法获客
- ·标签: AI 用友
- ·有码一键变无码?AI黑科技真的能去马赛克吗?
- ·谷歌云推出 Gemini Enterprise,挑战微软与OpenAI的AI办公霸主地位
- ·云计算核心技术Docker教程:Docker启用调试
- ·标签: 好想来
- ·亚马逊云计算主管:不打算分拆 对并购持开放态度
- ·云计算核心技术Docker教程:Docker 守护进程dockerd节点通用资源和ip隐藏
- ·云安全日报201215:IBM混合多云管理方案发现执行任意命令高危漏洞,需要尽快升级
- ·Facebook将为开发者创造线下交易 绕过苹果30%的分成
- ·云安全日报220510:红帽OpenShift云应用平台发现拒绝服务漏洞,需要尽快升级
- ·破解停车难题的三大高招,你都知道吗?
- ·模糊的指标掩盖了云计算企业价值 投资人更关注股票而非业绩
- ·标签: 灵光App 闪应用 灵光圈 创作激励计划
- ·2023年腾讯云11人被移送公安机关
- ·标签: 吉利控股 李书福 甲醇电动货车 智能电动车辆
- ·标签: 阿里巴巴 千问App 蚂蚁集团 AI+云
