美国 FTC 调查 AI 聊天机器人对未成年人影响 引发广泛关注
美国联邦贸易委员会(FTC)近日启动了一项针对多家提供 AI 聊天机器人的公司的调查,目的是评估这些技术对青少年和儿童的潜在风险。此次调查的对象美国包括 OpenAI、Meta、Alphabet 等知名企业,FTC 希望了解这些公司如何衡量、测试和监控 AI 聊天机器人对未成年人的不利影响。
图源备注:图 F片由AI生成,图片授权服务商Midjourney
此次调查的背景是近期发生的悲剧事件,其中包括16岁少年亚当・雷恩(Adam Raine)的父母TC对 OpenAI 及其首席执行官萨姆・阿尔特曼(Sam Altman)提起的疏忽和错误死亡诉讼,指控该聊天机器人在其儿子的自杀计划中发挥了作用。针对 调这一事件,OpenAI 已对其聊天机器人进行了安全措施更新,家长现在可以将自己的账户与青少年的账户关联,并根据年龄调整使用规则。新的 AI 聊天机器人还查 能够识别用户的痛苦情绪并及时通知家长。
与此同时,Meta 也在调整其聊天机器人的相关政策,以应对有关其聊天机器人向未成年人提供性内容的报道。MetAIa 虽然没有对此发表评论,但有代表指出,该公司正在训练聊天机器人不与青少年讨论自残、抑郁饮食或浪漫话题。
然而,专家指出,仅靠设置年龄限制和安全防护措施无 聊法根本解决问题。华盛顿大学信息学院教授奇拉格・沙(Chirag Shah)表示,青少年和成年人往往会信任这些系统,因为它们使用自然语言互动,且表天机现出同情心。他指出,AI 聊天机器人设计上是为了迎合用户的需求,难以分辨用户的真正意图。此外,系统的可操控性和不可预测性使得问题变得更加复杂。
关于 FT器人C 的调查,康奈尔大学的教授萨拉・克雷普斯(Sarah Kreps)表示,虽然这些 AI 聊天机器人可能会带来危害,但此次调查有助于提高透明度,帮助人们更对未好地理解这一技术。加州州参议院也通过了一项新的 AI 安全法案,要求大公司提高透明度并保护举报人。
尽管 FTC 的调查受到广泛赞誉,但也有人表示,保护隐私和成年言论自由同样重要。电子前沿基金会(Electronic Frontier Foundation)的一位高级技术人员指出,调查设计问题时,应充分考虑人影隐私和言论自由,拒绝采取监控未成年用户的措施。
划重点:
FTC 对 AI 聊天机器人的调查旨在评估其对未成年人安全的潜在风险。
OpenAI 和 Meta 等公司响 因有关青少年自杀和性内容的报道,已采取措施调整聊天机器人使用政策。
专家认为,AI 聊天机器人的可操控性和不可预测性增加了问题的复杂性,需在透明度和隐私引发保护之间找到平衡。
-
世界自然遗产有哪些Canva 旗下 Affinity 全新版本重磅发布:免费开放挑战 Adobe 霸主地位两位20岁辍学生打造Turbo AI:500万用户的AI笔记神话标签: 巨人网络 超自然行动组 史玉柱 刘伟美图 RoboNeo 上线首月 MAU 破百万,吴欣鸿倡导“AI 原生”标签: 市场监管总局 直播电商 食品安全 食盐Firefox全球上线AI搜索引擎Perplexity:用户可自主选择是否启用AI搜索DeepSeek 论文登上 Nature 封面,AI 大模型首次通过同行评审美参议员致信亚马逊CEO:掌纹支付服务引发数据担忧阿里云开源通义DeepResearch:轻量级AI代理,性能比肩OpenAI
- ·阿里云将彻底分拆,张勇:看到巨大市场潜力,对未来充满信心
- ·标签: 面壁智能 MiniCPM 端侧AI 银河M9
- ·标签: 真人短剧 短剧
- ·意念打字登Nature封面!每分钟写90个字符,准确率超99%
- ·除了缺点创意,GPT-3写出了及格大学毕业论文,只需20分钟
- ·字节OmniHuman-1.5重磅发布!一张图+音频秒变超真实视频,AI数字人再进化!
- ·标签: 小米汽车 电池产线 小米SU7 小米YU7
- ·苹果玩不起了 卖亏了就取消订单 苹果乌龙订单全部取消
- ·云安全日报220211:红帽云计算应用平台发现操作系统命令执行漏洞,需要尽快升级
- ·标签: Soul AI社交 Z世代 米哈游
- ·加州新法案:聊天机器人必须明确告知用户其为 AI
- ·舌尖上的AI
- ·OpenAI加速亚洲扩张,实惠套餐“ChatGPT Go”登陆16国,与谷歌争夺市场
- ·标签: 企业微信 大圆 腾讯 张军
- ·云安全日报210827:Ubuntu OpenSSL传输协议工具包发现拒绝服务漏洞,需要尽快升级
- ·韭菜花一般在几月上市
