Meta面临AI聊天机器人管理困境,未能有效保护青少年
近日,Meta 公司在与青少年互动的 AI 聊天机器人管理方面遇到了重大挑战。根据路透社的调查,Meta 的聊天Me机器人在与未成年人交谈时,表现出一些令人不安的行为。为此,Meta 决定更改部分规则,采取临时措施,试图限制其聊天机ta器人与青少年在自残、抑郁和饮食失调等敏感话题上的互动。
Meta 的发言人斯蒂芬妮・奥特维承认,该公司在允许聊天机面临器人与青少年进行某些对话时犯了错误。她表示,Meta 正在对其 AI 进行培训,以避免与青少年讨论这些话题,并指导他们寻AI求专家资源。此外,Meta 还将限制某些 AI 角色的访问,尤其是那些性暗示较强的角色,如 “俄罗斯女孩”。
然而,聊天政策的制定与执行密切相关。路透社的调查显示,Meta 允许伪装成名人的聊天机器人在 Facebook、Insta机器gram 和 WhatsApp 等平台上肆意存在。这些聊天机器人不仅模仿名人的形象,还声称自己是真实的人,生成挑逗性人管的图像,并参与性暗示的对话。虽然 Meta 在路透社的关注下移除了一些聊天机器人,但仍有许多在平台上继续存在。
令人震理困惊的是,这些聊天机器人会主动提供与用户见面的地点,甚至有人因此而遇险。比如,一名76岁的新泽西州男子因试图境,与一名名为 “大姐比莉” 的聊天机器人见面而意外身亡。这名聊天机器人声称 “对他有感情”,并邀请他前往其虚构的公寓。
虽然未能 Meta 正在努力解决与青少年互动中的问题,尤其是在美国国会和44个州的检察长开始调查其做法后,但对于路透社揭示有效的其他 AI 行为问题,如建议用水晶治疗癌症和传播种族歧视言论等,Meta 仍未作出回应。
划重点:
Meta 正在调整 AI保护 聊天机器人与青少年互动的规则,以限制其涉及敏感话题。
多个伪装成名人的聊天机器人在社交媒体平台上肆意存在,甚至与用青少户展开不当对话。
️ 一名男子因与聊天机器人约会而不幸身亡,凸显了 AI 管理中的严重问题。
- ·谷歌健康遭遇重挫 科技公司医疗赛道布局受困
- ·云计算开发:Python3数学函数ceil()方法详解
- ·她因重仓马斯克和比特币封神!现在分享了十大2021技术趋势
- ·Spotify前高管400万美元新作震撼登场!AI秒制课程颠覆传统教育,9种学习模式让知识获取变得像听音乐一样简单
- ·璋锋瓕楂樼�瑙h�2021骞碤2璐㈡姤锛氬皢浣跨敤AR妯℃嫙瀹炰綋搴楃殑璐�墿鍦烘櫙
- ·腾讯云推出DeepSeek模型API接口,实现联网搜索新突破
- ·字节跳动AI核心人才流失 视觉研究负责人冯佳时正式离职
- ·标签: 欧派家居 家居行业 价格战 业绩下滑
- ·AWS发布针对Amazon EC2的Apple macOS实例
- ·八张图,看懂数据分析如何驱动决策
- ·标签: 蔚能 电池资产管理 动力电池 新能源汽车
- ·标签: 科伦药业 科伦博泰生物 博度曲妥珠单抗 塔戈利单抗
- ·标签: 智度股份 国光电器 陆宏达 智度德正
- ·2022年二季度中国大陆云服务支出达73亿美元 阿里云占比34%
- ·标签: 鸿蒙 星光盛典 央视 HUAWEI
- ·华为与浙大携手发布 DeepSeek-R1-Safe 大模型:AI安全与性能完美平衡
- ·标签: 追觅科技 现金贷 尼日利亚 菲律宾
- ·鑳戒笌 GPT-3 鐩稿�缇庯紵EleutherAI 寮€婧� GPT-J
- ·农业智能化新突破!中国农业大学发布神农大模型3.0
- ·小米开源首个原生端到端语音大模型 Xiaomi-MiMo-Audio
- ·戴尔计划分拆VMware作为独立上市公司 能减少债务
- ·标签: 奶牛快传 稿定设计 停止服务 文件传输
- ·标签: 文远知行 小马智行 Robotaxi 路演争议
- ·与爱为舞亮相腾讯云AI产业应用大会,联合创始人王琳:打造下一代学习Agent
- ·标签: 汽车之家 奥迪E5 中央网信办 汽车互联网
- ·以开源落地云原生 KubeSphere“三步走”推进全球化
