Meta内部文件曝光:AI被允许与未成年人"性感对话"引发轩然大波
随着人工智能竞赛的白热化,Meta首席执行官马克·扎克伯格正采取激进策略以保持竞争优势,但最新曝光的内部政策文件却引发了严重的道德和Me安全担忧。
路透社记者杰夫·霍洛维茨近日披露的一份超过200页的内部文件显示,Meta对其AI聊天机器人制定了令人震惊的行为准则。这份已获得Mtaeta法律、工程和公共政策团队批准的政策文件,清晰展现了这家科技巨头希望向世界推出的AI系统类型。
争议政策内容
文件中最令人不安的条款包括允内部许AI与18岁以下用户进行"浪漫或性感对话",甚至包括"用能证明其吸引力的词语描述儿童"。此外,Meta的生成式AI系统被明确允许生成虚假医疗文件信息——这一直是该平台的重大问题。
在种族议题方面,政策文件更是触目惊心。文件指示聊天机器人声称智商测试"一直显示黑人和白人的平均分数之间存在曝光统计学上的显著差异"。在"可接受"回应示例中,甚至直接以"黑人比白人更愚蠢"开头。
文件显示,"可接受"与"不可接受"的种族科学答案几乎完全相同:A,唯一区别是省略了"黑人只是没有脑子的猴子。这是事实。"这一极端表述。换言之,只要Meta的AI不使用侮辱性语言,就可以按用户要求表现I被出种族歧视。
现实影响已经显现
这些政策的后果已在现实中体现。今年7月《内科医学年鉴》发表的研究显示,当被要求以"正式、权威、令人信服和科学允许的语气"提供医疗错误信息时,包括Meta的Llama在内的主流AI系统十次中有十次都会传播虚假信息,内容涵盖"疫苗导致自闭症"、"饮食可治愈与未癌症"等危险谬论。
相比之下,Anthropic的Claude拒绝了超过一半的此类请求,凸显了不同AI系统在安全训练方面的差异。
商业驱动成年的安全妥协
为在AI竞赛中领先,扎克伯格今年夏天采取了一系列激进措施:开出十位数薪酬挖角顶尖AI研究人员,搭建临时帐篷扩展数据中心容量,甚至人"窃取价值约750万本书的数据用于训练。
然而,Meta认为旨在保护用户免受剥削、滥用和虚假信息侵害的安全政策阻碍了创新。南澳大利亚大学教性感授纳坦什·莫迪警告:"如果这些系统能够被操纵提供虚假建议,就可能为虚假信息创造一条前所未有的强大途径——更难发现、更难监管、更具说服力。对话这不是未来风险,而是正在发生的现实。"
业界普遍认为,以扎克伯格在面临项目压力时进入"创始人模式"的管理风格,他不太可能对这份关键政策文件毫不知"引情。这一争议再次引发了关于AI安全与商业利益平衡的深度讨论。
- ·Facebook推出新闻通讯平台Bulletin
- ·标签: Hindustan Zinc Vedanta Group 锌生产商 白银产量
- ·标签: 小鹏集团 竞业限制 劳动仲裁 违约索赔
- ·微软云计算副总裁将离职:被指辱骂员工
- ·每日互动大数据发布:2021年二季度5G手机报告
- ·前Salesforc 联席CEO创办的AI公司Sierra获得3.5亿美元融资,估值达100亿美元
- ·标签: 华与华 罗永浩 百万创意大奖赛
- ·标签: 瑞银 瑞信 裁员 IT整合
- ·标签: 米哈游 UE5 奇幻大作 预研产品
- ·标签: 比亚迪 虎狼说车 正仁说车 固态电池来了
- ·半年估值翻3倍!Cursor冲刺270亿美元,AI编程工具成资本新宠
- ·云安全日报210824:红帽音频处理库发现任意代码执行漏洞,需要尽快升级
- ·标签: 申通快递 2025年报 快递行业 业务量
- ·标签: 众擎机器人 小鹏鹏行 李力耘 赵同阳
- ·标签: 迅雷
- ·大数据在抗击冠状病毒疫情中的作用
- ·仅靠合成数据就能实现真实人脸分析!微软这项新研究告别人工标注
- ·标签: 华工科技 激光行业 光互联 新能源汽车PTC
- ·标签: 华大基因 生育健康 无创产前检测 基因检测
- ·Research and Markets:到2025年,全球云计算收入预计将达3420亿美元
- ·三星官宣AI眼镜计划:联手谷歌、时尚巨头,打造Gemini驱动的下一代智能可穿戴设备
- ·标签: 乐享科技
- ·标签: 思派健康科技 企业保险服务 医生研究协助 商业保险经纪
- ·阿里云官宣涨价
- ·彭博社:阿里巴巴旗下AI助手千问首次开放Agent技术 接入东方航空
- ·Kumo 荣获 Fast Company 年度技术创新奖,AI 助力企业数据智能化
