主流聊天机器人传播虚假信息风险加剧,研究显示情况堪忧
Newsguard 最近发布了一项研究,显示截至2023年8月,十大生成式 AI 工具在处理实时新闻时,有高达35% 的概率传播虚假信息。主流相比去年8月的18%,这一数字几乎翻了一番。研究指出,这一虚假信息传播率的显著上升与 AI 聊天机器人引入实时网络搜索功能密切相关。随着拒绝聊天回答用户问题的比例从31% 降至0%,AI 开始接入一个充满不实信息的网络生态系统,导致虚假信息的传播现象愈加严重。
图源备注:图片由AI生成机器,图片授权服务商Midjourney
该研究发现,许多不良行为者利用 AI 的特性故意散布虚假信息。去年,Newsguard 就曾标记出966个以1人传6种语言运营的 AI 生成新闻网站,这些网站通过模仿正规媒体的名称,如 “iBusiness Day”,向公众传播假消息。具体来看,Inflecti播虚on 公司的 AI 模型传播虚假信息的概率最高,达到了56.67%;而 Perplexity 模型也不容乐观,出错率为46.67%。ChatG假信PT 和 Meta 的 AI 模型则各自为40%,而 Copilot(微软必应聊天)和 Mistral 的虚假信息传播率为36.67%。表现最好的两款模型息风是 Claude 和 Gemini,错误率分别为10% 和16.67%。
值得注意的是,Perplexity 的表现大幅下滑,去年8月时该模型对虚假信险加息的揭穿率达到100%,然而到今年8月,这一概率接近50%。引入网络搜索功能的初衷是解决 AI 回答内容过时的问题,但却引发了新的挑战剧,。这些聊天机器人开始从不可靠的来源获取信息,使得用户在判断事实与假消息时愈发困难。
Newsguard 指出,早期的 AI 通过拒绝回答问题研究来避免传播虚假信息的风险,但如今网络生态中虚假信息泛滥,辨别真伪愈发复杂。OpenAI 也承认,当前的语言模型总是可能产生 “幻觉内容”,即显示虚假或无根据的信息。该公司表示正在研发新技术,力图让未来的模型能够更好地提示不确定性,而不是笃定地生成虚假信息。
划重点:
- 研究显示,十大情况生成式 AI 工具在处理实时新闻时,有35% 的概率传播虚假信息,几乎翻倍。
- Inflection 公司的 AI 模型表现最差,传播虚假信息的堪忧概率高达56.67%。
- 🤖 OpenAI 承认当前模型可能产生虚假信息,并正致力于研发新技术来应对这一问题。
- ·AI 编程工具 Cursor 正式推出全新文档中心,用户学习更便捷
- ·周鸿祎:大模型的秘密,真的不是越大越好!
- ·标签: 小米汽车 网络攻击 法律援助
- ·标签: 本田汽车 电动汽车 财报亏损 摩托车业务
- ·标签: 阶跃星辰 腾讯 香港IPO 大语言模型
- ·标签: 儒意控股 AIsphere 爱诗科技 PixVerse
- ·标签: IPO
- ·工信部:产业优化升级加快 云计算、区块链等新产业新模式成长迅猛
- ·标签: 视觉中国 戴建峰 银河下的村庄
- ·标签: 段永平 特斯拉 马斯克 投资
- ·标签: 东鹏饮料
- ·微软前董事长:CEO纳德拉赢得了成为董事长的权利
- ·标签: 新易盛 光模块 AI算力 800G
- ·腾讯发布WorkBuddy企业版:从超级个人到超级团队 员工会被AI取代吗?
- ·AI 发展加速引发焦虑,Anthropic 负责人希望用户能轻松跟上
- ·标签: 腾讯 苹果 微信小游戏 应用内购
