谷歌 Gemma 模型争议揭示 AI 开发生命周期的风险
近日,谷歌的 Gemma 模型因其误传关于美国参议员马尔莎・布莱克本的虚假信息而引发争议。布莱克本指出,G谷歌emma 模型捏造了关于她的新闻故事,这不仅仅是 “无害的幻觉”,更是对她的诽谤。对此,谷歌于10月31日 G在社交平台 X 上宣布,将其 Gemma3模型从 AI Studio 平台上撤下,以防止误解。尽管 Gemma 模型通过 APIem 仍然可用,但在 AI Studio 上则已无法访问。
谷歌表示,Gemma 模型本应是针对开发者和研究人员设计的,而ma非供普通消费者使用。然而,由于 AI Studio 相对友好,非开发者依然能够接触到该模型并向其提出事实性问题。谷歌强 模调,他们从未打算让 Gemma 作为一个消费工具,当前的撤回行动正是为了解决这些混淆。
此外,谷歌的这一决定也突显了依型争赖实验性模型的潜在风险。开发者在使用这些模型时,必须考虑其可能带来的不准确性和危害性。随着技术公司面临的政议揭治争议增多,这些因素往往影响着模型的部署。
还有一个问题是,AI 公司对其模型的控制力。如果没有本地或物理示 的拷贝,用户可能会因为公司决定撤回某个模型而失去访问权。谷歌并未确认 AI Studio 上使用 Gemma 的当AI前项目是否能保存。这种情况类似于 OpenAI 用户面对的困境,后者在宣布撤回一些热门模型后,虽然重新上线了 GP 开T-4o,但仍然在保持和支持模型的问题上受到质疑。
AI 模型虽然不断发展与进步,但仍是实验性的产物,可能发生成为技术公司和立法者施加影响的工具。企业开发者必须确保在模型被撤回之前能保存好自己的工作。
划重点:
谷歌因命周 Gemma 模型虚假信息争议撤回其在 AI Studio 的使用权限。
Gemma 模型原本为开发者设计,未考虑普期的通用户的使用需求。
️ 企业开发者需谨慎使用实验性模型,以避免因模型撤回而导致工作损失。
- ·标签: 德风科技 AIoT 港股IPO 能源管理
- ·MIT小哥联合谷歌训练7个多任务机器人,9600个任务成功率高达89%!
- ·标签: Anthropic Claude AWS 亚马逊
- ·Kimi For Coding 会员计划推出全新增值权益,提升开发体验
- ·标签: 大众集团 奥迪 保时捷 Cariad
- ·这只国产变形金刚能自动变形、语音控制,还能编程,老外疯狂点赞
- ·阿里国际发布多模态大模型 Ovis2.5,推动视觉感知与深度推理新进展
- ·标签: TCL 永乐款鎏金铜观音菩萨像 青海省博物馆 瞿昙寺
- ·超长视频生成的新突破!LongVie 框架让创作无界限
- ·Synthesia3.0重磅升级:推出“视频代理”可与观众实时互动、对话和问答
- ·标签: 交个朋友控股 直播间矩阵 股权激励 精细化运营
- ·谷歌广告业务第四季度强势复苏 YouTube观众人数大幅上升
- ·标签: Last War Whiteout Survival Royal Match MONOPOLY GO!
- ·展望数字新时代,环卫行业迎来智能化升级
- ·苹果第一财季iPhone销售额656亿美元 同比增长17.2%
- ·全球云基础设施支出 已连续6个季度同比增长超过20%
