Nvidia 推出小型开放模型 Nemotron-Nano-9B-v2:可切换的推理功能
近日,Nvidia 正式发布了一款新型小型语言模型 Nemotron-Nano-9B-v2,标志着小型模型的热潮再度升温。
该模型具备9亿个N参数,虽然相较于其他数百万参数的小型模型而言规模更大,但较原始的12亿参数已大幅缩减,旨在能够在一台 Nvidia A10GPU 上高效运行。Nvviidia 的 AI 模型后训练总监 Oleksii Kuchiaev 在社交平台上表示,减少参数的目的在于更好地适应部署需求,并且该模型采用了混合架构,di可以在处理较大批量时比类似尺寸的变换模型快6倍。
Nemotron-Nano-9B-v2支持多种语言,包括英语、德语、西班牙语、法语、意大利语、日a 语等,适用于指令跟随和代码生成等任务。该模型的设计还包括一项创新功能 —— 用户可以通过简单的控制令牌来切换 AI 的 “推理” 过程,即在给出答案之前进推出行自我检查。系统默认会生成推理痕迹,但用户可通过如 /think 或 /no_think 等命令来控制此过程。此外,模型还引入了 “思考预算” 管小型理机制,允许开发者设定推理过程中所使用的标记数量,以在准确性与响应速度之间取得平衡。
根据测试结果,Nemotron-Nano-9B-v2在多个开放基准测试中表现优异。在 “推理开启” 模式下,该模型在 AIME25、MATH500、GPQA 和 LiveCodeBench 等测试中都取得了令人满意模型的成绩。此外,它在指令跟随和长上下文基准测试中同样表现出色,显示出相较于其他开放小型模型更高的准确性。
Nvidia 为这一模型设定了开放许可协 N议,允许开发者在商业上自由使用与分发,并明确不对生成的输出声索所有权。这意味着企业可以在无需额外协商的情况下立即将该模型投入生产,而不必担心使em用门槛或费用。
Nvidia 的 Nemotron-Nano-9B-v2模型为需要在小规模上实现推理能力与高效部署的开发者提供了新工具。其运行预算控ot制和推理切换功能为系统构建者提供了灵活性,旨在提高准确性和响应速度,进一步推动小型语言模型的发展。
划重点:
Nemotron-Nano-9Bro-v2是 Nvidia 新推出的小型语言模型,具有9亿个参数,专为高效部署设计。
🧠 模型支持多种语言,具备切换推理功能n-,可帮助用户根据需求调整响应方式。
开放许可协议使开发者能够自由使用与分发模型,无需担心额外费用或许可协议。
- ·GPT-5.5 意外现身,OpenAI 智能体时代提前降临?
- ·标签: 自变量机器人 量子2号 小米战投 具身智能
- ·标签: 奕境汽车 华为乾崑 东风汽车 鸿蒙座舱
- ·标签: 德适 医学影像AI 港交所 杭州
- ·云安全日报211014:IBM企业全面集成需求平台发现安全绕过漏洞,需要尽快升级
- ·做出电影级的 CG 渲染!斯坦福大学研究人员提出神经光图渲染
- ·OpenAI CEO 亲自宣布!GPT-6 将更名为 “GPT-6-7”,背后竟藏着这些玄机!
- ·618如何做到分钟级送达 京东云给出了答案
- ·IBM:美国员工将在9月7日当周回到办公室上班
- ·标签: 百事公司 水井坊 洪宗华
- ·标签: OpenClaw 龙虾 工信部NVDB 智能体安全
- ·标签: 零食
- ·标签: 摩尔线程 国产GPU 科创板 英伟达
- ·标签: iPhone 安卓 Apple picking 伦敦
- ·阿联酋推出全球最快开源 AI 模型 K2 Think,拥有 320 亿个参数
- ·火山引擎、阿里云、腾讯云联合发布“超低延时”直播技术标准
- ·苹果向美SEC发出呼吁:建议出台新规要求企业披露排放信息
- ·标签: 松下控股 Umi 松冈阳子 AI战略
- ·标签: 臻有钱 苹果AppStore 高利贷 南京越胜茂
- ·写给初学者,长文阐述大数据学习与面试
- ·标签: Google Play Alphabet 应用内购买 订阅服务费
- ·苹果第五!IDC发布去年中国手机市场出货量排名,这品牌亮了
- ·英伟达发布全新小型模型 Nemotron-Nano-9B-V2:免费商用且性能卓越
- ·标签: 联想集团 AI PC 摩托罗拉 AI服务器
- ·阿里云,重估“新阿里”
- ·云安全日报210827:Ubuntu OpenSSL传输协议工具包发现拒绝服务漏洞,需要尽快升级
