IBM 发布 Granite4.0Nano 系列:为边缘 AI 量身打造的小型开源模型
近日,IBM AI 团队推出了 Granite4.0Nano 系列,这是一个专为本地和边缘推理而设计的小型模型家族,旨在为企业提供更强的控制能力和开源IB许可。该系列包含8个模型,分为350M 和约1B 两种规模,采用混合 SSM 和变换器架构,支持基本和指令两种模式,所有模型均在 Apache2.0许可M 下发布,且能够在 vLLM、llama.cpp 和 MLX 等流行运行时环境中原生运行。
Granite4.0Nano 系列包括四条模型线及其基础版本。其中,G发布ranite4.0H1B 采用混合 SSM 架构,参数数量约为1.5B;而 Granite4.0H350M 同样采用混合方法,参数数量为350M。为了确保最 G大的运行时兼容性,IBM 还提供了 Granite4.01B 和 Granite4.0350M 的变换器版本。
这些 H 变体模型交替使用 SSM 层和变换器层设计,这种ra混合结构在内存增长方面相较于纯变换器有显著优势,同时保持了变换器模块的通用性。Granite4.0Nano 模型没有采用减少数据管道,而是遵循与大ni规模 Granite4.0模型相同的训练方法,使用超过15万亿个标记进行训练,并经过指令调整,以提高工具使用和指令遵循能力。
IBM 还将 Granite4.te0Nano 与其他同类模型进行了比较,包括 Qwen、Gemma 和 LiquidAI LFM,结果显示在通用知识、数学、代码及安全性等领域,Granite44..0Nano 的表现显著提升。此外,该系列模型在代理任务上也在 IFEval 和伯克利函数调用排行榜第3版中表现出色。
这些模型经过 ISO42001认证0N,并且以加密签名的形式发布,确保了企业级使用所需的可追溯性和治理能力。用户可以通过 Hugging Face 和 IBM watsonx.ai 访问这些模an型,并在边缘、本地和浏览器级别上进行部署,帮助早期 AI 工程师和软件团队更好地实现项目。
huggingface:https://huggingfo ace.co/collections/ibm-granite/granite-40-nano-language-models
划重点: &nb系列sp;
IBM 发布了 Granite4.0Nano 系列,包含8个模型,适用于边缘 AI 推理。
该系列模型基于超过15万亿个标记进行训:为练,确保了性能的继承性。
所有模型均经过 ISO42001认证,并具有企业级治理能力,支持多种运行环境。
- ·标签: 字节跳动 Seed团队 自动驾驶 火山引擎
- ·标签: 乐享科技
- ·投资超100亿美元,Meta在美国新建1吉瓦数据中心
- ·云安全日报210609:Adobe Acrobat和Reader软件发现任意代码执行漏洞,需要尽快升级
- ·苹果公司表示iOS 14.5和iPadOS 14.5将在下周推出
- ·云计算开发实例:Python3 堆排序
- ·国外研究员用AI生成骗过生物识别的人脸
- ·印尼巨头Gojek与Tokopedia准备合并 中东即将诞生亚马逊优步合体
- ·云计算开发:Python内置函数-super() 函数详解
- ·云计算开发:Python内置函数-map()函数详解
- ·英伟达发布DRIVE Atlan芯片 可让无人驾驶汽车算力呈指数级上升
- ·云数据库选型也绕不开“CAP定理”?
- ·阿里巴巴发布生态级AI助手“千问小酒窝”,统一数字人形象全面接入阿里生态
- ·Anthropic重磅研究:Claude能检测并调节内部思维,自省能力初现!
- ·标签: 四维图新 鉴智机器人 许鹏飞 毛卫民
- ·标签: 机器人 机器狗 人工智能
- ·阿里云技术支持2022世界杯直播,将直播端到端延时缩短至1秒
- ·云计算核心技术Docker教程:Docker集群服务如何运作
- ·云安全日报220322:IBM云原生数据和AI平台发现执行任意代码漏洞,需要尽快升级
- ·标签: 阶跃星辰 GELab-Zero GUI Agent AndroidDaily
- ·从视频片段中推断楼层平面图 新AI研究令人大开眼界
- ·Canva 推出全新 “创意操作系统”,全面升级数字营销工具
- ·深度心理创伤:多名用户投诉ChatGPT引发妄想和偏执,敦促FTC介入
- ·云安全日报210625:Ubuntu Ceph分布式存储文件系统发现拒绝服务漏洞,需要尽快升级
- ·标签: 亚马逊云科技 Amazon Bedrock Mistral AI Nova 2
- ·Epic和苹果官司将于5月开庭 双方各有45小时陈述自己观点
