IBM 发布 Granite4.0Nano 系列:为边缘 AI 量身打造的小型开源模型
近日,IBM AI 团队推出了 Granite4.0Nano 系列,这是一个专为本地和边缘推理而设计的小型模型家族,旨在为企业提供更强的控制能力和开源IB许可。该系列包含8个模型,分为350M 和约1B 两种规模,采用混合 SSM 和变换器架构,支持基本和指令两种模式,所有模型均在 Apache2.0许可下发M 布,且能够在 vLLM、llama.cpp 和 MLX 等流行运行时环境中原生运行。 Granite4.0Nano 系列包括四条模型线及其基础版本。其中,Gra发布nite4.0H1B 采用混合 SSM 架构,参数数量约为1.5B;而 Granite4.0H350M 同样采用混合方法,参数数量为350M。为了确保最大的运 G行时兼容性,IBM 还提供了 Granite4.01B 和 Granite4.0350M 的变换器版本。 这些 H 变体模型交替使用 SSM 层和变换器层设计,这种混ra合结构在内存增长方面相较于纯变换器有显著优势,同时保持了变换器模块的通用性。Granite4.0Nano 模型没有采用减少数据管道,而是遵循与大规模 Graninite4.0模型相同的训练方法,使用超过15万亿个标记进行训练,并经过指令调整,以提高工具使用和指令遵循能力。 IBM 还将 Granite4.0Nanteo 与其他同类模型进行了比较,包括 Qwen、Gemma 和 LiquidAI LFM,结果显示在通用知识、数学、代码及安全性等领域,Granite4.0N4.ano 的表现显著提升。此外,该系列模型在代理任务上也在 IFEval 和伯克利函数调用排行榜第3版中表现出色。 这些模型经过 ISO42001认证,并且以0N加密签名的形式发布,确保了企业级使用所需的可追溯性和治理能力。用户可以通过 Hugging Face 和 IBM watsonx.ai 访问这些模型,并在边an缘、本地和浏览器级别上进行部署,帮助早期 AI 工程师和软件团队更好地实现项目。 huggingface:https://huggingface.co/co ollections/ibm-granite/granite-40-nano-language-models 划重点: I系列BM 发布了 Granite4.0Nano 系列,包含8个模型,适用于边缘 AI 推理。 该系列模型基于超过15万亿个标记进行训练,确:为保了性能的继承性。 所有模型均经过 ISO42001认证,并具有企业级治理能力,支持多种运行环境。
- 最近发表
-
- 白宫向美国各级政府机构下命令:赶紧给微软服务器打补丁
- 标签: 小米汽车 电池产线 小米SU7 小米YU7
- 慌不慌?机器人开始有了一丝同理心,能预测机器人伙伴的下一动作!
- IP鍦扮悊浣嶇疆搴撲骇鍝佹秹瀚屼镜鏉�?闃块噷浜戝洖澶嶏細宸蹭笌IPIP.NET杈炬垚鍜岃В
- Realbotix 与 Grupo Kuo 达成合作 将 AI 机器人引入西班牙和葡萄牙
- 微软大力推广 NPU,消费者却难以找到购买理由
- 云安全日报210805:思科企业路由器发现拒绝服务和命令注入漏洞,需要尽快升级
- Cursor 升级 Tab 模型,实时强化学习提升开发者建议精准度
- 标签: 特斯拉 xAI 马斯克 财报
- 华为擎云发布教育AI解决方案:鸿蒙与大模型深入校园全场景
- 随机阅读
-
- 标签: 王石 田朴珺 万科 造谣
- 九成游戏开发商悄然使用 AI 技术,谷歌高管揭秘行业现状
- 云安全日报211015:思科IP电话软件发现任意文件读取漏洞,需要尽快升级
- AI音乐创作成程序员新副业:单曲播放破200万,版权收入数万元
- 华人博士生首次尝试用两个Transformer构建一个GAN
- 标签: 华特迪士尼 戴明哲 罗伯特·艾格 迪士尼体验
- 通用汽车扩展氢燃料电池业务 可为工地 / 音乐节 / 数据中心供能
- 汽车云,云计算厂商的必争之地
- 这个登上Nature封面的群体学习,无需中央协调员比联邦学习更优秀
- 云计算开发:Python练习实例-数组逆序输出
- 标签: 英伟达 黄仁勋 中国电信 Token套餐
- IDC 2022下半年中国公有云市场 腾讯云跌出TOP3
- 科技巨头AI推广路上的“绊脚石”:谷歌AI概览频出错,商家纷纷反击
- 标签: 奇瑞汽车 风云X3L 天门山 致歉声明
- 标签: 商汤科技 NEO架构 SenseNova 多模态模型
- 标签: 承泰科技 毫米波雷达 比亚迪 华为
- 告别“独占”时代:OpenAI 与微软达成新协议,重塑 AI 权力版图
- 云计算开发:Python练习实例-for循环输出
- 标签: 华境汽车
- Apple Watch也能检测新冠病毒:可在出现症状前7天发现
- 搜索
-
- 友情链接