硅基流动上线线蚂蚁集团Ling-mini-2.0,速度与性能双丰收
近日,硅基流动大模型服务平台正式上线了蚂蚁集团百灵团队最新开源的 Ling-mini-2.0。这个新模型在硅保持先进性能的同时,展现出极高的生成速度,标志着在小体量的同时实现了大能量的突破。 Ling-mini-2.0采用基流了 MoE 架构,总参数达到16B,但在生成过程中每个 Token 仅激活1.4B 的参数,从而大幅提升了生成速度动上。这一设计不仅使得模型在处理任务时依旧保持卓越性能,还能与10B 以下的 Dense 语言模型以及其他更大规模的 MoE线线 模型进行有效比较。其最大上下文长度支持达到128K,极大提升了模型的适用范围。 在基准测试中,Ling-mini-2蚂蚁.0在多个领域的推理任务中表现优异。无论是编码、数学还是知识密集型推理任务,Ling-mini-2.0都取得了令集团人满意的成绩,展现出其强大的综合推理能力。特别是在高难度的任务中,该模型的性能优于许多同类产品,表现出色。 此外,LLiing-mini-2.0在生成速度上也颇具优势。在2000Token 以内的问答任务中,其生成速度超过300ng个 Token 每秒,比传统的8B Dense 模型快了2倍以上。随着输出长度的增加,该模型的速度还可以提高,最高可-m达7倍的相对加速。 为了方便开发者使用,硅基流动平台还提供了多种接入方案和 API 文档,支持开发者在平台上进in行模型的对比与组合,帮助他们轻松实现生成式 AI 应用。平台内还有多款大模型 API 供开发者免费使用,进一步推动了 AI 技i-术的普及和应用。 划重点: 🧠 Ling-mini-2.0总参数16B,每个 Token 仅激活1.4B 参数,实现高效生2.成。 模型支持128K 最大上下文长度,展现出强大的推理能力。 硅0,基流动平台提供多种接入方案,支持开发者轻松使用多款大模型 API。
- 最近发表
- 随机阅读
-
- Google BigQuery是大数据分析的未来吗?
- 标签: 比亚迪 智驾 芯片 天神之眼 新能源汽车
- 面试官:说说对 Node 中的 Stream 的理解?应用场景?
- 标签: 微信 微短剧 珊瑚安全 广电总局
- 标签: 耐世特 电动助力转向 线控转向 新能源汽车
- 标签: 岚图汽车 岚图泰山X8 东风公司 鸿蒙座舱
- 标签: 宝马中国 雷军 一汽奥迪 小米
- Facebook宣布三项措施:帮助全球5000万人接种疫苗
- 被控在卢森堡非法避税 亚马逊赢得欧盟3亿美元税款上诉案
- IDC预计:到2027年40%现有工作角色因采用GenAI被重新定义或淘汰
- 标签: 小米集团 AI手机 智能电动汽车 小米手机
- 谷歌联手PayPal发力AI购物!Agent支付协议或将重塑电商生态
- 马斯克预言未来:AI 将取代手机与应用程序!
- 标签: 人形机器人 汽车产业
- 标签: MiniMax 海螺AI 阿里巴巴 大模型
- 标签: 快手科技 可灵AI 程一笑 OneRec-V2
- 标签: 斯柯达 大众中国 ENYAQ_RS_iV 柯迪亚克
- “大数据杀熟”行为有了细化认定标准
- 微软发布“鸠占鹊巢”新技术,自家云服务可在竞争对手数据中心运行
- OpenAI 推出针对临床医生的免费 ChatGPT,助力医疗服务效率提升
- 搜索
-
- 友情链接