字节跳动发布全新开源长文本处理模型 Seed-OSS-36B
近日,字节跳动旗下的 Seed 团队在 AI 代码分享平台 Hugging Face 上发布了最新的开源大型语言模型 Seed-OSS-36B。这一新字模型专注于高级推理和开发者友好性,其最大特点是支持长达512,000个 tokens 的输入文本处理,远超美国科技公司如 OpenAI 和 An节跳thropic 的产品。 Seed-OSS-36B 系列包括三个主要变体:Seed-OSS-36B-Base(含合成数据)、Seed-OSS动发-36B-Base(不含合成数据)和 Seed-OSS-36B-Instruct。合成数据版本在标准基准测试中表现更为出色,适合一般用途布全,而不含合成数据的版本则为研究提供了一个更加纯粹的基础。Seed-OSS-36B-Instruct 则专注于任务执行和指令跟随,经过后训新开练以优化表现。 所有模型均采用 Apache-2.0许可协议,意味着研究人员和开发者可以免费使用、修改和重新分发这些模型,不需支付字节跳动源长的许可费用。这标志着中国公司在开放源代码模型领域的又一次重要进展,同时也为国际应用提供了更多可能性。 Seed-OSS-36B 的设计和核心特征文本包括36亿个参数、64层架构和155,000个 tokens 的词汇量。该模型的长文本处理能力和推理预算设置,能够让开发者根据任务复杂性调整模型的推处理理深度。此外,该模型在多个基准测试中展现了优异的性能,例如,在数学和编程任务上取得了业界领先的成绩。 Seed 团队还特别关注模型的可访问性模型,用户可以通过 Hugging Face Transformers 进行部署,并支持4位和8位的量化格式以减少内存需求。此外,团队提供了推理、 S提示自定义和工具集成的脚本,进一步降低了小团队的操作门槛。 通过提供高性能和灵活部署的开放模型,字节跳动的 Seed 团队为企业、研究人员和开发者带来ee了新的选择。 huggingface:https://huggingface.co/collections/ByteDance-Seed/sed-ed-oss-68a609f4201e788db05b5dcd 划重点: Seed-OSS-36B 模型支持长达512,000个 tokens 的输入,OS超越竞争对手。 模型分为合成数据和不含合成数据的版本,以适应不同用户需求。 所有模型均可免S-费使用,且支持多种部署和集成方案,便于开发者操作。
- 最近发表
- 随机阅读
-
- 标签: 特斯拉 马斯克 Optimus 薪酬方案
- 一文了解大数据下 Redis 的应用
- 标签: 豆包 黎元洪 范伟 建党伟业
- 标签: 闪迪 NAND闪存 创见 数据中心
- 云计算核心技术Docker教程:Docker Hub使用Webhooks
- 阿里云季度营收再次超过200亿元 同比环比均保持增长
- 终于有人把ROS机器人操作系统讲明白了
- 标签: 宇树科技 王兴兴 上市绿道
- 云安全日报210511:Ubuntu 配套火狐浏览器发现执行任意代码漏洞,需要尽快升级
- 如何基于K3s构建云原生边缘基础设施?
- 标签: 挚文集团 陌陌 探探 唐岩
- Nvidia 推出小型开放模型 Nemotron-Nano-9B-v2:可切换的推理功能
- 标签: 小米汽车 昆仑N3 寻天 增程SUV
- 哪些是有氧运动
- 甲骨文公司安全主管意外离职,或与 AI 战略转型有关
- 标签: 它石智航 具身智能 Pre-A轮融资 高瓴创投
- 巨头分家!亚马逊、伯克希尔和摩根大通三年合资公司流产
- 标签: 字节跳动 今日资本 抖音电商 美团
- 标签: 腾讯 探梦DreamNow 魏晋风骨 互动影游
- 云安全日报210303:Debian无线配置管理软件发现执行任意代码漏洞,需要尽快升级
- 搜索
-
- 友情链接