官方论文代码放出,OpenAI是如何实现图像版GPT-3的?
OpenAI 放出 DALL-E 的部分论文与实现代码。 今年年初,OpenAI 图像版 GPT-3、120 亿参数的 DALL-E 刷屏官方社区,这个大型模型可以将以自然语言形式表达的大量概念转换为合适的图像,效果十分惊艳。 如输入「牛油果形状的椅子」,就可以获得绿油论文油、形态各异的牛油果椅子图像。 如果 GPT-3 一样,大家都在期待 OpenAI 放出 DALL-E 的官方论文与实现代码。 经过近两代码个月的等待,DALL-E 的论文和代码终于新鲜出炉! 不过此项目正在更新,截止发稿时 DALL-E 只开放了使用图像重建部分 d-V放出AE 训练的 CNN 编码器和解码器部分,而 Transformer 代码部分还没有公开。除此以外数据集也不能使用。而论文也是公布了,O d-VAE 的论文。 项目地址:https://github.com/openai/DALL-E 论文地址:https://arpexiv.org/abs/2102.12092 只能期待后续 OpenAI 公开更多的技术细节。 DALL-E 部分代码已开源 这是为 DnAALL·E 所使用的 d-VAE 的官方 PyTorch 包。在运行 DALL-E/notebooks/usage.ipynb 程序之前,I是需要先安装软件包,代码如下: pip install git+https://github.com/openai/DALL-E.git 解如何码器、编码器代码 d-VAE 论文 年初在论文还没有公开的情况下,就有人开始复现,他们复现的依据来自某博主制作的油管视频,在视频实现中,对 DALL·E 的原理结构进行了猜测。那么,现在论文已公开,是否颠覆了他的预想。 传统上,文本到图像的生成主要集中在在固定的训练数图像据集上找到更好的建模假设。这些假设可能涉及复杂的体系架构、辅助损失或辅助信息,例如在训练期间提供的对象部件标签或分割掩码。该版G研究提出了一种基于 transformer 的简单方法,将文本和图像 token 作为单个数据流进行自回归建模。在足够的数据和扩PT展的情况下,当以 zero-shot 方式评估时, 该研究提出的方法与以前的领域特定模型具有相当的竞争力。
- 最近发表
- 随机阅读
-
- 标签: 短剧
- Market Research Future:到2023年量子计算市场将增长28.2亿美元
- 谷歌AI实验室DeepMind向加拿大扩张 成立小型研究团队
- 1 分钟快速使用 Docker 上手新版 Sentry-CLI - 创建一个版本
- 2022年华为云与AWS的营收距离 差6.5个阿里云
- 云计算开发:Python练习实例-算一道简单的题目
- 标签: 海辰储能
- 标签: 人形机器人 汽车产业
- 自然语言处理库―Snownlp
- 阿里云“无影”升级为一级部门,由CEO吴泳铭直接管理
- Meta 发布新模型 CWM,助力代码理解与生成
- 歌曲朋友别哭
- DuckDuckGo订阅服务新增AI功能 月费9.99美元可使用顶级模型
- 标签: 中泰证券 万家基金 中泰资管 中泰资本
- 甲骨文公司开盘跌超4% 市值2256.24亿美元
- 标签: Outopia 越野跑 美丽诺羊毛 华映资本
- Hadoop 数据迁移用法详解
- 云安全日报210322:Debian云虚拟化工具发现信息泄露漏洞,需要尽快升级
- 标签: 亚马逊 杨钧 AGS 裁员
- 标签: 奥比中光 3D视觉感知 科创板 三维扫描
- 搜索
-
- 友情链接