热点

官方论文代码放出,OpenAI是如何实现图像版GPT-3的?

字号+ 作者:牛骥同槽网 来源:农业资讯 2026-11-23 我要评论(0)

官方论文代码放出,OpenAI是如何实现图像版GPT-3的?

OpenAI 放出 DALL-E 的部分论文与实现代码。

今年年初,OpenAI 图像版 GPT-3、120 亿参数的 DALL-E 刷屏官方社区,这个大型模型可以将以自然语言形式表达的大量概念转换为合适的图像,效果十分惊艳。

如输入「牛油果形状的椅子」,就可以获得绿油油、论文形态各异的牛油果椅子图像。

如果 GPT-3 一样,大家都在期待 OpenAI 放出 DALL-E 的官方论文与实现代码。

经过近两个月代码的等待,DALL-E 的论文和代码终于新鲜出炉!

不过此项目正在更新,截止发稿时 DALL-E 只开放了使用图像重建部分 d-VA放出E 训练的 CNN 编码器和解码器部分,而 Transformer 代码部分还没有公开。除此以外数据集也不能使用。而论文也是公布了,O d-VAE 的论文。

项目地址:https://github.com/openai/DALL-E 论文地址:https://arxiv.peorg/abs/2102.12092

只能期待后续 OpenAI 公开更多的技术细节。

DALL-E 部分代码已开源

这是为 DALL·nAE 所使用的 d-VAE 的官方 PyTorch 包。在运行 DALL-E/notebooks/usage.ipynb 程序之前,需要先I是安装软件包,代码如下:

pip install git+https://github.com/openai/DALL-E.git

解如何码器、编码器代码

d-VAE 论文

年初在论文还没有公开的情况下,就有人开始复现,他们复现的依据来自某博主制作的油管视频,在视频实现中,对 DALL·E 的原理结构进行了猜测。那么,现在论文已公开,是否颠覆了他的预想。

传统上,文本到图像的生成主要集中在在固定图像的训练数据集上找到更好的建模假设。这些假设可能涉及复杂的体系架构、辅助损失或辅助信息,例如在训练期间提供的对象部件标签或分割掩版G码。该研究提出了一种基于 transformer 的简单方法,将文本和图像 token 作为单个数据流进行自回归建模。在足够的数据和扩展的PT情况下,当以 zero-shot 方式评估时, 该研究提出的方法与以前的领域特定模型具有相当的竞争力。

 

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

相关文章
  • 谷歌Gemini API重大升级:一行代码直抓网页,开发效率飞跃提升

    谷歌Gemini API重大升级:一行代码直抓网页,开发效率飞跃提升

    2026-10-16

  • 开发者如何在 iOS 26 中使用 Apple 的本地 AI 模型

    开发者如何在 iOS 26 中使用 Apple 的本地 AI 模型

    2026-08-07

  • 标签: 台积电 罗唯仁 英特尔 半导体

    标签: 台积电 罗唯仁 英特尔 半导体

    2026-07-15

  • ​英国 NHS 医院将测试 AI 工具以改善前列腺癌诊断与治疗

    ​英国 NHS 医院将测试 AI 工具以改善前列腺癌诊断与治疗

    2026-09-18

网友点评