MODEL

GPT-3

GPT-3 是 OpenAI 的 175B 参数自回归语言模型。论文展示了不更新模型权重、只在提示中给出指令或少量示例的上下文学习方式，并覆盖翻译、问答、填空、算术和简单推理等任务。模型表现随任务差异很大，论文也记录了训练数据污染、偏见、事实错误和部分任务失败等局限。

发布日期：

2020-05-28

参数量：

175B（最大版本）

架构：

175B 参数的 decoder-only 自回归 Transformer；通过文本提示进行零样本、单样本与少样本任务适配

输入输出：

文本 → 文本

开放方式：

闭源