MODEL

Turing-NLG

Turing-NLG（T-NLG）是微软发布的 170 亿参数文本语言模型，用于自由文本生成、问答和摘要等任务。

发布日期：

2020-02-13

参数量：

17 billion

架构：

78 层 Transformer；隐藏维度 4256，28 个注意力头；以自回归生成损失进行预训练。

输入输出：

文本 → 文本

开放方式：

闭源