重大论文发表已确认
Google 发表 T5 并公开模型、代码与 C4
T5 将多类自然语言处理任务统一为文本到文本形式,并发布从 60M 到 11B 的模型系列。
GOGoogle DeepMind已核验来源
想引用重要AI新闻?随时能找到。
事件详情
2019 年 10 月 23 日,Google 研究团队提交 T5 论文,把翻译、摘要、问答和分类等任务统一为文本输入、文本输出。研究系统比较模型架构、预训练目标、数据集和迁移方法,并在 C4 上训练 Small、Base、Large、3B 与 11B 五种规格。论文与官方资料说明,代码、预训练检查点和 C4 均已公开;11B 是最大规格,并不是 T5 的唯一参数规模。
影响评估
T5 用统一的文本到文本接口组织多类自然语言处理任务,并公开 C4 与多档预训练检查点,对迁移学习方法和后续开源生态产生了长期影响。
技术影响4/5
能力、架构、训练方法或研究路线的推动程度
市场影响2/5
产品采用、商业模式和行业竞争格局的变化
生态影响5/5
对开发者、开源社区、平台和上下游的带动
政策与社会1/5
监管、安全、劳动方式和公众认知层面的影响
影响范围4/5
事件影响从局部团队扩展到全球行业的广度
持续性5/5
影响是否会沉淀为长期能力、惯例或结构性变化