重大模型发布已确认
Meta 发布 BART 研究与预训练模型
Meta 发布 BART 去噪序列到序列预训练模型研究,并通过 fairseq 提供代码和预训练权重。
MEMeta已核验来源
想引用重要AI新闻?随时能找到。
事件详情
Meta 于 2020 年 7 月 8 日发布 BART 研究。BART 先使用噪声函数破坏文本,再训练模型重建原文,并采用双向编码器与自回归解码器组成的序列到序列 Transformer。官方 fairseq 仓库提供 140M 参数 base 和 400M 参数 large 等预训练模型。
影响评估
BART 将去噪自编码预训练推广到序列到序列任务,并成为摘要、生成和理解任务中广泛采用的基础模型。
技术影响5/5
能力、架构、训练方法或研究路线的推动程度
市场影响3/5
产品采用、商业模式和行业竞争格局的变化
生态影响5/5
对开发者、开源社区、平台和上下游的带动
政策与社会1/5
监管、安全、劳动方式和公众认知层面的影响
影响范围4/5
事件影响从局部团队扩展到全球行业的广度
持续性5/5
影响是否会沉淀为长期能力、惯例或结构性变化