模型发布
官方入口 | Chat | Code Plan | Agent 工具 | API |
|---|---|---|---|---|
| 全球 |
相关事件
按时间倒序整理已验证的发布与公司动态。
论文发表
Google 发表 Switch Transformer 论文,训练 1.6T 稀疏模型
Switch Transformer 把每个 token 路由到单个专家,在保持稀疏计算的同时把总参数规模扩展到约 1.6T。
模型发布
GShard 论文展示超过 600B 参数的稀疏专家翻译模型
Google 研究者提出 GShard 自动分片机制,并用它在 2,048 个 TPU v3 上训练超过 600B 参数的多语翻译 MoE。
研究发布
Google Research 公布开放域对话模型 Meena
Google Research 公布 26 亿参数开放域对话模型 Meena,但未开放外部演示或模型权重。
论文发表
开源发布
XLNet 论文与 XLNet-Large 权重公开
Google Brain 与卡内基梅隆大学研究者提出 XLNet,并同步开放 XLNet-Large 检查点和 TensorFlow 代码。
论文发表
论文发表