MODEL

Code Llama

Code Llama 是基于 Llama 2 继续训练的代码模型系列。2023 年首发包含 7B、13B、34B 三种规模，以及基础、Python 和 Instruct 版本；7B 与 13B 的部分版本支持填充中间代码。模型使用 16000-token 序列训练，Meta 报告它在最长 100000-token 输入上仍有改进。基础版和 Python 版不是通用指令模型。

发布日期：

2023-08-24

参数量：

7B / 13B / 34B（2023 年首发）

架构：

基于 Llama 2 的仅解码器 Transformer；代码继续预训练，7B/13B 部分版本支持 FIM

输入输出：

文本 → 文本

开放方式：

部分开源