开源类型，开源模型是什么

8月25日消息，Meta AI近日发表论文，公布了一个用于代码生成功能的基础大型语言模型代码Llama。

据悉，Code Llama是基于Llama 2开发的，具有领先的性能、填充能力、对大输入上下文的支持以及开放模型中编程任务的零指令跟随能力。它提供了包括基本模型、Python特殊版本和指令跟随模型在内的几个模型，每个模型的参数分别为7B、13B和34B。所有模型都是在16k标签序列的基础上训练的，并且在最多100k标签的输入上表现出改进。

数据显示，Code Llama-Python 7B在HumanEval和MBPP上的性能优于Llama 2 70B，我们所有的模型都优于其他公开可用模型的MultiPL-E基准。Code Llama是一个开放源码的松散许可，允许研究和商业使用。