2023年7月19日消息,Meta与微软携手合作,正式推出了下一代开源大语言模型——Llama 2,并宣布免费提供给研究和商业使用。这一消息震动了人工智能领域,将为开发者们带来更多可能性和创新机遇。
Llama 2 论文地址:https://ai.meta.com/research/publications/llama-2-open-foundation-and-fine-tuned-chat-models/
Llama 2 项目地址:https://github.com/facebookresearch/llama
Llama 2 模型下载地址:https://ai.meta.com/resources/models-and-libraries/llama-downloads/
Llama 2相较于Llama 1有了巨大的进步。训练数据增加了40%,上下文长度扩大至Llama 1的两倍,并采用了分组查询注意力机制。预训练模型在2万亿的token上训练,微调Chat模型则在100万人类标记数据上进行,这些改进使得Llama 2在众多外部基准测试中均超越其他模型,在推理、编码、熟练度和知识测试等方面表现优异。
Meta宣布Llama 2免费供研究和商业使用,开发者们可以在Llama 2官方网站直接下载该模型。然而,Meta也设定了授权政策,企业的月活用户数若超过7亿,则必须从Meta申请许可证,这体现了对于大规模商业应用的严格把控。
为了避免类似之前LLaMA泄漏事件带来的负面影响,Llama 2经过红队测试,确保模型不会产生有害内容,并为开发者们制定了使用指南和守则,致力于构建一个健康、安全的AI生态。
BTW,根据 Llama 2 的授权政策,如果企业的月活用户数超过 7 亿,则必须从 Meta 申请许可证。Meta 会对此类授权进行严格设限。
扎克伯格在Facebook上发帖表示对于开源的支持,他认为开源将推动创新,让更多开发人员能够使用新技术进行开发,并提高技术的安全性。Meta的开源Llama 2也将带来更多进步与机遇。
话说回来,微软现在左拥 Meta,右抱 OpenAI,这不是妥妥的脚踏两条船吗?