全网首发，Meta Llama-3 全方位详解（足球俱乐部经理2023）

时隔9个月之后，meta正式发布了Llama3的正式版。模型已经上架，8B和70B模型已经开源，可以免费商用（限制月活不的超越7亿），还有哪些新的信息呢？

关于 Llama

Llama 是由 Meta(FaceBook) AI 发布的一个开源项目，允许商用，影响力巨大。之前发布的 Llama 2，支持 4096 上下文，性能卓越，被认为是 GPT 系列最大的竞争对手（之一）。

Llama-3

Meta 发布了 Meta Llama 3 系列语言模型（LLM），具体包括一个 8B 模型和一个70 B模型在测试基准中，Llama 3 模型的表现相当出色，在实用性和安全性评估中，与那些市面上流行的闭源模型不相上下。

第 1 部分刚刚发布的Llama-3

中国时间 2024 年 4 月 19 日 0 点 0 分，Meta Llama 3 发布。模型以开源形式提供，包含 8B 和 70B 两种参数规模，涵盖预训练和指令调优的变体。Llama 3 支持多种商业和研究用途，并已在多个行业标准测试中展示了其卓越的性能。

技术信息

Transformer 架构

Meta Llama 3 采用了优化的自回归 Transformer 架构，这种架构专为处理复杂的文本生成任务设计，能够有效提升生成文本的连贯性和相关性。

混合调优

模型结合了监督式微调（SFT）和带人类反馈的强化学习（RLHF），这种混合方法不仅增强了模型的帮助性，也提高了安全性，使得模型在实际应用中更加可靠和符合用户预期。

性能卓越

在多个行业标准基准测试中，特别是在对话类应用中，Meta Llama 3 的表现超过了许多现有的开源聊天模型，显示了其强大的应用潜力，具体后面细说。

数据训练

大的数据

Llama 3 使用了超过 15 万亿令牌的公开在线数据进行预训练，这些数据经过精选，确保模型训练的广泛性和高质量输出。

新的数据

8B 版本数据更新截止至 2023 年 3 月，而 70B 版本则更新至同年 12 月。

30 种语言

虽主要以英语为主，但预训练数据中包含超过 30 种语言的高质量非英语数据

* 大聪明：中文数据不知道用没用「弱智吧」语料

政治正确（雾）

碳排放抵消

Meta 承诺通过其可持续性计划抵消预训练过程中产生的所有 CO2 排放（2290 吨 CO2 等效）。

很守规矩

Llama 3 的使用严格遵守法律法规，确保不被用于任何非法活动，同时强调了对知识产权和合规性的重视。

第 2 部分技术性能

这次的 Llama 在性能上展现了大幅度提升，包括最直接的 8k 上下文（之前是4k），以及可以更好的完成输出任务。

性能测试

基准测试

Meta Llama 3 的 70B 模型在多项基准测试中显示出色的性能，例如在 TriviaQA-Wiki 测试中达到了 89.7% 的准确率，明显优于其他同规模模型。
在内部开发的高质量人类评估集中，该评估集包含了 1,800 个提示，覆盖了 12 个关键用例（包括咨询、编码、创意写作等），Llama 3 在这些实际应用场景中的表现同样卓越。

这里再附一张 Llama 2 和 3 的对比：

现实场景

根据人类评估者的偏好排名，Llama 的 70B 参数模型在实际应用场景中的表现，尤其是在指令跟随方面，相较于其他相当规模的模型表现出了显著的优势。

架构与优化

模型架构

Llama 3 采用了自回归 Transformer 架构，这种结构特别适合于处理复杂的文本生成任务，能有效提升文本的连贯性和相关性。
引入了分组查询注意力（Grouped Query Attention, GQA）技术，这不仅提升了大数据处理的效率，还加快了响应速度。

训练和微调

在预训练阶段，Llama 使用了超过 15 万亿令牌的高质量数据集，包括多种语言的文本，以确保模型具有广泛的适用性和优异的性能。
在微调阶段，通过监督式微调（SFT）和带人类反馈的强化学习（RLHF）的混合方法，Llama 显著降低了错误拒绝率，改善了模型的对齐和响应多样性。

性能提升Llama 3 在本次更新中，于推理、代码生成和指令跟随等方面有了明显的能力提升。

第 3 部分在哪能用

作为一个开源 LLM，你可以通过多种方式来使用：直接用别人部署好的产品，找部署好的接口，或者自己部署

中文还是有问题

直接使用（最简单）

Hugging Face地址在这，进去后直接切模型：https://huggingface.co/chat/

Replicate8B 模型：hat/https://replicate.com/meta/meta-llama-3-8b70B模型：https://replicate.com/meta/meta-llama-3-70b

（刚放上去，只运行了 8 次）

Meta AIMeta 自己拿 Llama 3 做的，这里访问：https://ai.meta.com/注意，这个锁地区。

第三方 API

微软 Azure地址在这：https://azuremarketplace.microsoft.com/en-us/marketplace/apps/metagenai.meta-llama-3-8b-chat-offer?tab=overview

Replicate他们好卷…Llama 发布1个小时，他们就上线服务了，这俩地址也能走 API8B 模型：hat/https://replicate.com/meta/meta-llama-3-8b70B模型：https://replicate.com/meta/meta-llama-3-70b