Llama 3

Llama 3 是 Meta 开源推出的新一代大型语言模型，提供 8B 与 70B 两种参数规模，面向编程、问题求解、翻译和对话生成等场景。相比前代，其训练数据扩展至超过 15 万亿 token，采用更高效的分词器与分组查询注意力机制，在推理、代码生成和指令跟随方面显著提升。模型支持 30 余种语言数据预训练，并配套 Llama Guard 2 等安全工具，适用于不同算力与性能需求的研究与开发。宝藏内容来自https://x-imagine.com/sites/llama-meta-hd.html - 荒岛