更新时间: 浏览次数: 258
阿宾与房东太太一部扣人心弦的悬疑片,每个细节都隐藏着惊人的秘密,等你来揭开。在线上门服务是一款专注于成人内容的娱乐平台,旨在为用户提供丰富多样的午夜直播体验。平台汇集了众多优质主播,提供高清直播、互动聊天等功能,用户可以根据自己的喜好选择不同的内容。午夜天堂以其独特的氛围和贴心的服务,吸引了大量用户的关注。无论是想要放松身心,还是寻找刺激体验,182午夜天堂都能满足不同需求,成为用户夜晚放松的理想选择。
阿宾与房东太太一部扣人心弦的悬疑片,每个细节都隐藏着惊人的秘密,等你来揭开。在线上门服务是一部深受欢迎的东北网络喜剧,主要通过幽默的方式展现了东北地区的风土人情和生活百态。故事围绕几位年轻人的日常生活、友情和追梦经历,通过夸张的表演和幽默的台词,勾勒出东北特有的文化氛围。剧中角色个性鲜明,常常引发观众的共鸣与笑声,成为东北笑星网的重要代表作。其经典的段子和搞笑场景,使得《四平青年》不仅在东北地区广受欢迎,也在全国范围内积累了一大批粉丝。
阿宾与房东太太一部扣人心弦的悬疑片,每个细节都隐藏着惊人的秘密,等你来揭开。在线上门服务》是一部充满音乐与梦想的动画片。影片以墨西哥的亡灵节为背景,讲述了一个关于家庭、记忆与梦想的故事。影片中的画面绚丽多彩,音乐动人心弦,让人在欢笑与泪水中感受到了生命的真谛与价值。
阿宾与房东太太一部扣人心弦的悬疑片,每个细节都隐藏着惊人的秘密,等你来揭开。在线上门服务是一部以青春与爱情为主题的漫画作品,吸引了众多读者的关注。故事通过细腻的画风与生动的人物刻画,描绘了青少年在成长过程中所经历的友情、爱情与梦想。漫画中的角色各具特色,他们在面对生活挑战时展现出的勇气与坚韧,让人感同身受。作品融入了幽默与温情,传递了积极向上的价值观,鼓励年轻人在追寻梦想的珍惜身边的人与事。无论是寻求共鸣的读者,还是喜爱漫画艺术的爱好者,这部作品都能带来愉悦的阅读体验。
阿宾与房东太太一部扣人心弦的悬疑片,每个细节都隐藏着惊人的秘密,等你来揭开。在线上门服务是一个集信息共享与服务推广于一体的平台,旨在为商家和消费者提供便捷的联系渠道。用户可以在这个平台上免费创建自己的商户页面,展示产品、服务、联系方式及营业时间,为潜在客户提供全面的信息支持。黄页网络不仅支持多种分类和搜索功能,使用户能够快速找到所需服务,还定期更新信息,确保数据的准确性和时效性。无论是小型创业公司还是大型企业,黄页网络都是提升曝光率与拓展客户群的不二选择。加入我们,让您的业务更上一层楼!
阿宾与房东太太一部扣人心弦的悬疑片,每个细节都隐藏着惊人的秘密,等你来揭开。在线上门服务》是一部充满温情与环保意识的动画片。影片以未来世界为背景,讲述了机器人瓦力与人类女孩伊娃之间的感人故事。影片中的画面精美绝伦,情感真挚动人,让人在欢笑的同时也反思着人类与自然的关系。
阿宾与房东太太一部扣人心弦的悬疑片,每个细节都隐藏着惊人的秘密,等你来揭开。在线上门服务是一款专注于内容创作和视频分享的平台,致力于帮助用户实现个人品牌的快速提升。在这里,用户可以通过发布优质视频、文章和直播内容,吸引大量粉丝关注。平台提供多种推广工具,如关键词优化、投放广告和社交媒体分享,确保内容得到更大的曝光率。用户还可以通过数据分析工具,了解观众的偏好,从而不断调整和优化自己的创作方向。无论是个人创作者还是企业品牌,B站黄页推广网站都能助力他们在激烈的市场竞争中脱颖而出。
阿宾与房东太太一部扣人心弦的悬疑片,每个细节都隐藏着惊人的秘密,等你来揭开。在线上门服务是一部以著名民族英雄岳飞为主线的历史剧,讲述了他在南宋时期为保家卫国而战斗的传奇故事。黄晓明饰演岳飞,展现了这一历史人物的忠诚与勇武。剧中不仅再现了岳飞的光辉战绩,还深刻描绘了他与朝廷权臣之间的斗争,以及与家人、战友之间的深厚情感。通过精美的场景和紧凑的剧情,该剧带领观众回顾历史,感受那段悲壮的岁月,传递出爱国精神和坚定信念。
就在刚刚,Meta 如期发布了 Llama 3.1 模型。
简单来说,最新发布的 Llama 3.1 405B 是 Meta 迄今为止最强大的模型,也是全球目前最强大的开源大模型,更是全球最强的大模型。
从今天起,不需要再争论开源大模型与闭源大模型的孰优孰劣,因为 Llama 3.1 405B 用无可辩驳的实力证明路线之争并不影响最终的技术实力。
先给大家总结一下 Llama 3.1 模型的特点:
附上模型下载地址:
https://huggingface.co/meta-llama
https://llama.meta.com/
超大杯登顶全球最强大模型,中杯大杯藏惊喜
本次发布的 Llama 3.1 共有 8B、70B 和 405B 三个尺寸版本。
从基准测试结果来看,超大杯 Llama 3.1 405B 全方位耐压了 GPT-3.5 Turbo、大部分基准测试得分超过了 GPT-4 0125。
而面对 OpenAI 此前发布的最强闭源大模型 GPT-4o 和第一梯队的 Claude 3.5 Sonnet,超大杯依然有着一战之力,甚至可以仅从纸面参数上说,Llama 3.1 405B 标志着开源大模型首次追上了闭源大模型。
具体细分到基准测试结果,Llama 3.1 405B 在 NIH/Multi-needle 基准测试的得分为 98.1,虽然比不上 GPT-4o,但也表明其在处理复杂信息的能力上堪称完美。
并且 Llama 3.1 405B 在 ZeroSCROLLS/QUALITY 基准测试的得分为 95.2,也意味着其具有强大整合大量文本信息的能力,这些结果表明,LLaMA3.1 405B 模型在处理长文本方面出色,对于关注 LLM 在 RAG 方面性能的 AI 应用开发者来说,可谓是相当友好。
尤为关注的是,Human-Eval 主要是负责测试模型在理解和生成代码、解决抽象逻辑能力的基准测试,而 Llama 3.1 405B 在与其他大模型的比拼中也是稍占上风。
除了主菜 Llama 3.1 405B,虽为配菜的 Llama 3.1 8B 和 Llama 3.1 70B 也上演了一出「以小胜大」的好戏。
就基准测试结果来看,Llama 3.1 8B 几乎碾压了 Gemma 2 9B 1T,以及 Mistral 7B Instruct,整体性能甚至比 Llama 3 8B 都有显著提升。Llama 3.1 70B 更是能越级战胜 GPT-3.5 Turbo 以及性能表现优异的 Mixtral 8×7B 模型。
据官方介绍,在这次发布的版本中,Llama 研究团队在 150 多个涵盖多种语言的基准数据集上对模型性能进行了评估,以及团队还进行了大量的人工评估。
最终得出的结论是:
Llama 3.1 405B 是如何炼成的我们的旗舰模型在多种任务上与顶尖的基础模型,如 GPT-4、GPT-4o 和 Claude 3.5 Sonnet 等,具有竞争力。同时,我们的小型模型在与参数数量相近的封闭和开放模型相比时,也展现出了竞争力。
那 Llama 3.1 405B 是怎么训练的呢?
据官方博客介绍,作为 Meta 迄今为止最大的模型,Llama 3.1 405B 使用了超过 15 万亿个 token 进行训练。
为了实现这种规模的训练并在短时间内达到预期的效果,研究团队也优化了整个训练堆栈,在超过 16000 个 H100 GPU 上进行训练,这也是第一个在如此大规模上训练的 Llama 模型。
团队也在训练过程中做了一些优化,重点是保持模型开发过程的可扩展性和简单性:
Meta 官方表示,在 Scaling Law 的影响之下,新的旗舰模型在性能上超过了使用相同方法训练的小型模型。
研究团队还利用了 405B 参数模型来提升小型模型的训练后质量。
为了支持 405B 规模模型的大规模生产推理,研究团队将模型从 16 位(BF16)精度量化到 8 位(FP8)精度,这样做有效减少了所需的计算资源,并使得模型能够在单个服务器节点内运行。
Llama 3.1 405B 还有一些值得发掘的细节,比如其在设计上注重实用性和安全性,使其能够更好地理解和执行用户的指令。
通过监督微调、拒绝采样和直接偏好优化等方法,在预训练模型基础上进行多轮对齐,构建聊天模型,Llama 3.1 405B 也能够更精确地适应特定的使用场景和用户需求,提高实际应用的表现。
值得一提的是,Llama 研究团队使用合成数据生成来产生绝大多数 SFT 示例,这意味着他们不是依赖真实世界的数据,而是通过算法生成的数据来训练模型。
此外,研究团队团队通过多次迭代过程,不断改进合成数据的质量。为了确保合成数据的高质量,研究团队采用了多种数据处理技术进行数据过滤和优化。
通过这些技术,团队能够扩展微调数据量,使其不仅适用于单一功能,而是可以跨多个功能使用,增加了模型的适用性和灵活性。
简单来说,这种合成数据的生成和处理技术的应用,其作用在于创建大量高质量的训练数据,从而有助于提升模型的泛化能力和准确性。
作为开源模型路线的拥趸,Meta 也在 Llama 模型的「配套设施」上给足了诚意。
值得注意的是,新开源协议里,Meta 不再禁止用 Llama 3 来改进其他模型了,这其中也包括最强的 Llama 3.1 405B,真·开源大善人。
附上 92 页论文训练报告地址:
https://ai.meta.com/research/publications/the-llama-3-herd-of-models/
一个由开源引领的新时代
网友 @ZHOZHO672070 也火速在 Hugging Chat 上测试了一下 Llama 3.1 405B Instruct FP8 对两个经典问题的回答情况。
遗憾的的是, Llama 3.1 405B 在解决「9.11 和 9.9 谁更大」的难题上遭遇翻车,不过再次尝试之下,又给出了正确答案。而在「我一把把把住了」的拼音标注上,其表现也尚可。
网友更是只用了不到 10 分钟的时间,就使用 Llama 3.1 模型快速构建和部署了一个聊天机器人。
另外,Llama 内部科学家 @astonzhangAZ 也在 X 上透露,其研究团队目前正在考虑将图像、视频和语音功能集成到 Llama 3 之中。
开源和闭源之争,在大模型时代依然延续着,但今天 Meta Llama 3.1 新模型的发布为这场辩论画上了句号。
Meta 官方表示,「到目前为止,开源大型语言模型在功能和性能方面大多落后于封闭式模型。现在,我们正迎来一个由开源引领的新时代。」
Meta Llama 3.1 405B 的诞生证明了一件事情,模型的能力不在于开或闭,而是在于资源的投入、在于背后的人和团队等等,Meta 选择开源或许出于很多因素,但总会有人扛起这面大旗。
而作为第一个吃螃蟹的巨头,Meta 也因此收获了首个超越最强闭源大模型的 SOTA 称号。
Meta CEO 扎克伯格在今天发布的长文《Open Source AI Is the Path Forward》中写道:
「从明年开始,我们预计未来的 Llama 将成为业内最先进的。但在此之前,Llama 已经在开源性、可修改性和成本效率方面领先。」
开源 AI 模型或许也志不在超越闭源,或出于技术平权,不会让其成为少数人牟利的手段,或出于众人拾柴火焰高,推动 AI 生态的繁荣发展。
正如扎克伯格在其长文末尾所描述的愿景那样:
我相信 Llama 3.1 版本将成为行业的一个转折点,大多数开发人员将开始转向主要使用开源技术,我期待这一趋势从现在开始持续发展……共同致力于将 AI 的福祉带给全球的每一个人。
#欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。
xtt桌面日历软件下载的异国风情展:展示世界各地的独特美食文化靠谱推荐