零一万物发布Yi系列开源大模型：Yi-34B登顶全球双榜冠军

11月6日，零一万物正式推出「Yi」系列预训练开源大模型，包含Yi-6B和Yi-34B两个版本，在开源大模型社区引发了强烈关注。根据Hugging Face英文开源社区平台和C-Eval中文评测的最新榜单，Yi-34B预训练模型斩获多项SOTA国际最佳性能指标认可，成为全球开源大模型的「双料冠军」，实力超越LLaMA2和Falcon等开源竞品。 Yi-34B也是迄今为止唯一成功登顶Hugging Face全球开源模型排行榜的国产模型。

以小博大，登顶全球英文及中文权威大模型榜单No.1

据了解，在Hugging Face英文测试公开榜单Pretrained预训练开源模型排名中，Yi-34B各项指标表现抢眼，以70.72的分数位列全球第一，以更小的参数量超越LLaMA2-70B和Falcon-180B等众多大尺寸模型。从参数量和性能的对比来看，Yi-34B只用了不到LLaMA2-70B一半、Falcon-180B五分之一的参数量，就在各项测试任务中超越了全球领跑者。凭借这一出色表现，Yi-34B跻身目前世界范围内开源最强基础模型之列。

同时作为国产大模型，李开复表示，Yi-34B更「懂」中文，在C-Eval中文权威榜单排行榜上超越了全球所有开源模型。相较于大模型最强王者GPT-4，Yi-34B在CMMLU、E-Eval、Gaokao三个主要中文指标上具有绝对优势，凸显出在中文世界的优异能力，能够更好地满足国内市场需求。

从更全面的评估来看，在全球大模型各项评测中最关键的「MMLU」（Massive Multitask Language Understanding，大规模多任务语言理解）、BBH等反映模型综合能力的评测集上，Yi-34B表现最为突出，在通用能力、知识推理、阅读理解等多项指标评比中全部胜出，与Hugging Face评测结果高度一致。

不过，与LLaMA2一样，Yi系列开源大模型在GSM8k、MBPP的数学和代码评测中表现略逊于GPT模型。未来，Yi系列大模型将推出专攻代码能力和数学能力的继续训练模型。

上下文窗口大小突破200k，并直接开源

在对大模型实战效果至关重要的上下文窗口方面，此次开源的Yi-34B发布了全球最长、支持200K超长上下文窗口的版本，可以处理约40万汉字的超长文本输入，大致相当于一本《儒林外史》的长度。相比之下，OpenAI的GPT-4上下文窗口只有32K，文字处理量约2.5万字。