阿里云发布全球最强开源模型Qwen2,性能超越众多中国闭源模型
比中国闭源模型们更强的开源模型来了!6 月 7 日,阿里云更新技术博客:重磅发布全球性能最强的开源模型 Qwen2-72B,性能超过美国最强的开源模型 Llama3-70B,也超过文心 4.0、豆包 pro、混元 pro 等众多中国闭源大模型。所有人均可在魔搭社区和 Hugging Face 免费下载通义千问最新开源模型。
相比 2 月推出的通义千问 Qwen1.5,Qwen2 实现了整体性能的代际飞跃。在权威模型测评榜单 OpenCompass 中,此前开源的 Qwen1.5-110B 已领先于文心 4.0 等一众中国闭源模型。刚刚开源的 Qwen2-72B,整体性能相比 Qwen1.5-110B 又取得了大幅提升。
(图说:在上海人工智能实验室推出的 OpenCompass 大模型测评榜单上,此前开源的 Qwen1.5-110B 已领先于文心 4.0 等一众中国闭源模型)
通义千问 Qwen2 系列模型大幅提升了代码、数学、推理、指令遵循、多语言理解等能力。在 MMLU、GPQA、HumanEval、GSM8K、BBH、MT-Bench、Arena Hard、LiveCodeBench 等国际权威测评中,Qwen2-72B 一举斩获十几项世界冠军,超过美国的 Llama3。
(图说:Qwen2-72B 在十多个权威测评中获得冠军,超过美国的 Llama3-70B 模型)
通义千问团队在技术博客中披露,Qwen2 系列包含 5 个尺寸的预训练和指令微调模型,Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B 和 Qwen2-72B,其中 Qwen2-57B-A14B 为混合专家模型(MoE)。Qwen2 所有尺寸模型都使用了 GQA(分组查询注意力)机制,以便让用户体验到 GQA 带来的推理加速和显存占用降低的优势。
(图说:Qwen2 系列包含 5 个尺寸的预训练和指令微调模型)
在中英文之外,模型训练数据中增加了 27 种语言相关的高质量数据,提升了模型的多语言能力。Qwen2 还增大了上下文长度支持,Qwen2-72B-Instruct 能够完美处理 128k 上下文长度内的信息抽取任务。
魔搭社区模型下载地址:
Qwen2-72Bhttps://modelscope.cn/models/qwen/Qwen2-72B
Qwen2-72B-Instructhttps://modelscope.cn/models/qwen/Qwen2-72B-Instruct
据悉,通义千问 Qwen 系列模型正在全球爆火,总下载量一个月内翻了一倍,已突破 1600 万次。全球开源社区已经出现了超过 1500 款基于 Qwen 二次开发的模型。Qwen 系列的 72B、110B 模型多次登顶 HuggingFace 的 Open LLM Leaderboard 开源模型榜单。
阿里云 CTO 周靖人表示,“坚持开源开放是阿里云的重要策略,我们希望打造一朵 AI 时代最开放的云,让算力更普惠、让 AI 更普及。”
(图说:众多开源平台和工具第一时间支持 Qwen2)
自 2023 年 8 月开源以来,通义千问在全球开源社区生态中已形成重要影响力。6 月 7 日,Qwen2 系列模型的 API 第一时间登陆阿里云百炼平台。TensorRT-LLM、OpenVINO、OpenCompass、XTuner、LLaMA-Factory、Firefly、OpenBuddy、vLLM、Ollama 等众多全球开源平台和工具,也第一时间宣布支持 Qwen2 最新款模型。除了美国 Llama 开源生态之外,通义千问已成为全球开发者的另一主流选项。