FlagEval大语言模型评测9月榜:Baichuan 2排名第一

lanting2023-09-19 12:06:24TechWeb.com.cn

9月19日消息,继SuperCLUE中文大模型评测基准8月榜单发布之后,国内又一权威评测体系FlagEval(天秤)公布最新9月榜单评测结果。

FlagEval(天秤)是北京智源人工智能研究院推出的大模型评测体系及开放平台,旨在建立科学、公正、开放的评测基准、方法、工具集,协助研究人员全方位评估基础模型及训练算法的性能。FlagEval 大语言模型评测体系当前包含6大评测任务,近30个评测数据集,超10万道评测题目。

据悉,在9月评测中,FlagEval进行了评测框架升级,细化「安全与价值观」与「推理能力」。依据最新版的能力框架,FlagEval 团队同步更新了智源自建的 Chinese Linguistics & Cognition Challenge (CLCC) 主观评测数据集题库v2.0,题目数量扩充3倍,采用“多人‘背靠背’评测+第三方仲裁”的方式保证评测结果的一致性。

基于最新 CLCC v2.0主观评测数据集,FlagEval(天秤)9月榜重点评测了近期大热的 7 个开源对话模型。从整体结果来看,Baichuan2-13b-chat、Qwen-7b-chat、Baichuan2-7b-chat名列前茅,准确率均超过 65%。

在基座模型榜单中,Baichuan 2、Qwen、InternLM、Aquila 的客观评测结果表现均超越同参数量级的 Llama 及 Llama2 模型。

在 SFT 模型榜单中,Baichuan2-13B-chat、YuLan-Chat-2-13B、AquilaChat-7B 名列前三。

另外,值得注意的是,在客观评测两个榜单中,Baichuan 2均表现出优异性能,基础模型测试在中英文领域均全面超越Llama2。

全球首个内置ChatGPT智能音箱ChatMini 8月17日发布

IT之家8月11日消息,据智度股份官方公众号今日消息,全球首款内置ChatGPT的智能音箱VifaChatMini将于8月17日全球首发。官方介绍称,该智能音箱相比传统音箱具有更小的体积、更强的便利性,智能化方面也将拥有“巨大...

IBM旗下AI平台将托管Meta大语言模型MetaLlama2

IBM宣布将在其企业人工智能平台WatsonX上托管MetaPlatform的AI语言模型MetaLlama2。据悉,Llama2是Meta于今年7月推出的开源人工智能语言模型的商业版本,由微软的Azure云服务分发。它在新兴的生成人工智能市场上与Op...

明略科技开源TensorBoard.cpp,助力大模型预训练

8月11日消息,近日,明略科技集团实现了机器学习可视化工具——TensorBoard的C++接口,进一步丰富了基于C++的大模型项目工具集,使得大模型预训练过程监控更加便捷、高效,加速营销领域大模型预训练进程。该工具已在...

联想问天两款AI服务器新品发布 全栈智能引领AI新未来

8月18日,中国算力大会在银川盛大开幕,在“智算无限全栈智能联想AI算力战略暨AI服务器新品发布会”上,联想重磅发布两款全新AI服务器产品——联想问天WA7780G3AI大模型训练服务器和联想问天WA5480G3AI训推一体服务...

微软、英伟达将同多家越南企业达成合作,涉及部署AI与开发解决方案

9月11日消息,由于人口红利等因素,越南等东南亚国家预计未来将成为新的世界工厂,而我国也将进一步加快高端制造业转型,实现高技术产业升级。美国和越南现达成了一系列新的协议,包括价值75亿美元(当前约552亿元人...

TAG:FlagEval AI
上一篇:微软AI研究人员意外暴露大量内部数据,因云存储链接配置错误
下一篇:奇富科技联合信通院发布国内首个金融行业大模型标准