FlagEval大语言模型评测9月榜:Baichuan 2排名第一

lanting2023-09-19 12:06:24TechWeb.com.cn

9月19日消息,继SuperCLUE中文大模型评测基准8月榜单发布之后,国内又一权威评测体系FlagEval(天秤)公布最新9月榜单评测结果。

FlagEval(天秤)是北京智源人工智能研究院推出的大模型评测体系及开放平台,旨在建立科学、公正、开放的评测基准、方法、工具集,协助研究人员全方位评估基础模型及训练算法的性能。FlagEval 大语言模型评测体系当前包含6大评测任务,近30个评测数据集,超10万道评测题目。

据悉,在9月评测中,FlagEval进行了评测框架升级,细化「安全与价值观」与「推理能力」。依据最新版的能力框架,FlagEval 团队同步更新了智源自建的 Chinese Linguistics & Cognition Challenge (CLCC) 主观评测数据集题库v2.0,题目数量扩充3倍,采用“多人‘背靠背’评测+第三方仲裁”的方式保证评测结果的一致性。

基于最新 CLCC v2.0主观评测数据集,FlagEval(天秤)9月榜重点评测了近期大热的 7 个开源对话模型。从整体结果来看,Baichuan2-13b-chat、Qwen-7b-chat、Baichuan2-7b-chat名列前茅,准确率均超过 65%。

在基座模型榜单中,Baichuan 2、Qwen、InternLM、Aquila 的客观评测结果表现均超越同参数量级的 Llama 及 Llama2 模型。

在 SFT 模型榜单中,Baichuan2-13B-chat、YuLan-Chat-2-13B、AquilaChat-7B 名列前三。

另外,值得注意的是,在客观评测两个榜单中,Baichuan 2均表现出优异性能,基础模型测试在中英文领域均全面超越Llama2。

英特尔任命凯文・奥巴克利为代工服务新负责人,接替斯图尔特・潘

5月14日消息,英特尔发布新闻稿,宣布凯文・奥巴克利(KevinO'Buckley)将接替斯图尔特・潘(StuartPann)的高级副总裁兼代工服务总经理职务,向CEO帕特・基辛格(PatGelsinger)汇报工作。查询领英信息得知,奥巴克...

OpenAI成立监督委员会评估AI安全,并已开始训练新的AI模型

5月28日消息,据彭博社报道,OpenAI成立了一个董事会委员会,用来评估其人工智能模型的安全性。这一举措距离该公司解散内部安全团队以及安全问题负责人离职仅数周时间。此前,OpenAI的治理问题受到了来自两位前董事...

AI时代怎么创业?全球云计算龙头主导的这场中国“创业加速器”值得一看

11月20日消息,今年6月,亚马逊云科技与包括深圳天使母基金、上海临港科创投、启明创投、纪源资本、五源资本、高榕资本、金沙江创投、真格基金、梅花创投、香港科技园公司在内的28家创投与产业机构合作,共同推出了...

拳打苹果、脚踢英特尔,高通芯片才是AI的未来

「等一下,等一下,下一张PPT你们更想拍!」北京时间10月25日凌晨,2023高通骁龙峰会的开场演讲中,高通公司总裁兼首席执行官克里斯蒂亚诺·安蒙CristianoAmon,隆重介绍了骁龙XEliteOryonCPU。在PPT演示中,新款CPU...

亚马逊云科技推出生成式AI合作伙伴计划,首批16家中国企业加入

6月3日消息,在近日的亚马逊云科技中国合作伙伴峰会上,亚马逊云科技升级推出“3+1”合作伙伴战略,聚焦生成式AI、专注行业和业务拓展三大业务战略。生成式AI战略被排在三大业务战略之首,亚马逊云科技将与合作伙伴...

TAG:FlagEval AI
上一篇:微软AI研究人员意外暴露大量内部数据,因云存储链接配置错误
下一篇:奇富科技联合信通院发布国内首个金融行业大模型标准