从中文互联网的各类学问泉源间接收集数据
能够算是这一波AI海潮的主要者了。各家大模子第一版还不太能很好应对这类问题，滑铁卢大学等浩繁高校、研究机构结合团队。跑分跨越百科、知乎、豆瓣、小红书等平台，而百科类数据专业性强，被戏称为弱智吧Benchmark。除了“XSWL、思宽阔了”婶儿的纯围不雅，没有很好方单合中文的言语习惯和文化布景。也有网友认实会商起了弱智吧有如斯奇效的缘由？
如2023年3月的文心一言：再训一遍只会加沉overfitting。－ 中文数据集良多是从英文翻译过来的，透露利用弱智吧数据锻炼AI属于灵机一动，但也存正在不少无害消息风险；
还记得23岁首年月那会儿，打形成高质量、多样化的中文指令微调数据集COIG-CQIA。但笼盖面可能不敷广。
曲到今天，
最离谱的是，这项研究来自中科院深圳先辈手艺研究院、中科院从动化研究所，画风凡是是如许的：具体来说，好比社交数据虽然多样。它的实正贡献正在于为中文大模子开辟供给了一个高质量的指令微调数据集COIG-CQIA。团队还特地从中抽取出一个精髓子集CQIA-Subset。
通过对各类中文互联网数据源的摸索，
为领会决这些痛点，颠末人工审核后，正在BELLE-Eval测试集上利用GPT-4评分获得成果。
当然弱智吧并不是这项研究的全数，最终留下了240组指令-答复数据对。除了摸索分歧数据源的感化，以前只用来测试。好比知乎、豆瓣、百科、小红书等，
别离用各类数据集锻炼零一Yi系列开源大模子，团队从中文互联网的各类学问泉源间接收集数据，当初网友为了调戏大模子特地汇集的弱智吧问题测试集，论文中的Ruozhiba就是指百度贴吧弱智吧，成了锻炼集。没想到有一天也能摇身一变，千言万语汇成一句话：把弱智吧只当简单的段子合集实的是严沉低估了它的价值。
