一共开源 海浪音信宣告千亿参数根柢大模型“源20”

Writer： admin Time：2023-11-28 Browse：175

　　11月27日，海潮电子消息家当股份有限公司在京公告“源2.0”基础大模型，并宣布总共开源。“源2.0”囊括102B（1026亿）、51B（518亿）、2B（21亿）三种参数范畴的模型，在编程、推理、逻辑等方面闪现出了先辈的势力。

　　根本大模型的枢纽气力是大模型行业和运用落地势力表现的中心保持。在算法、数据和算力等方面，“源2.0”提出了新的改进步骤并获得了实力的擢升。

　　如在算法方面，“源2.0”提出并采取了一种新型的珍爱力算法布局“限度侧沉力过滤增强机制”，让大模型在利用更少的陶冶算力、更小的模型参数的景况下，同样可以获得更高的模型精度和显示实力；数据方面，低落了互联网语料内容占比，经由行使中英信札籍、百科、论文等原料，维系高效的数据洗涤历程，为大模型训练供给了高质料的学科专业数据集和逻辑推理数据集。

　　动作千亿级根底大模型，“源2.0”在业界竟然的评测进步行了代码禀赋、数知识题求解、到底问答方面的实力测试，测试终归出现，“源2.0”在多项模型评测中出现出了较为前辈的实力显示。

　　“源2.0”选取全体开源计谋，全系列模型参数和代码均可免费下载运用。“大模型的开源开放可能使区别模型之间共享底层数据、算法和代码，有利于粉碎大模型孤岛，激发模型之间合作和鼎新迭代；同时，有利于以更富有的高质地行业数据反哺模型，打造更强的身手产品，加速商业化过程。如今，业内仍没有完好开源可商用的千亿大模型，全班人希冀‘源2.0’可以为国内外修设者、想虑机构、科技企业供应坚实的底座和滋长的土壤。”海浪音尘高等副总裁刘军谈。

　　浪潮音讯永久勤奋于人工智能算力根本设施产品的研发，2021年在业界率先推出了华文AI巨量模型“源1.0”，参数领域达2457亿，落地南京智算核心。此次布告的“源2.0”较前一版本杀青了能力的全体晋升。（记者温竞华）