商湯國產中文大模型全面領先ChatGPT 部分接近GPT-4
快科技6月21日消息,在AI大模型領域,OpenAI的ChatGPT成為當前最火的大模型,也是標桿性的,多個國產大模型都要對標它,今天商湯科技公布了自己的大模型測試結果,三個測試項目中都超越了ChatGPT。
商湯科技自研中文語言大模型名為“商量SenseChat 2.0”,日前公布的測試顯示,MMLU、AGIEval、C-Eval三個權威大語言模型評測基準的成績。
根據評測結果,“商量SenseChat 2.0”在三個測試集中表現均領先ChatGPT,部分已十分接近GPT4的水平,實現了我國語言大模型研究的重要突破。
這三個測試分別如下:
由美國加州大學伯克利分校等高校構建的多任務考試評測集MMLU;
微軟研究院推出的學科考試評測集AGIEval(含中國高考、司法考試及美國SAT、LSAT、GRE和GMAT等);
由上海交通大學、清華大學和愛丁堡大學合作構建的面向中文語言模型的綜合性考試評測集C-Eval;
在MMLU測試中,“商量SenseChat 2.0”綜合得分為68.6,遠超GLM-130B(45.7分)的得分,同時還超過了ChatGPT(67.3分)、LLaMA-65B(63.5分)僅落后GPT-4(86.4分),位居第二。
在AGIEval測試中,“商量SenseChat 2.0”測出49.91的分數,遙遙領先GLM-130B(34.2分)、LLaMMA-65B(34.0分),并再次超越ChatGPT(42.9分),僅次于GPT-4的56.4分。
在其中的AGIEval(GK)評測子集中,“商量SenseChat 2.0”以58.5分全面領先,僅微弱差距落后GPT-4(58.8分)。
在C-Eval測試中,“商量SenseChat 2.0”拿到了66.1的分數,在參評的18個大模型中,僅次于GPT-4(68.7分),全面領先ChatGPT、Claude、Bloom、GLM-130B、LLaMA-65B等一眾海內外大模型。
截至目前,已有近千家企業客戶通過申請,應用和體驗“商量SenseChat 2.0”超強的長文本理解、邏輯推理、多輪對話、情感分析、內容創作、代碼生成等綜合能力,并且“商量SenseChat 2.0”還在服務客戶過程中,持續實現著快速迭代和提升,以及知識的實時更新。
本站所有文章、數據、圖片均來自互聯網,一切版權均歸源網站或源作者所有。
如果侵犯了你的權益請來信告知我們刪除。郵箱:business@qudong.com