獵戶星空大模型日、韓語能力全球第一:能跟日本人流暢交流
來源:快科技 編輯:非小米 時間:2024-01-30 13:45人閱讀
快科技1月29日消息,1月21日,獵戶星空發布了開源大模型Orion-14B,以其140億參數規模展現出了卓越的性能,在多個權威通用能力上Orion-14B表現出百億參數大模型基座能力的行業領先性。
不僅如此,Orion-14B超越了市面上許多更大參數的模型,尤其日語和韓語能力表現優秀,評測全球第一。
獵戶星空董事長傅盛強調,Orion-14B在語料訓練中專門強化了日語和韓語,旨在為獵戶星空出海商用機器人應用提供支持。
獵戶星空機器人在日本和韓國不僅限于送餐服務,還能與用戶進行流暢的交流。
值得一提的是,Orion-14B通過AWQ Q4量化技術,模型大小減少70%,推理速度提升30%,性能幾乎無損(損失小于1%),在千元級顯卡可以流暢運行。在NVIDIA RTX 3060顯卡實測,推理速度可達31 token/s (約每秒50漢字)。
分享到:
本站所有文章、數據、圖片均來自互聯網,一切版權均歸源網站或源作者所有。
如果侵犯了你的權益請來信告知我們刪除。郵箱:business@qudong.com