快科技1月29日消息，1月21日，獵戶星空發(fā)布了開源大模型Orion-14B，以其140億參數(shù)規(guī)模展現(xiàn)出了卓越的性能，在多個(gè)權(quán)威通用能力上Orion-14B表現(xiàn)出百億參數(shù)大模型基座能力的行業(yè)領(lǐng)先性。

不僅如此，Orion-14B超越了市面上許多更大參數(shù)的模型，尤其日語和韓語能力表現(xiàn)優(yōu)秀，評(píng)測全球第一。

獵戶星空董事長傅盛強(qiáng)調(diào)，Orion-14B在語料訓(xùn)練中專門強(qiáng)化了日語和韓語，旨在為獵戶星空出海商用機(jī)器人應(yīng)用提供支持。

獵戶星空機(jī)器人在日本和韓國不僅限于送餐服務(wù)，還能與用戶進(jìn)行流暢的交流。

值得一提的是，Orion-14B通過AWQ Q4量化技術(shù)，模型大小減少70%，推理速度提升30%，性能幾乎無損(損失小于1%)，在千元級(jí)顯卡可以流暢運(yùn)行。在NVIDIA RTX 3060顯卡實(shí)測，推理速度可達(dá)31 token/s (約每秒50漢字)。