香儂科技致力于以自然語言處理為代表的認知智能技術的理論創(chuàng)新與產(chǎn)業(yè)化落地。大規(guī)模預訓練語言模型作為香儂科技的核心技術,擁有領先的語言理解能力和內(nèi)容生成能力。依托自然語言處理技術,香儂科技將為用戶持續(xù)提供智能化服務。共生同心,期待與您共創(chuàng)美好智能未來。
香儂科技將遷移學習、模型壓縮與端云協(xié)同技術結合,致力于在有限算力條件下的大規(guī)模語言模型的低成本訓練與高性能推理。依靠高性能計算技術搭建眾核多擎的彈性加速的分布式預訓練平臺,高效分配算力資源完成大規(guī)模語言模型訓練。通過結構搜索、知識蒸餾、RLHF的聯(lián)合進化尋優(yōu)機制,完成預訓練模型在不同自然語言處理領域任務的模型輕量化能力涌現(xiàn),大幅度提升推理效率。