源1.0的領(lǐng)先性

時(shí)間：2022-04-09 12:15:01 | 來(lái)源：行業(yè)動(dòng)態(tài)

時(shí)間：2022-04-09 12:15:01 來(lái)源：行業(yè)動(dòng)態(tài)

目前，全球知名的AI領(lǐng)先公司在巨量模型上都予以重兵投入，谷歌、微軟、英偉達(dá)、浪潮、智源研究院、百度、阿里等公司相繼推出了各自的巨量模型。

浪潮信息副總裁、浪潮信息AIHPC產(chǎn)品線總經(jīng)理劉軍表示，進(jìn)入到巨量模型時(shí)代，人工智能產(chǎn)業(yè)的發(fā)展得益于產(chǎn)業(yè)界的通力合作。浪潮通過(guò)元腦生態(tài)把AI科技公司（左手伙伴）和行業(yè)客戶(hù)（右手伙伴）連接到一起，賦能產(chǎn)業(yè)創(chuàng)新。而源1.0的推出將加速這一進(jìn)程。

衡量巨量模型（也稱(chēng)單體模型）最重要的三個(gè)層面是算法、數(shù)據(jù)及精度，而源1.0巨量模型在三個(gè)方面都做到全球領(lǐng)先。

算法：源1.0訓(xùn)練采用的中文數(shù)據(jù)集達(dá)5000GB，相比美國(guó)OpenAI組織研發(fā)的GPT-3模型1750億參數(shù)量和570GB訓(xùn)練數(shù)據(jù)集，源1.0參數(shù)規(guī)模領(lǐng)先40%，訓(xùn)練數(shù)據(jù)集規(guī)模領(lǐng)先近10倍，問(wèn)鼎全球最大規(guī)模中文AI巨量模型。

數(shù)據(jù)：爬取2017-2021近五年來(lái)，中文互聯(lián)網(wǎng)中的網(wǎng)頁(yè)數(shù)據(jù)、公開(kāi)中文語(yǔ)料庫(kù)、中文百科及電子書(shū)等，經(jīng)過(guò)清洗及處理，最終獲得5000GB高質(zhì)量數(shù)據(jù)集，是GPT-3的近10倍，成為迄今業(yè)界最大的高質(zhì)量中文數(shù)據(jù)集。

精度：源1.0在語(yǔ)言智能方面表現(xiàn)優(yōu)異，獲得權(quán)威中文語(yǔ)言理解評(píng)測(cè)基準(zhǔn)CLUE榜單的零樣本學(xué)習(xí)和小樣本學(xué)習(xí)兩類(lèi)總榜冠軍。在零樣本學(xué)習(xí)榜單中，源1.0超越業(yè)界最佳成績(jī)18.3%，在文獻(xiàn)分類(lèi)、新聞分類(lèi)，商品分類(lèi)、原生中文推理、成語(yǔ)閱讀理解填空、名詞代詞關(guān)系6項(xiàng)任務(wù)中獲得冠軍；在小樣本學(xué)習(xí)的文獻(xiàn)分類(lèi)、商品分類(lèi)、文獻(xiàn)摘要識(shí)別、名詞代詞關(guān)系等4項(xiàng)任務(wù)獲得冠軍。在成語(yǔ)閱讀理解填空項(xiàng)目中，源1.0的表現(xiàn)已超越人類(lèi)得分。

同時(shí)，在對(duì)源1.0進(jìn)行的圖靈測(cè)試中，將源1.0模型生成的對(duì)話、小說(shuō)續(xù)寫(xiě)、新聞、詩(shī)歌、對(duì)聯(lián)與由人類(lèi)創(chuàng)作的同類(lèi)作品進(jìn)行混合并由人群進(jìn)行分辨，測(cè)試結(jié)果表明，人群能夠準(zhǔn)確分辨人與源1.0作品差別的成功率已低于50%。

浪潮人工智能研究院首席研究員吳韶華表示，源1.0只是一個(gè)開(kāi)端，未來(lái)還會(huì)有2.0、3.0等，目前源2.0的相關(guān)工作正在進(jìn)行討論中。而且2.0會(huì)更加重視與頂尖科技公司的聯(lián)合探索，貼近應(yīng)用場(chǎng)景，能夠更快速實(shí)現(xiàn)應(yīng)用落地，這種聚合效應(yīng)有助于前沿技術(shù)的探索，也會(huì)帶來(lái)更多的創(chuàng)新成果。