從復(fù)旦大學(xué)自然語(yǔ)言處理實(shí)驗(yàn)室獲悉，國(guó)內(nèi)首個(gè)對(duì)話式大型語(yǔ)言模型MOSS已由邱錫鵬教授團(tuán)隊(duì)發(fā)布至公開(kāi)平臺(tái)（https://moss.fastnlp.top/），邀公眾參與內(nèi)測(cè)。

復(fù)旦MOSS公開(kāi)后，引起不少網(wǎng)友關(guān)注，由于瞬時(shí)訪問(wèn)壓力過(guò)大，MOSS服務(wù)器昨晚還被網(wǎng)友擠崩潰了。

從MOSS官網(wǎng)獲悉，官方發(fā)布公告稱(chēng)，團(tuán)隊(duì)最初的想法只是將MOSS進(jìn)行內(nèi)測(cè)，以便進(jìn)一步優(yōu)化，沒(méi)想到會(huì)引起這么大關(guān)注，我們的計(jì)算資源不足以支持如此大的訪問(wèn)量，并且作為學(xué)術(shù)團(tuán)隊(duì)也沒(méi)有相關(guān)工程經(jīng)驗(yàn)，造成不好的體驗(yàn)向大家致歉。

據(jù)了解，在MOSS完成初步驗(yàn)證后，團(tuán)隊(duì)會(huì)將MOSS的經(jīng)驗(yàn)、代碼、模型參數(shù)開(kāi)源供大家參考。

值得一提的是，復(fù)旦團(tuán)隊(duì)開(kāi)發(fā)的這個(gè)對(duì)話式大型語(yǔ)言模型的名字剛好與《流浪地球》系列電影中的人工智能550W量子計(jì)算機(jī)MOSS重名。

官方也對(duì)這一命名作出解釋?zhuān)瓉?lái)是團(tuán)隊(duì)在訓(xùn)練完成第一代模型時(shí)，正好趕上《流浪地球2》的上映，片中MOSS給團(tuán)隊(duì)留下深刻印象，因此便使用了這個(gè)名稱(chēng)來(lái)指代模型，可以說(shuō)也是對(duì)《流浪地球》的致敬。

據(jù)悉，MOSS和ChatGPT一樣，開(kāi)發(fā)過(guò)程也包括自然語(yǔ)言模型的基座訓(xùn)練、理解人類(lèi)意圖的對(duì)話能力訓(xùn)練兩個(gè)階段。

不同的是，復(fù)旦團(tuán)隊(duì)采用不同的技術(shù)路線，通過(guò)讓MOSS和人類(lèi)以及其他對(duì)話模型都進(jìn)行交互，提升學(xué)習(xí)效率和研發(fā)效率，短時(shí)間內(nèi)就高效完成了對(duì)話能力訓(xùn)練。