11 月 3 日消息，中國電信人工智能研究院（TeleAI）在今年 5 月發(fā)布業(yè)內(nèi)首個支持 30 種方言自由混說的語音識別大模型 —— 星辰超多方言語音識別大模型。

時隔不到半年，TeleAI 星辰語音大模型的多方言能力再次升級，攻克了湛江話、宜賓話、洛陽話、煙臺話等方言，將方言種類從 30 種提升至 40 種，并引入對英文的識別。

與傳統(tǒng)的有標(biāo)注訓(xùn)練方法相比，TeleAI 通過預(yù)訓(xùn)練語音識別模型，利用海量無標(biāo)注數(shù)據(jù)進行預(yù)訓(xùn)練，再通過少量有標(biāo)注數(shù)據(jù)進行微調(diào)。

由于方言語音數(shù)據(jù)普遍存在無標(biāo)注數(shù)據(jù)多而有標(biāo)注數(shù)據(jù)少的特點，這種“預(yù)訓(xùn)練 + 微調(diào)”的模型方案與方言場景的需求能夠高度契合。

TeleAI 還在模型結(jié)構(gòu)和成本優(yōu)化上進行了創(chuàng)新，實現(xiàn)對人工標(biāo)注數(shù)據(jù)的需求量大幅降低約 50 倍，且保障模型效果與有監(jiān)督訓(xùn)練的方言模型水平相當(dāng)。