基于動(dòng)態(tài)圖注意力聚合多跳鄰域的實(shí)體對(duì)齊[其他][其他]

實(shí)體對(duì)齊是實(shí)現(xiàn)對(duì)不同來源知識(shí)庫進(jìn)行融合的重要技術(shù)方法,在知識(shí)圖譜、知識(shí)補(bǔ)全領(lǐng)域具有廣泛應(yīng)用。現(xiàn)有基于圖注意力的實(shí)體對(duì)齊模型多使用靜態(tài)圖注意力網(wǎng)絡(luò)且忽略了實(shí)體屬性中的語義信息,導(dǎo)致模型存在有限注意、難以擬合、表達(dá)能力不足等問題。針對(duì)這些問題,開展基于動(dòng)態(tài)圖注意力結(jié)構(gòu)建模實(shí)體對(duì)齊方法研究,首先使用圖卷積層建模目標(biāo)實(shí)體的單跳節(jié)點(diǎn)表示,其次應(yīng)用動(dòng)態(tài)圖注意力網(wǎng)絡(luò)獲得多跳節(jié)點(diǎn)注意力系數(shù)并建模,再次利用逐層門控網(wǎng)絡(luò)聚合圖卷積層與動(dòng)態(tài)圖注意力層輸出的單跳、多跳節(jié)點(diǎn)信息,最后拼接通過外部知識(shí)預(yù)訓(xùn)練自然語言模型提取的實(shí)體名稱屬性嵌入并進(jìn)行相似度計(jì)算。該方法在DBP15K的三類跨語言數(shù)據(jù)集中都獲得了一定的提高,證明了應(yīng)用動(dòng)態(tài)圖注意力網(wǎng)絡(luò)與融入實(shí)體屬性語義在提高實(shí)體表示能力上的有效性。

發(fā)表于:11/9/2022 1:55:00 PM

基于DBN-BP深度算法的熱軋板帶橫斷面預(yù)測[其他][其他]

隨著各工業(yè)領(lǐng)域的快速發(fā)展,市場對(duì)薄規(guī)格、高強(qiáng)度板帶產(chǎn)品的需求快速增加。而熱軋板帶橫斷面形狀是熱軋板帶產(chǎn)品質(zhì)量的主要評(píng)價(jià)指標(biāo)。基于數(shù)據(jù)挖掘技術(shù),對(duì)軋機(jī)數(shù)據(jù)庫中的數(shù)據(jù)進(jìn)行分析與處理,其中數(shù)據(jù)挖掘技術(shù)采用深度置信網(wǎng)絡(luò)(Deep Belief Neural,DBN)和BP(Back Propagation)算法相結(jié)合,構(gòu)建板帶橫向厚度分布的預(yù)測模型。DBN-BP算法由多個(gè)限制玻爾茲曼網(wǎng)絡(luò)(Restricted Botlzmann Machine,RBM)逐層堆疊而成,并使用無監(jiān)督的逐層訓(xùn)練的方式得到網(wǎng)絡(luò)的權(quán)值矩陣和偏置供BP算法使用,而BP算法通過誤差反向傳播的方式對(duì)整個(gè)網(wǎng)絡(luò)進(jìn)行微調(diào)。該方法克服了BP算法因隨機(jī)初始化權(quán)值參數(shù)而陷入局部最優(yōu)和訓(xùn)練時(shí)間長的缺點(diǎn)。通過與BP算法相比較可知,采用DBN-BP方法預(yù)測終軋道次穩(wěn)定軋制時(shí)板帶中點(diǎn)厚度誤差在±5.6 μm范圍內(nèi)的概率可達(dá)95%;而BP算法的預(yù)測誤差范圍為±11 μm。并且通過對(duì)板帶橫斷面形狀的預(yù)測結(jié)果分析可知,相比于BP算法,DBN-BP深度學(xué)習(xí)方法對(duì)于板帶邊部厚度的預(yù)測更具有優(yōu)勢。

發(fā)表于:11/9/2022 1:39:00 PM

智能計(jì)算芯片技術(shù)及產(chǎn)業(yè)趨勢和對(duì)北京的建議[其他][其他]

智能計(jì)算芯片是處理海量數(shù)據(jù),體現(xiàn)計(jì)算能力的硬件載體,是承載數(shù)字經(jīng)濟(jì)時(shí)代生產(chǎn)力的重要支撐。隨著人工智能、5G、大數(shù)據(jù)、區(qū)塊鏈等新一代信息技術(shù)的規(guī)?;瘧?yīng)用,行業(yè)數(shù)字化轉(zhuǎn)型和產(chǎn)業(yè)智能化升級(jí)對(duì)計(jì)算資源的需求呈現(xiàn)指數(shù)級(jí)增長。加上集成電路的發(fā)展進(jìn)入后摩爾時(shí)代,現(xiàn)行計(jì)算架構(gòu)(馮·諾依曼架構(gòu))缺陷所導(dǎo)致的瓶頸愈加凸顯,發(fā)展受到嚴(yán)重挑戰(zhàn)。而滿足多樣化計(jì)算需求的新型計(jì)算架構(gòu)和計(jì)算范式、滿足智能計(jì)算需求的先進(jìn)封裝技術(shù)、基于新材料新工藝的新型計(jì)算器件也進(jìn)入到創(chuàng)新活躍的階段,智能計(jì)算芯片迎來了快速發(fā)展的黃金時(shí)代。綜合分析了數(shù)字經(jīng)濟(jì)時(shí)代智能計(jì)算芯片的戰(zhàn)略重要性,梳理了國內(nèi)外智能計(jì)算主要產(chǎn)業(yè)格局、新興關(guān)鍵技術(shù)以及發(fā)展機(jī)遇,并對(duì)北京發(fā)展智能計(jì)算芯片的機(jī)遇與路徑提出相關(guān)建議。

發(fā)表于:11/9/2022 1:30:00 PM

針對(duì)遙感影像的MSA-YOLO儲(chǔ)油罐目標(biāo)檢測[其他][其他]

原油作為一種重要的戰(zhàn)略物資,在我國經(jīng)濟(jì)和軍事等多個(gè)領(lǐng)域均起到重要作用。提出一種算法MSA-YOLO(MultiScale Adaptive YOLO),該算法在YOLOv4算法的基礎(chǔ)上進(jìn)行優(yōu)化,并基于以吉林一號(hào)光學(xué)遙感衛(wèi)星影像為主的遙感圖像數(shù)據(jù)集進(jìn)行實(shí)驗(yàn),對(duì)特定監(jiān)控區(qū)域內(nèi)的儲(chǔ)油罐進(jìn)行識(shí)別與分類。算法優(yōu)化內(nèi)容包括:為簡化儲(chǔ)油罐監(jiān)測模型同時(shí)保證模型的效率,對(duì)YOLOv4的網(wǎng)絡(luò)結(jié)構(gòu)中的多尺度識(shí)別模塊進(jìn)行修剪;使用k-means++聚類算法進(jìn)行初始錨框的選取,使模型加速收斂;使用基于CIoU-NMS的優(yōu)化,進(jìn)一步提升推理速度和準(zhǔn)確度。實(shí)驗(yàn)結(jié)果表明,與YOLOv4相比,MSA-YOLO模型參數(shù)數(shù)量減少25.84%;模型尺寸減少62.13%;在Tesla V100的GPU環(huán)境下,模型的訓(xùn)練速度提升6 s/epoch,推理速度提升15.76 F/s;平均精度為95.65%。與此同時(shí),MSA-YOLO算法在多種通用目標(biāo)識(shí)別算法進(jìn)行的對(duì)比實(shí)驗(yàn)中均體現(xiàn)出了更高效的特點(diǎn)。MSA-YOLO算法對(duì)儲(chǔ)油罐進(jìn)行準(zhǔn)確且實(shí)時(shí)的識(shí)別具有通用可行性,可為遙感數(shù)據(jù)在能源期貨領(lǐng)域提供技術(shù)參考。

發(fā)表于:11/9/2022 1:26:00 PM