?學(xué)院碩士研究生榮獲《工程科學(xué)學(xué)報》2022年優(yōu)秀論文
近日，學(xué)院控制科學(xué)與工程專業(yè)2018級碩士研究生劉俊文在國內(nèi)學(xué)術(shù)期刊《工程科學(xué)學(xué)報》上發(fā)表題為《深度學(xué)習(xí)注意力機制研究進展》的學(xué)術(shù)論文，被評為《工程科學(xué)學(xué)報》2022年度優(yōu)秀論文(2021年發(fā)表)，指導(dǎo)教師為自動化系劉建偉副教授和羅雄麟教授。
注意力機制模擬人類視覺選擇性的機制，隨著深度學(xué)習(xí)領(lǐng)域的發(fā)展，注意力機制近幾年被廣泛應(yīng)用在深度學(xué)習(xí)的研究里，在自然語言處理，語音識別，計算機視覺等各個領(lǐng)域都發(fā)揮著舉足輕重的作用。
《深度學(xué)習(xí)注意力機制研究進展》介紹了注意力機制的認知心理學(xué)起源與技術(shù)動機，并對注意力機制進行了數(shù)學(xué)表述。著重對注意力機制的分類進行濃墨重彩的描述和提綱挈領(lǐng)式的總結(jié)歸納，并對軟注意力機制和硬注意力機制，全局注意力機制和局部注意力機制，層次注意力機制以及多種自注意力機制等典型注意力機制進行了詳細的分析，并給出了注意力機制的不同層面闡述和洞見。最后對注意力機制在計算機視覺、神經(jīng)機器翻譯以及語音識別，這三個典型應(yīng)用場景下的應(yīng)用進行了總結(jié)。
《工程科學(xué)學(xué)報》(Chinese Journal of Engineering)，曾用名《北京科技大學(xué)學(xué)報》，為中文核心期刊（綜合性理工農(nóng)醫(yī)類）、中國科技論文統(tǒng)計源期刊和中國科學(xué)引文數(shù)據(jù)庫來源期刊（CSCD），是由教育部主管、北京科技大學(xué)主辦的學(xué)術(shù)類科技期刊，主要刊載礦物、冶金、材料、環(huán)境、自動化、計算機等工學(xué)領(lǐng)域具有創(chuàng)新意義或有較大應(yīng)用價值的高水平研究論文，在行業(yè)中有較高的學(xué)術(shù)影響力。
