2024年1月,公司2021级管理科学与工程专业研究生彭云克在校定C级期刊《UPB Scientific Bulletin, Series C: Electrical Engineering and Computer》发表题为“A short text similarity calculation method based on deep learning”的论文。该论文为导师一作,员工二作,指导老师为徐勇。论文针对传统短文本相似度计算方法中存在的一词多义、没有考虑字符顺序和上下文语义等问题,本文提出一种基于深度学习的短文本相似度计算方法。该算法首先采用字嵌入方式将短文本转换成向量;其次,采用多头自注意力机制学习短文本中多个子空间中字与全局文本之间的关系;然后,采用两个方向相反的长短期记忆神经网络学习短文本中字符上下文的双向顺序信息;接着,利用卷积神经网络中的卷积层和池化层提取出短文本中的局部字符特征;最后,计算两个短文本向量的差值,将其结果输入全连接层和Sigmoid函数得到两个短文本之间的相似度。在实验中选用微众银行智能客服问句匹配大赛数据集,本文提出的算法在该数据集上的准确率和F1分数均达到93%,该算法在准确率和F1分数上优于传统的短文本相似度计算方法和其他几种基于深度学习的短文本相似度计算方法。实验结果表明,本文提出的算法利用短文本中多种深层次语义信息,有效地提升了短文本相似度计算的性能。
彭云克同学入校以来学习刻苦,积极参加各类学术会议和学术研讨,注重培养自己的创新能力。希望广大研究生以该生为榜样,潜心研究,不断创新,多出成果。(撰稿:彭云克;一审:艾科妮;二审:郑兵云;三审:戴道明)
