| 基于生成式摘要模型和知识蒸馏算法的铁路调度命令解析算法研究 |
| |
| 引用本文： | 袁枫, 戴琳琳, 景辉, 尚念慈. 基于生成式摘要模型和知识蒸馏算法的铁路调度命令解析算法研究[J]. 铁路计算机应用, 2023, 32(3): 11-16. DOI: 10.3969/j.issn.1005-8451.2023.03.03 |
| |
| 作者姓名： | 袁枫 戴琳琳 景辉 尚念慈 |
| |
| 作者单位： | 1.铁旅科技有限公司,北京 100081;2.中国铁道科学研究院集团有限公司 电子计算技术研究所,北京 100081;3.北京勤实信息技术有限公司,北京 100081 |
| |
| 基金项目： | 中国国家铁路集团有限公司科技研究开发计划（P2020X001） |
| |
| 摘 要： | 
随着铁路信息化的发展,利用算法自动解析大量铁路调度命令（简称：调令）的重要性日益凸显。文章提出了一种基于生成式摘要模型和知识蒸馏算法的铁路调令解析算法,该算法利用生成式摘要模型端到端解析铁路调令,拥有较高的精度和较强的鲁棒性,适应写法多样的调令。采用知识蒸馏算法等多种轻量化策略,设计了新的损失函数和多种模型初始化策略,精简模型尺寸,提升算法速度。该算法在铁路调令数据集上取得了21.6342的Rouge-2分数,推理时间达103 ms,为铁路调令解析技术在铁路场景中的部署提供了参考。
|
| 关 键 词： | 调度命令解析 知识蒸馏算法 生成式摘要模型 文本生成算法 自然语言理解 |
| 收稿时间： | 2022-09-09 |
|
| 点击此处可从《铁路计算机应用》浏览原始摘要信息 |
|
点击此处可从《铁路计算机应用》下载全文 |
|
