基于Transformer优化的生成式文本摘要方法分析

2025.09.15点击:

摘要:阐述一种基于Transformer优化的文本摘要自动生成模型。该模型采取12层Transformer堆叠而成,利用学习率预热和梯度累积等优化方法加速模型训练,在预测生成时采取Top-k、Top-P、温度采样和重复惩罚等优化方法提升摘要生成的质量。最后在中文文本摘要数据集LCSTS和NLPCC上进行了对比实验分析,在ROUGE值上验证了模型优化方法的可行性。

关键词: Transformer;生成式摘要;文本摘要;动态词向量;优化模型;

基金资助: 江西省教育厅科学技术研究项目(GJJ200879);

专辑: 信息科技

专题: 计算机软件及计算机应用

分类号: TP391.1