基于Transformer优化的生成式文本摘要方法分析
2025.09.15点击:
摘要:阐述一种基于Transformer优化的文本摘要自动生成模型。该模型采取12层Transformer堆叠而成,利用学习率预热和梯度累积等优化方法加速模型训练,在预测生成时采取Top-k、Top-P、温度采样和重复惩罚等优化方法提升摘要生成的质量。最后在中文文本摘要数据集LCSTS和NLPCC上进行了对比实验分析,在ROUGE值上验证了模型优化方法的可行性。
关键词: Transformer;生成式摘要;文本摘要;动态词向量;优化模型;
基金资助: 江西省教育厅科学技术研究项目(GJJ200879);
专辑: 信息科技
专题: 计算机软件及计算机应用
分类号: TP391.1
- 上一篇:基于虚拟技术的智能制造网络安全靶场设计 2025/9/15
- 下一篇:SQL注入攻击与防御技术的分析 2025/9/14