王昀, 胡珉, 塔娜, 孙海涛, 郭毅峰, 周武爱, 郭昱, 张皖哲, 冯建华
大语言模型是自然语言处理的核心研究内容之一, 已广泛应用于包括政务在内的诸多领域。 首先, 介绍了统计语言模型、 神经网络语言模型等早期语言模型的研究进展; 其次, 重点综述了大语言模型研究进展; 最后, 介绍了大语言模型在政务领域的应用情况, 包括政务文本分类、 政务问答、政务命名实体识别、 舆情风险识别和政务关系抽取, 并提出政务大语言模型研究需要解决的问题, 即数据多模态化、 正确面对 “模型即服务” 趋势、 注重数据高安全性、 明确责任边界。 此外, 还提出了政务大语言模型研究的技术路径。 大语言模型正处于蓬勃发展的阶段, 随着中国推动人工智能技术研究及其在政务领域的应用, 大语言模型将在政务领域发挥更大作用。