基于大语言模型的特征自适应的自然语言理解方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于大语言模型的特征自适应的自然语言理解方法
申请号:CN202411016848
申请日期:2024-07-29
公开号:CN118551204B
公开日期:2024-10-15
类型:发明专利
摘要
本发明涉及自然语言理解技术领域,公开了一种基于大语言模型的特征自适应的自然语言理解方法;将特定任务下的测试样本输入到完成训练的自然语言理解模型,输出测试样本的标签;模型的训练过程包括:将任务示例样本通过特定任务的模板组成提示前缀,将每个被模板包装的有标签样本加上相同的提示前缀后输入大语言模型中:对剩余样本集中的每个有标签样本提取通用特征,并与对应的标签进行配对,进而作为监督信号来训练调制器;带有若干任务示例的大语言模型可以充分调用其在预训练过程中学习到的知识得到蕴含丰富语义信息的通用特征,进而通过额外引入的训练好的轻量级调制器完成特定任务上的任务提炼及标签预测。
技术关键词
自然语言理解方法 大语言模型 自然语言理解模型 调制器 通用特征 标签 样本 线性支持向量机 逻辑回归模型 自然语言理解技术 模板 文本 情感类别 多层感知机 训练集 包装 语义 信号 元素 参数