金融界2024年2月21日消息,据国家知识产权局公告,清华大学申请一项名为“正交化低秩适应矩阵的语音检测模型的训练方法及装置“,公开号CN117577117A,申请日期为2024年1月。
专利摘要显示,本发明提供了一种正交化低秩适应矩阵的语音检测模型的训练方法及装置,具体涉及语音识别技术领域,通过获取新训练数据集;加载预训练语音大模型并冻结其参数,引入第一低秩适应矩阵和第二低秩适应矩阵,得到待训练语音检测模型;将新训练数据集输入至待训练语音检测模型中,通过正交优化第一低秩适应矩阵和第二低秩适应矩阵的参数,结束训练,得到语音检测模型。针对实际获取的新数据集,使用上述训练方法对语音检测模型进行训练,引入低秩适应矩阵,对模型进行微调,不仅可以显著降低训练成本,还可以极大的提高模型对新数据集下生成音频的检测能力,同时几乎不影响模型对先前已学习的语音算法的检测能力。