文本翻译方法、装置及存储介质与流程

本申请涉及机器翻译，尤其涉及文本翻译方法、装置及存储介质。

背景技术：

1、机器翻译是人工智能领域的重要研究方向之一，在经历了传统的基于规则的机器翻译(rule-based machine translation，rbmt)和统计机器翻译(statistical machinetranslation，smt)的发展时期之后，目前迎来了以神经机器翻译(neural machinetranslation，nmt)为主流的新翻译模型热潮。神经机器翻译直接采用神经网络以端到端(end-to-end)方式进行翻译建模，使用神经网络学习翻译特征后将源语言直接映射成目标语言文本。

2、传统的神经机器翻译模型利用平行的双语数据训练，能够完成该训练语言对的翻译任务，而多语言神经翻译模型是指能够处理多个语言对之间翻译任务的系统。在多语言神经翻译模型中，低资源语言可以利用跨语言知识迁移从高资源语言上学习到额外知识，显著提高翻译效果和泛化能力。除此之外，多语言神经翻译模型利用一个统一的模型来翻译多种语言，实际部署更加高效，与双语翻译模型相比更具优势。

3、多语言神经翻译模型在使用过程中，相关技术人员利用不同语言之间具有相同语义的序列表示在语义空间中更为靠近的思想，对输入序列中词元(token)或短语进行同义替换，以数据增强的方式训练模型，使之具有更强的跨语言知识迁移能力，可以有效地提高模型的翻译效果，但是，上述方案中的同义替换方法大多依赖预训练微调架构，首先利用同义词典替换生成混合编码的序列，接着进行混合编码文本的预训练任务，最后在下游的多个翻译方向上微调模型，虽然该类方法能够保证翻译质量的提升，但会严重削弱多语言模型高效、易部署的特性。此外，替换生成的混合编码序列在表示层面上与原始序列存在差距，会引入额外噪声干扰模型训练，降低了模型训练的准确性。

技术实现思路

1、本申请提供文本翻译方法、装置及存储介质，可以缓解噪声对模型的影响，提升模型的性能和鲁棒性，高效易部署。

2、第一方面，本申请提供一种文本翻译方法，所述方法包括：获取第一翻译指令，所述第一翻译指令包括待翻译文本；将所述待翻译文本输入预设多语言翻译模型中，得到译文文本；其中，所述预设多语言翻译模型是基于至少一个训练数据利用掩码处理对初始翻译模型进行训练得到的。

3、在本申请实施例中，使用的是基于至少一个训练数据利用掩码处理对初始翻译模型进行训练得到的预设多语言翻译模型进行翻译的，掩码处理可以缓解噪声对模型的影响，增强模型的通用语言表示能力，进而提升模型的性能和鲁棒性，高效易部署。

4、第二方面，本申请提供一种文本翻译装置，所述装置包括：获取模块，用于获取第一翻译指令，所述第一翻译指令包括待翻译文本；处理模块，用于将所述待翻译文本输入预设多语言翻译模型中，得到译文文本；其中，所述预设多语言翻译模型是基于至少一个训练数据利用掩码处理对初始翻译模型进行训练得到的。

5、第三方面，本申请提供一种电子设备，包括处理器和存储器，所述存储器用于存储代码指令；所述处理器用于运行所述代码指令，以实现上述第一方面中的方法。

6、可选地，处理器为一个或多个，存储器为一个或多个。

7、可选地，存储器可以与处理器集成在一起，或者存储器与处理器分离设置。

8、在具体实现过程中，存储器可以为非瞬时性(non-transitory)存储器，例如只读存储器(read only memory，rom)，其可以与处理器集成在同一块芯片上，也可以分别设置在不同的芯片上，本申请实施例对存储器的类型以及存储器与处理器的设置方式不做限定。

9、第四方面，本申请提供一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序(也可以称为代码，或指令)当其在计算机上运行时，使得计算机执行上述第一方面中的方法。

10、第五方面，本申请提供一种计算机程序产品，所述计算机程序产品包括：计算机程序(也可以称为代码，或指令)，当计算机程序被运行时，使得计算机执行上述第一方面中的方法。

技术特征：

1.一种文本翻译方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，在所述将所述待翻译文本输入预设多语言翻译模型中，得到译文文本之前，所述方法还包括：

3.根据权利要求2所述的方法，其特征在于，所述获取所述至少一个训练数据，包括：

4.根据权利要求3所述的方法，其特征在于，所述基于所述至少一个训练数据训练所述初始翻译模型，得到所述预设多语言翻译模型，包括：

5.根据权利要求4所述的方法，其特征在于，所述初始翻译模型包括编码器，所述基于所述预处理后的至少一个训练数据，训练所述初始翻译模型执行掩码处理任务，包括：

6.根据权利要求5所述的方法，其特征在于，所述基于所述预处理后的至少一个训练数据，训练所述初始翻译模型执行翻译任务，包括：

7.根据权利要求6所述的方法，其特征在于，所述第一执行结果用于指示基于所述至少一个训练数据训练所述初始翻译模型执行掩码处理任务后输出的目标序列与真值序列之间的损失，所述第二执行结果用于指示基于所述至少一个训练数据训练所述初始翻译模型执行翻译处理任务后输出的目标译文与真值译文之间的损失。

8.根据权利要求7所述的方法，其特征在于，所述初始翻译模型还包括译码器，所述根据所述掩码处理任务的第一执行结果和所述翻译任务的第二执行结果，对所述初始翻译模型进行调整，得到所述预设多语言翻译模型，包括：

9.根据权利要求1所述的方法，其特征在于，所述第一翻译指令还包括目标语言类型标记，所述目标语言类型标记用于指示所述预设多语言翻译模型将文本翻译成与所述目标语言类型标记对应的译文。

10.一种文本翻译装置，其特征在于，所述装置包括：

11.一种电子设备，其特征在于，包括处理器和存储器，所述存储器用于存储代码指令；所述处理器用于运行所述代码指令，以执行如权利要求1至9中任一项所述的方法。

12.一种计算机可读存储介质，其特征在于，用于存储计算机程序，所述计算机程序包括用于实现如权利要求1至9中任一项所述的方法的指令。

13.一种计算机程序产品，所述计算机程序产品中包括计算机程序指令，其特征在于，当所述计算机程序指令在计算机上运行时，使得所述计算机实现如权利要求1至9中任一项所述的方法。

技术总结
本申请提供文本翻译方法、装置及存储介质。本申请的技术方案中，电子设备首先获取第一翻译指令，该第一翻译指令包括待翻译文本，然后将待翻译文本输入预设多语言翻译模型中，得到译文文本，其中，预设多语言翻译模型是基于至少一个训练数据利用掩码处理对初始翻译模型进行训练得到的。本申请的文本翻译方法中，使用的是基于至少一个训练数据利用掩码处理对初始翻译模型进行训练得到的预设多语言翻译模型进行翻译的，掩码处理可以缓解噪声对模型的影响，增强模型的通用语言表示能力，进而提升模型的性能和鲁棒性，高效易部署。

技术研发人员：汪浩,史庭训,薛征山
受保护的技术使用者：OPPO广东移动通信有限公司
技术研发日：
技术公布日：2024/1/13