作者:肖桐 (Tong Xiao) 朱靖波 (Jingbo Zhu)

单位:东北大学自然语言处理实验室 (NEUNLPLab) / 小牛翻译 (NiuTrans Research)

顾问:姚天顺 (Tianshun Yao) 王宝库 (Baoku Wang)

网站:https://opensource.niutrans.com/mtbook/index.html

GitHub:https://github.com/NiuTrans/MTBook

这是一个教程,目的是对机器翻译的统计建模和深度学习方法进行较为系统的介绍。其内容被编纂成书,可以供计算机相关专业高年级本科生及研究生学习之用,亦可作为自然语言处理,特别是机器翻译相关研究人员的参考资料。本书用tex编写,所有源代码均已开放。

本书共分为七个章节,章节的顺序参考了机器翻译技术发展的时间脉络,同时兼顾了机器翻译知识体系的内在逻辑。各章节的主要关系如下(如果无法显示图片可以稍后再试):

封面、导读和目录

Part I 机器翻译基础

1. 机器翻译简介

• 1.1 机器翻译的概念
• 1.2 机器翻译简史
• 1.3 机器翻译现状
• 1.4 机器翻译方法
• 1.5 翻译质量评价
• 1.6 机器翻译应用
• 1.7 开源项目与评测
• 1.8 推荐学习资源

2. 词法、语法及统计建模基础

• 2.1 问题概述
• 2.2 概率论基础
• 2.3 中文分词
• 2.4 n-gram 语言模型
• 2.5 句法分析(短语结构分析)
• 2.6 小结及深入阅读

Part II 统计机器翻译

3. 基于词的机器翻译模型

• 3.1 什么是基于词的翻译模型
• 3.2 构建一个简单的机器翻译系统
• 3.3 基于词的翻译建模
• 3.4 IBM 模型 1-2
• 3.5 IBM 模型 3-5 及隐马尔可夫模型
• 3.6 问题分析
• 3.7 小结及深入阅读

4. 基于短语和句法的机器翻译模型

• 4.1 翻译中的结构信息
• 4.2 基于短语的翻译模型
• 4.3 基于层次短语的模型
• 4.4 基于语言学句法的模型
• 4.5 小结及深入阅读

Part III 神经机器翻译

5. 人工神经网络和神经语言建模

• 5.1 深度学习与人工神经网络
• 5.2 神经网络基础
• 5.3 神经网络的张量实现
• 5.4 神经网络的参数训练
• 5.5 神经语言模型
• 5.6 小结及深入阅读

6. 神经机器翻译模型

• 6.1 神经机器翻译的发展简史
• 6.2 编码器-解码器框架
• 6.3 基于循环神经网络的翻译模型及注意力机制
• 6.4 Transformer
• 6.5 序列到序列问题及应用
• 6.6 小结及深入阅读

7. 神经机器翻译实战

• 7.1 神经机器翻译并不简单
• 7.2 数据处理
• 7.3 建模与训练
• 7.4 推断
• 7.5 进阶技术
• 7.6 小结及深入阅读

Part IV 附录

• 附录 A:基准数据集和评价工具
• 附录 B:IBM模型3-5训练方法

参考文献

注:本书的pdf版本可以从GitHub仓库获取https://github.com/NiuTrans/MTBook/blob/master/mt-book.pdf

本书的tex源代码地址为:https://github.com/NiuTrans/MTBook

编译前需要安装MikTeX,并在MikTeX Console中下载并更新编译所需宏包。之后,编译src目录下的mt-book-xelatex.tex即可得到pdf文件,编译指令如下:

xelatex mt-book-xelatex
biber mt-book-xelatex
makeindex mt-book-xelatex
xelatex mt-book-xelatex

在编译中可能会遇到内存不足的问题,可以通过以下方式解决:

1. 运行cmd打开命令行窗口,输入:initexmf --edit-config-file=xelatex

2. 在弹出的文件中输入以下内容:main_memory=5000000 extra_mem_bot=5000000 font_mem_size=5000000 pool_size=5000000 buf_size=5000000

3. 在cmd窗口输入: initexmf --dump=xelatex 更新latex格式文件

1. 打开texmf.cnf文件,更改其内容为:main_memory=5000000 extra_mem_bot=5000000 font_mem_size=5000000 pool_size=5000000 buf_size=5000000

2. 调用texhash更新latex格式文件

注:编译tex文件会依赖一些宏包。如果有任何编译错误,建议将宏包更新至最新版本。

本书的开源内容基于The Creative Commons Attribution-NonCommercial 4.0 Unported License(link)

感谢为本书做出贡献的小牛团队(部分)成员

曹润柘、曾信、孟霞、单韦乔、姜雨帆、王子扬、刘辉、许诺、李北、刘继强、张哲旸、周书含、周涛、张裕浩、李炎洋、林野、陈贺轩、刘晓倩、牛蕊、田丰宁、杜权、李垠桥、许晨、张裕浩、胡驰、冯凯、王泽洋、刘腾博、刘兴宇、徐萍、赵闯、高博、张春良、王会珍、张俐、杨木润、宁义明、李洋、秦浩、胡明涵

有任何问题请联系xiaotong [at] mail.neu.edu.cn (肖桐) 或 854581319 [at] qq.com(曹润柘)