Spring简介 Spring是一个开源的免费的框架（容器）！ Spring是一个轻量级的、非入侵式的框架！ 控制反转（IOC）、面向切面编程（AOP）！ 支持事务的处理，对框架整合的支持！ 总结一句话：Spring就是一个轻量级的控制反转（IOC）和面向切面编程的框架！ 导入Spring ...

预备知识动态语言和静态语言 动态语言 是一种可以在运行时改变其结构的语言，例如新的函数、对象、甚至代码可以在运行时被引进，已有的函数可以被删除或是 其他结构上的变化。通俗的讲就是在运行时代码可以根据某些条件改变自身结构 举例：Object-C、C#、JavaScript、PHP、Python 静 ...

Annotation是从JDK5.0开始引入的新技术，不是程序本身，可以对程序作出解释。 三个内置注解：@Override （重写）：代表一个重新的方法 @Deprecated （过时的）：代表一个程序元素是不被推荐使用的，但是可以使用，在最新版本中已经被淘汰 @SuppressWarnings( ...

名词解释 CR：Carriage Return，对应ASCII中转义字符\r，表示回车 LF：Linefeed，对应ASCII中转义字符\n，表示换行 CRLF：Carriage Return & Linefeed，\r\n，表示回车并换行 众所周知，Windows操作系统采用两个字符来进行换行， ...

feature-based:又称feature-extraction 特征提取。就是用预训练好的网络在新样本上提取出相关的特征，然后将这些特征输入一个新的分类器，从头开始训练的过程。也就是说在训练的过程中，网络的特征提取层是被冻结的，只有后面的密集链接分类器部分是可以参与训练的。 fine-tuni ...

自回归介绍根据上文内容预测下一个可能跟随的单词，就是常说的自左向右的语言模型任务，或者反过来也行，就是根据下文预测前面的单词，这种类型的LM被称为自回归语言模型。（GPT,ELMO）GPT 就是典型的自回归语言模型。ELMO尽管看上去利用了上文，也利用了下文，但是本质上仍然是自回归LM，这个跟模型 ...

早期词嵌入模型CBOW和Skip-gram CBOW在训练过程中把每个词都预测一遍。 BERT在训练过程中作者随机mask 15%的token。 BERT模型BERT的全称是Bidirectional Encoder Representation from Transformers，即双向Tran ...

牛顿法计算过程五次及以上多项式方程没有根式解。但是没有根式解不意味着方程解不出来。 可以用牛顿法来解。图示就是牛顿法的过程。 给定函数f 首先，我们随机选一个点A，求A点的切线。 再求的A点的切线的解，带入f求得点B。 再求点B的切线。 再求的B点的切线的解，带入f求得点C。 再求点C的切线 …… ...

Wiki解释Beam Search（集束搜索）是一种启发式图搜索算法，通常用在图的解空间比较大的情况下，为了减少搜索所占用的空间和时间，在每一步深度扩展的时候，剪掉一些质量比较差的结点，保留下一些质量较高的结点。这样减少了空间消耗，并提高了时间效率。 NLP中的应用本人发现这个算法是在读NLP的相关 ...

重要性维特比算法是针对篱笆网络的有向图（Lattice）的最短路径而提出的，凡是使用隐马尔可夫模型描述的问题都可以用它来解码。包括数字通信、语音识别、机器翻译、拼音转汉字、分词等。 我的理解维特比算法说白了就是用动态规划方法去求解篱笆网络的最短路径。过程非常简单。每当我们走过一个新列时，就需要计算出 ...