[机器学习与支持向量机]

现代社会我们已经越来越离不开对未知信息的预测。比如天气预报，地震、海啸预警，山体滑坡、泥石流等自然灾害的预报等等，那么我们是依据什么对未知世界进行预测的呢。这就不得不提到人工智能的一个分支――机器学习。

机器学习

机器学习是研究计算机如何模拟或实现人类的学习行为，获取新的知识或技能，并对已有的知识结构进行重新组织使之不断改善自身的一种新技术。机器学习的研究方法是从大量的观测数据寻找规律，利用这些规律对未来数据或无法观测的数据进行预测。迄今为止，关于机器学习还没有一种被共同接受的理论框架，关于其实现方法有以下几种：

第一种是传统统计学理论，亦即经典的统计估计方法。实际上，传统参数估计方法正是基于传统统计学的，在这种方法中，参数的相关形式是已知的，训练样本用来估计参数的值。但这种方法有很大的局限性：首先，它需要已知样本分布形式，这需要花费很大代价；其次，传统统计学研究的都是假设样本数目趋于无穷大时的渐近理论。而实际问题中，样本的数目往往是有限的，因此一些理论上很优秀的学习方法实际中表现却可能不尽人意。

第二种方法是经验非线性方法。经验非线性方法利用已知样本建立非线性模型，克服了传统参数估计方法的困难。但是，这种方法缺乏一种统一的数学理论。以神经网络为例，神经网络是目前运用较多也是最早应用的非线性分类，由于神经网络是基于经验最小化原理，它具有对非线性数据快速建模的能力，通过对训练集的反复学习来调节自身的网络结构和连接权值，并对未知的数据进行分类和预测。但是，神经网络从某种意义上说是一种启发式的学习机，本身有很大经验的成分，它有诸如如何确定网络结构的问题、过学习与欠学习问题、局部极小点问题、训练出来的模型推广能力不强等固有问题得不到很好的解决。