方法适用问题模型特点模型类型学习策略学习的损失函数学习算法
感知机二分类分离超平面判别模型极小化误分类点到超平面的距离误分点到超平面的距离随机梯度下降k邻近法多分类，回归特征空间，样本点判别模型---朴素贝叶斯多分类特征与类别的联合概率分布，条件独立假设生成模型极大似然估计，最大后验概率估计对数似然损失概率计算公式，EM算法决策树多分类，回归分类树，回归树判别模型正则化的极大似然估计对数似然损失函数特征选择，生成，剪枝逻辑斯谛回归与最大熵多分类特征条件下类别的条件概率分布，对数线形模型判别模型极大似然估计，正则化的极大似然估计逻辑斯谛损失改进的迭代尺度算法，梯度下降，拟牛顿法支持向量机二分类分离超平面，核技巧判别模型极小化正则化合页损失函数，软间隔最大化合叶损失函数序列最小最优化算法SMO提升方法二分类弱分类器的线性组合判别模型极小化加法模型的指数损失指数损失前向分布加法算法EM算法概率模型参数估计含隐变量概率模型-极大似然估计，最大后验概率估计对数似然估计迭代算法隐马尔可夫模型标注观测序列与状态序列的联合概率分布模型生成模型极大似然估计，最大后验概率估计对数似然损失概率计算公式,EM算法条件随机场标注状态序列条件下观测序列的条件概率分别，对数线性模型判别模型极大似然估计，正则化极大似然估计对数似然损失改进的迭代尺度算法，梯度下降，拟牛顿法
