01_SVM代码之线性可分时和Logistic回归比较

L先生AI课堂

博客专家认证

2023-01-13 01:47:20

课时名称	课时知识点
01_SVM代码之线性可分时和Logistic回归比较	讲解代码之线性可分时和Logistic回归比较

...全文

355 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

以通俗简介的方式，从浅入深介绍SVM原理和代码流程让你从此不再惧怕SVM 视频部分： 01_SVM之回顾梯度下降原理02_SVM之回顾有约束的最优化问题03_SVM之回顾有约束的最优化问题-KKT几何解释04_SVM之回顾有约束的最优化问题-KKT数学解释05_SVM之回顾距离公式和感知器模型06_SVM之感知器到SVM的引入07_SVM之线性可分时损失函数的表示08_SVM之线性可分时损失函数的求解-对w,b变量求偏导09_SVM之线性可分时损失函数的求解-对β变量求解.10_SVM之线性可分时算法整体流程11_SVM之线性可分时案例12_SVM之线性不可分时软间隔介绍13_SVM之线性不可分时软间隔优化目标14_SVM之线性不可分时软间隔算法整体流程15_SVM之线性不可分时数据映射高维解决不可分问题16_SVM之线性不可分时核函数引入17_SVM之线性不可分时核函数讲解18_SVM代码之线性可分时和Logistic回归比较19_SVM代码之基于鸢尾花数据多分类参数解释20_SVM代码之基于鸢尾花数据网格搜索选择参数21_SVM代码之不同分类器，核函数，C值的可视化比较2

线性回归的核心思想是通过拟合最佳直线（在高维空间中是超平面），来描述自变量和因变量之间的关系。线性回归模型的性能通常通过计算实际值与预测值之间的差异（如均方误差）来评估。：当有多个自变量时，这种类型的线性回归被称为多元线性回归。：只有一个自变量的线性回归称为一元线性回归。线性回归由于其简单性和解释性，在各个领域都有广泛的应用，包括经济学、社会科学、医学研究以及工程学等。（2）独立性：各个观测值之间相互独立，不受其他观测值的影响。（3）同方差性：对于所有的自变量值，因变量的方差都是相同的。

SVM和Logistic回归之间的区别 SVM试图找到分隔类别的“最佳”边距（线与支撑向量之间的距离），这降低了数据出错的风险，而逻辑回归则没有，相反，它可以具有不同的权重而具有不同的决策边界即使在最佳点附近。 SVM可以很好地处理非结构化和半结构化数据（例如文本和图像），而逻辑回归可以使用已经确定的自变量。 SVM基于数据的几何特性，而逻辑回归基于统计方法。在SVM中，过度拟合的风险较小，而...

通过这两节的学习，我们认识了 SVM 重要组部分间隔最大化和高维映射（将它与核函数看做一体），下面对已经学习的知识做简单总结：SVM 算法是用来解决线性不可分的“非线性”问题，从而突破线性分类的局限性，使得线性分类器依然可以适用于“非线性”问题。在这个过程中起到关键作用的就是“高维映射”。而“间隔最大化”可以看做支持向量机的损失函数，它衡量分类效果是否最佳的“标尺”，让间隔达到最大就是 SVM 追求的至臻境界，要实现这个目标就要不断地训练模型，使模型的泛化能力最佳。

1，回归（Linear Regression）回归其实就是对已知公式的未知参数进行估计。可以简单的理解为：在给定训练样本点和已知的公式后，对于一个或多个未知参数，机器会自动枚举参数的所有可能取值（对于多个参数要枚举它们的不同组合），直到找到那个最符合样本点分布的参数（或参数组合）。当然，实际运算有一些优化算法，肯定不会去枚举的。注意，回归的前提是公式已知，否则回归无法进行。回归中的公式基本都是数...

李虎的课程社区_NO_1

2

社区成员

152

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章