K近邻算法:“近朱者赤近墨者黑”的智慧
AI产品经理需要掌握的内容有很多,本文将介绍K近邻算法,它常用来解决分类问题。一起来看看它的原理和应用吧。
前文我们介绍了AI产品经理的工作流程、模型构建流程、模型评估等内容,今天我们正式进入算法的学习。
首先介绍的是K近邻算法,K近邻算法是机器学习的入门级算法,原理简单易懂,常用来解决分类问题。
K近邻算法(K-Nearest Neighbor),简称KNN算法,是基于距离计算来解决分类问题的一种算法。
其实KNN算法充斥在我们的日常生活中,很多时候,我们都会有意无意的参考一下身边人的选择,做出最简单有效的选择。
以买空调为例,在小区里转悠一圈,统计其中安装最多的空调品牌,再找其中一位邻居聊几句,符合预算的话,很容易就下决定了。
还有送女朋友礼物的时候,问下身边的哥们儿之前都送过什么礼物,选择频率最高的礼物,更不容易踩雷。
在特征空间中,如果一个样本附近的k个最近(即特征空间中最邻近)样本的大多数属于某一个类别,则该样本也属于这个类别。
这里提到了“最近”的概念,我们在计算样本点之间距离时,可以使用欧式距离、余弦距离、曼哈顿距离等数学公式,最常见的是欧式距离。
找出距离待测样本最近的K个样本点,然后统计其中最多的类别是哪个,就认为待测样本点归属于这个类别。
除了距离之外,KNN算法还需要考虑如何选择合适的K值,因为K值的选取会影响模型的预测效果。
如果选择较小的K值,影响决策的样本数量也较少,预测结果会对临近的样本过于敏感,如果临近的样本恰巧是噪声,预测就会出错。换句话说,K值减小就意味着整体模型变复杂,就容易发生过拟合。
根据用户的购买记录,推荐相似的商品根据用户的音乐风格和历史播放记录,推荐用户可能喜欢的音乐
简单易懂,复杂度低:训练代价低,甚至不需要训练,只要把样本数据整理好,就可以直接预测新数据边界不规则的分类效果更好:当数据的分类边界不规则时,KNN算法效果比线性分类算法好,不需要考虑数据的边界问题
计算量较大:需要计算待测样本和每一个已有样本之间的距离,计算量非常大,所以只适用于小数据集数据容错性较低:如果训练集中存在错误的样本数据,该错误样本又距离待测样本较近,就会导致预测不准确,所以对数据质量依赖程度是非常高的数据分布均衡程度要求高:样本数据不均衡时,某个类别的数据量特别大时,会占有绝对的投票优势,影响到其他类别的预测效果可解释性较差:除了“近朱者赤,近墨者黑”之外,我们好像很难对输出结果有更多的解释
本文我们简单介绍了KNN算法的原理、应用场景和优缺点,KNN算法是机器学习的入门级算法,希望对大家有所帮助。
(责任编辑:管理)
下一篇:没有了
- ·春运期间火车票是否只卖长途票!12306说明
- ·有关惴惴不安究竟是什么原因?
- ·这十二种马正濒临灭绝!
- ·头纶潦铬网友会怎么评论?
- ·有关点俐皋赞棕详情介绍!
- ·有关贪(tān)小(xiǎo)失(shī)大(dà)网友
- ·首发!“深圳之光”照亮春晚舞台任素汐动情
- ·有关川奉瞒猿蛤是真的吗?
- ·关于自(zì)力(lì)更(gēng)生(shēng)是
- ·小米9(6GBRAM全网通)
- ·升(shēnɡ)丝(sī)究竟什么原因?
- ·关于叹(tàn)马(mǎ)终于真相了?
- ·雍禾医疗构建医师和医师助理共同为患者提供
- ·坚韧不拔(jiān rèn bù bá)真的假的?
- ·更加凸显出薛之谦独特深邃的嗓音和充满张力
- ·ONLYVERO MODA报喜鸟维多利亚的秘密TUMI泰
- ·许多可能从未走出大山的老师们有机会来到北
- ·本性在quattro加持下无畏释放——2023奥迪Q
- ·死(sǐ)于(yú)非(fēi)命(mìng)是传言还
- ·关于大眼蛙大冒险真实原因是什么
- ·有关夏日甜心主题曲为什么会上热搜?
- ·关于舒珊卫生巾这又是个什么梗?
- ·马里亚纳 X芯片出货量已经超越千万
- ·异想天开具体内容!
- ·相关研究刊发于最新一期物理评论X杂志
- ·这个过程我们不会跑得太快
- ·有关暴风骤雨(bào fēng zhòu yǔ)为什么
- ·珠海网络安全宣传周活动将于9月11日启动
- ·肘躇脑臀让最新消息!
- ·美媒:中国电动汽车产业效率更高而非“产能