请选择 进入手机版 | 继续访问电脑版
爱气象,爱气象家园! 

气象家园

 找回密码
 立即注册

QQ登录

只需一步,快速开始

新浪微博登陆

只需一步, 快速开始

搜索
查看: 252|回复: 5

[经验总结] 机器学习之归纳偏好、奥卡姆剃刀、没有免费的午餐

[复制链接]

新浪微博达人勋

发表于 2022-8-17 14:31:09 | 显示全部楼层 |阅读模式

登录后查看更多精彩内容~

您需要 登录 才可以下载或查看,没有帐号?立即注册 新浪微博登陆

x
【归纳偏好】的指导性原则---【奥卡姆剃刀】


对于相同的【训练数据】,可以得出不同的模型,不同的模型给出的对【测试数据】的预测结果会不同,
我们很难说那种模型才是对的,

不同人有不同的喜好,选择了不同的模型,这就叫【归纳偏好】。


因为符合【训练数据】的模型可能有很多,所以:
任何一个有效的机器学习算法必有其归纳偏好。
不然,如果算法对一个固定的样例,给出的结果每次不一样,那就没意义。


对于有多个模型可选的情况,有一个指导性原则,叫【奥卡姆剃刀】:选那个最简单的!
这个定理有点哲学味道。
按我的理解,越简单就越一般,越复杂就越特殊,简单的通常普适性较好。


但是,什么算“简单”呢?有时2个模型看起来,简单或复杂程度差不多,不好比较。



密码修改失败请联系微信:mofangbao

新浪微博达人勋

 楼主| 发表于 2022-8-17 14:43:45 | 显示全部楼层
本帖最后由 15195775117 于 2022-8-17 14:45 编辑

【没有免费的午餐NFL】定律


这个定理是说,基于相同【训练数据】得出的一些模型,无论这个算法多么“聪明”,那个算法多么“笨拙”,“期望性能”是相同的。

我觉得,这个定律等于废话,因为除了看美丑,你没有硬指标来比较模型的好坏,所以就泛泛而论,说是一样的。

当然,NFL定律的真正含义,是说,模型与具体问题的适配性,即我们的【归纳偏好】有没有“蒙对”,决定了算法好不好。

密码修改失败请联系微信:mofangbao
回复 支持 反对

使用道具 举报

新浪微博达人勋

发表于 2022-8-17 15:58:38 | 显示全部楼层
每天跟着一起学
密码修改失败请联系微信:mofangbao
回复 支持 反对

使用道具 举报

新浪微博达人勋

 楼主| 发表于 2022-8-17 16:23:27 | 显示全部楼层
topmad 发表于 2022-8-17 15:58
每天跟着一起学


{:5_265:}
{:5_265:}
密码修改失败请联系微信:mofangbao
回复 支持 反对

使用道具 举报

新浪微博达人勋

发表于 2022-8-18 08:26:20 | 显示全部楼层
赞一个,继续学习
密码修改失败请联系微信:mofangbao
回复 支持 反对

使用道具 举报

新浪微博达人勋

发表于 2022-8-24 09:25:59 | 显示全部楼层
谢谢分享!!!!!!!!!!!!!!
密码修改失败请联系微信:mofangbao
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册 新浪微博登陆

本版积分规则

Copyright ©2011-2014 bbs.06climate.com All Rights Reserved.  Powered by Discuz! (京ICP-10201084)

本站信息均由会员发表,不代表气象家园立场,禁止在本站发表与国家法律相抵触言论

快速回复 返回顶部 返回列表