25.txt

This complete matlab for neural network

发信人: jeffreywlm (jeffreywlm), 信区: DataMining
标  题: Re: 第三章决策树学习心得
发信站: 南京大学小百合站 (Wed Jan  8 18:53:56 2003)

奥卡姆的剃刀原则看法：
对于同一个问题，如果多种算法或者归纳原则能达到同样的目的，那末最简单的方法也最
有可能是正确的。
所以是由前提条件的，而不是无原则的越简单越好。
【 在 nohau 的大作中提到: 】
: 决策树
: 相信决策树对于大家都是一个很熟悉的概念。所以我读完本章最大的收获是对它的
: 归纳偏置的理解，而不是决策树本身。
: 以下是我的一些心得，希望大家指正：
: 1、限定偏置与优选偏置的区别。优选偏置常常与学习策略，评估函数产生联系，
: 它对于学习的性能有很大的影响。
: 2、为什么短的假设优先。书中引用了著名的奥坎母剃刀来解释这个问题――简单
: 的假设更容易泛化。这个原则给我的启示是：不要把问题想的太复杂，学会用简单
: 的头脑思考问题。
: 3、在决策树学习的时候需要注意的几个问题：避免过度拟合，对不同情况的属性
: 值的处理

--

※ 来源:．南京大学小百合站 http://bbs.nju.edu.cn [FROM: 202.198.26.20]