18.txt

This complete matlab for neural network

发信人: GzLi (笑梨), 信区: DataMining
标  题: [合集]第二节的几个问题
发信站: 南京大学小百合站 (Tue Jan  7 10:44:40 2003)

zxdxbh (没用) 于Fri Dec 27 15:00:33 2002)
提到：

(1)是不是所有两个类的分类问题都可以叫概念学习?
(2)概念学习可否看成一个单层决策树或单层Decision List
(3)概念学习解决的问题是否都是线性可分的？
(4)概念学习方法（list_then_eliminate）的缺点是什么？


nohau (nohau) 于Fri Dec 27 15:44:19 2002)
提到：

就我的理解提出一些看法请大家指正:
(1)
概念学习是指从有关某个布尔函数的输出输入训练样例中推断出该布而函数.
因此概念学习可以看作是两个类的分类问题.
(2)
概念学习与决策树不是同一个层次的概念.决策树给出了一个很好的进行概念学习的方法,

而不能将概念学习看作决策树.
(3)
概念学习就是一个推断布尔函数的问题,相信对于线性不可分的样例也有相应的算法.
(4)
list_then_eliminate算法首先把Version space 初始化为包含中所有假设的列表,
这可以保证能得到所有与训练数据一致的假设,但是它致命的缺陷是要列出H中所有的假设
,
这对大多数实际情况都是不现实的.

【 在 zxdxbh 的大作中提到: 】
: 
: (1)是不是所有两个类的分类问题都可以叫概念学习?
: (2)概念学习可否看成一个单层决策树或单层Decision List
: (3)概念学习解决的问题是否都是线性可分的？
: (4)概念学习方法（list_then_eliminate）的缺点是什么？


zxdxbh (没用) 于Fri Dec 27 16:27:41 2002)
提到：

谢谢nohao的回答，但1）2）问好像你没有看清题目
4）我觉得是噪声问题，或训练数据不一致，因此要引入概率，
不知道这样理解对否

【 在 zxdxbh 的大作中提到: 】
: 
: (1)是不是所有两个类的分类问题都可以叫概念学习?
: (2)概念学习可否看成一个单层决策树或单层Decision List
: (3)概念学习解决的问题是否都是线性可分的？
: (4)概念学习方法（list_then_eliminate）的缺点是什么？


GzLi (笑梨) 于Fri Dec 27 21:21:09 2002)
提到：

我的理解：

【 在 zxdxbh (没用) 的大作中提到: 】
: 
: (1)是不是所有两个类的分类问题都可以叫概念学习?
概念学习的定义是从有关某个布尔函数的输入输出训练样例中推断出该布尔函数。
你的问题关键在两类问题的分类函数能否都称作布尔函数？
布尔函数的定义见http://mathworld.wolfram.com/BooleanFunction.html
它是数集的子集的交并补，所以上面问题的答案是否定的。

: (2)概念学习可否看成一个单层决策树或单层Decision List
最终结果可以表示为相似的形式，但是过程和结果都不一样。
（我没有研究过决策树，上面想法仅供参考）

: (3)概念学习解决的问题是否都是线性可分的？
不是，这里的方法不考虑是否线性可分。不可分的问题一样可以解决。

: (4)概念学习方法（list_then_eliminate）的缺点是什么？
1.单单列表消除算法  如果归纳偏置过强，那么要求烦琐的列出所有假设空间，
  有时不现实 此弱点是相对候选消除算法而言吧。
  而且噪声影响很大，
2.概念学习算法的描述可以参考2.8最后一段。