823.txt

This complete matlab for neural network

发信人: GzLi (笑梨), 信区: DataMining
标  题: [转载] 西行两月杂记--6
发信站: 南京大学小百合站 (Wed Nov 13 20:49:40 2002), 站内信件

【 以下文字转载自 AI 讨论区 】
【 原文由 ihappy 所发表 】

忽然发现，今天已经是11月12号了，也就是说，明天就是美国来的第四个月了，所以两月
杂记这个标题明天起就不正确了，也许到了说再见的时候了。

前几天听了一个讲座，却一直没有动手写：因为没有听懂，呵呵。做讲座的人是Richard
Sutton,AT&T的研究人员。似乎AT&T为AI界贡献了诸多牛人。

说到机器学习，通常分为supervised learning,reinforcement learning,upsupervised
learning这几种。（daniel现在在做的multi-instance learning似乎还没有受到上面三种
那样广泛的重视。）Sutton就是强化学习(reinforcement learning)的创始人之一。他和
Barto合著的那本Reinforcement Learning:An Introduction是强化学习的the book.（可
以下载的哦，从http://richsutton.com/去找）.

看起来在工业界做事的人和在大学里面做事的人还是有些区别的。感觉上当教授的人更能
清晰的表述他的思想。sutton的ppt写的似乎不是那么明朗，他的讲述也不是那么让人容易
明白。当然，也许只是因为他讲的内容比较的艰深。

牛人，或者说senior scientist，似乎总是在考虑一些根本的问题。sutton认为到目前为
止，人工智能系统都有严重的缺陷，就是他们不能自己验证(verify)自己，需要外界的干
预去保证其正确性。所以他认为需要建立能够自己做verification的人工智能系统。而为
了做到这一点，他认为有些根本的假设需要重新考虑。

首先，什么是知识。他认为knowledge is about experience. 然后是如何表示知识，他
认为既然应当以experience为中心，用predication来表示知识。这样带来的好处是you 
would predict something and then see what actually happened.

hei，偶就听到这么多了（呵呵，是听到，不是听懂）。本来他还有一些例子来解释，可
是偶们这儿的两个教授似乎对他的理论不满意，然后三个人不停交锋，结果就没有时间解
释例子了。

据一个同学说，他这套理论似乎和reinforcement learning有关系，于是后悔当年没有向
gaoy请教一些强化学习的知识和基本思想。其实不管他的理论正确与否，用tech这边同
office的一个phd student的话来说，sutton有勇气站出来说：你们大家从根本上都错了。
这就很了不起了。

更何况，他刚刚从癌症中康复过来，在tech的这个演讲是他病后第一个。如此执着，也是
令人敬佩的。突然想到，AT&T为了应付目前的艰难处境，裁了所有AI研究人员，连机器
学习的大牛Schapire(boosting的创始人之一）都到princeton当教授去了，不知sutton在
AT&T境况如何?

他演讲中的主要思想在上面给的那个主页上都有，如果哪位看明白了的话，愿有以教我。


--
来到gatech读书，说的最多的话就是你是猪啊.
其实是因为觉得，智慧已经弃我而去了
如果难于更改，便要懂的接受这个事实 

※ 来源:．南京大学小百合站 bbs.nju.edu.cn．[FROM: 128.61.49.82]
--
※ 转载:．南京大学小百合站 bbs.nju.edu.cn．[FROM: 211.80.38.17]