集智AI小组第十二次活动纪要

时间1025(周日)上午9点半

地点:三号会所

费用:参加活动每人15(含一份饮料) [注:这是三号会所收取的场地费,我们的活动是免费的]

主题

101-_-19主持讨论《The Cambridge Handbook of Computational Psychology》的第二章,即Ch.2 Connectionist models of cognition (Michael Thomas and James McClelland) ;

为了使讨论更有成效,请诸位参加者事先阅读这一章,至少要浏览一遍吧。电子版可从Google group的页面(http://groups.google.com/group/swarmagents_ai/files)下载;

2)关于project proposal的想法,可继续讨论~~

 后面几次的安排:

读书会2-311.8?) 何永振主持讨论

Ch.5 Declarative/ logic-based computational cognitive modeling (Selmer Bringsjord);

读书会2-411.22?) jake主持讨论

Ch.3 Bayesian models of cognition (Thomas Griffiths, Charles Kemp, and Joshua Tenenbaum);

读书会2-512.6?) ??主持讨论

Ch.4 Dynamical systems approaches to cognition (Gregor Schoener);

读书会2-612.22?) ??主持讨论

Ch.6 Constraints in cognitive architectures (Niels Taatgen and John Anderson);

==========================

2-52-6还没人认领,pem 你能主持2-5吗?我觉得这章由学物理的主持比较好~~

另外,作为背景材料,大家有空的话可以读本认知心理学,毕竟,认知心理学是AI的理论基础之一,虽然很多计算机系的AI不开这门课~~国内用的最普遍的教材应该是王甦先生的《认知心理学》(http://www.douban.com/subject/1122236/),但这本书是1992年出的,无法反映近十多年的研究进展,所以建议找本新的来读,比如这本 http://www.douban.com/subject/3854718/

 活动总结 

Liu Qingqing总结

      PPT

第一部分:关于Blue Brain

观看了miner带来的视频,是Henry Markram在今年TED会议上的演讲,题目叫Builds a Brain in a Supercomputer. 研究者们用电生理等技术探索生物神经网络的结构,用一个CPU来模拟一个神经元。预计在10年之内就可实现人脑模拟。演讲梗概 http://www.douban.com/group/topic/7445437/ 视频

http://www.ted.com/talks/henry_markram_supercomputing_the_brain_s_secrets.html

第二部分:介绍/讨论Computational Psychology的第二章Connectionist Models of Cognitionppt见上次的附件,增加了一些讨论到的内容。

第三部分:郑法伟向大家介绍他对连接主义模型的一些思考,详见他的ppt和程序。

其他:一些讨论(欢迎补充)

1 Miner:贝叶斯模型很强大。贝叶斯模型很适合解释归纳学习:当我们面对一个新事物的时候,会根据已有的经验来猜测它可能具有什么样的性质,这就是我们认为它具有某种性质的先验概率,然后在和它打交道的过程中不断修正这个先验概率,最终能够比较准确地了解这个事物。但目前不是所有的学习都可用贝叶斯模型解释。

2 世界是概率的还是规律的?世界之所以是这样,是因为它以这种面目出现的概率最大。所谓规律并不意味着绝对会这样,而只能说这样的概率太大了,以至于出现其他情况的概率通常被人们忽略。如果世界是概率的,那么概率是什么?Zheng Fawei:如果人脑的运算能力足够强,那么应该能够发现概率背后的规律,也就能够预测一切、解释一切。(大刘写过一篇科幻讲的就是这个,叫《镜子》可以到这里看全文:http://club.book.sohu.com/read_art_sub.new.php?b=science&a=22209&sr=2&allchildnum=50 pem:我是反對存在終極理論的。我只是覺得在各個層次上,都能找得到好用的規律,都用概率包打是不好的~

3 老何提出的一些关于认知心理学、发展心理学以及大脑结构功能的问题(太多,所以我记不清具体是那些问题了,下面根据印象总结一下,欢迎补充)。可以分层次来研究认知科学。底层:包括神经网络的拓扑结构、神经元的激活模式、信息在突触间的传递模式等(当然还可以进一步向下深入,研究神经元内的生化分子过程,不过这就是生物学的任务了)。高层:观察现象,总结规律。不需要知道背后的神经机制。即使知道了最底层的神经机制,也不一定能与高层的认知现象对应起来。(miner举的例子:你面前这台电脑,你可以拆开机箱来研究它的每一条电路,但知道了这些你就能知道屏幕上显示的是什么吗?)这需要把中间的层次也搞清楚才行。认知心理学与神经科学相结合,探索认知现象的神经机制,并进一步建立各种模型,这就可以看作是对中间层次的探索。要根据研究目的来决定研究到什么层面,如果只是功能模拟就没必要研究最底层的神经机制,建立的模型也不一定符合生物的神经网络。

另外:在讨论完毕以后,我们对两个问题做了小小的投票调查:

(问题1)如果最终证明大脑(或人的思维)等同于图灵机,你愿意接受吗?大家基本都表示愿意接受,多数人甚至表示这样的结果是非常令人振奋的(原因:这样很优美/这样就可以实现强AI/等等),有人表示理智上可以接受但情感上很难接受

(问题2)你认为所谓的灵感/直觉/顿悟是可计算的吗?大概一半认为可计算,另一半表示现在还不清楚需要更多的研究证据,没有人完全认为不可计算。

结论是:本次读书会的参加者们表现出了强烈的计算主义倾向 :D

 Zheng Fawei总结 

ppt和程序中(均作了稍许修改)

NeuralNetworks.pdf 是活动用的ppt,原先的.pptx文件用office2003打不开,所以转换成了pdf格式;

SingleNerveCell文件夹里有训练单个神经元的程序;

SingleNerveCell.f90nervecell.f90 是源代码;

SingleNerveCell.exe 是编译好的可执行文件(机器配置不同的话可能运行不了,须重新编译);

train.dat是训练样本,共200组:每组三个数,第一个数比第二个数大的时候 第三个数为1,反之第三个数为零。训练过的神经元能判断两个数的大小;

SingleNerveCell.slnSingleNerveCell.vfprojivf编译器+MS VisualStudioproject文件,用其他编译器时不需要这两个文件。

程序运行时:

首先选择神经元的种类 delta函数 / sigmoid函数 型神经元;

    然后选择学习速率;

    接着选择学习样本数(1-200)

    回车后会输出训练过的神经元参数;

    之后是测试阶段,输入两个数, 程序会给出计算结果;

    最后选择是否接着测试;

    运行时程序同时给出文件 b.dat, 文件包含依次训练每个样本后的神经元参数。

NeuralNetworks 文件夹里有神经网络的程序,这个程序可以搭建,训练和测试 任意结构的 分层、前馈并且层间全互连的神经网络;

Main.f90 ElementaryNeuralCell.f90 TrainAndTest.f90 TypeNeural.f90 random.f90是源代码。Main.f90是主程序,其他是主程序用到的模块。模块random.f90是从Netlib.org下载的随机数生成器。

NeuralNetWorks.exe 是编译好的可执行文件(机器配置不同的话可能运行不了,须重新编译);

net.dat 是定义网络结构的文件, 文件中的第一个数字是神经网络的层数n,文件接下来有n+1个数。第一个数是神经网络输入数据个数,之后依次是从输入端到输出端的各层神经元的个数。

作为例子,net.dat定义的网络有九个输入数据,一个输出数据,三层神经元,各含有9个、3个和1个神经元。

training.dat 是训练样本,第一个数是样本总数目,之后是每个样本的输入数据和理想的输出结果;

net.dat中神经网络输入数据个数和输出数据个数需要与training.dat 中每个样本中的数据个数相匹配。

作为例子,training.dat中的数据是 9个数排成三行三列。

    如果同一行里的数都是相同的, 就输出1

        1 1 1

          0 0 0

          1 1 1   对应的输出是1

    如果同一列里的数都是相同的, 也输出1

         0 1 0

           0 1 0

           0 1 0   对应的输出是1

九个数全是0 或全是1 的这种特殊情况 输出也是0

其他情况的输出都是0

SingleNerveCell.sln SingleNerveCell.vfproj ivf编译器 + MS VisualStudio project文件;

程序运行时:

提示输入训练循环数, 对于附件中的training.datnet.dat 建议选取 1000 左右;

training.dat中共有512个样本,1000个循环 共训练了 512000次;

接着提示学习速率,建议选取 0.2 左右;

学习完成后进入测试阶段;

程序给出神经网络的计算结果;

最后提示是否接着进行测试。

One Response to “集智AI小组第十二次活动纪要”

  1. chaussures nike Says:

    呵呵,就一个字。好!

Leave a Reply