集智俱乐部

时间：1月17日(周日)下午2点

地点：三号会所小厅（地址路线见 http://swarmagents.scinese.com/三号会所介绍/  或http://www.douban.com/photos/album/13343561/）

费用：参加活动每人15元(含一份饮料) [注：这是三号会所收取的场地费，我们的活动是免费的]

主题：
    1) 由 Jake 主持讨论《The Cambridge Handbook of Computational sychology》的ch15. Computational Models of Attention and Cognitive Control （Nicola De Pisapia, Grega Repovs, and Todd S. Braver）
    2) 由 Jake 介绍中性理论，作为热力学与进化论小组读书活动的预热。热力学与进化论小组将在1月底开展新的一轮读书活动，主要读Stephen Hubell的《The Unified Neutral Theory of Biodiversity and Biogeography》这本书（http://www.douban.com/subject/1951352/），计划用6~7次活动时间读完该书大部分章节。由于本组的很多成员对这个主题也很感兴趣，因此Jake会在这次活动上简单介绍相关内容，看大家是否有兴趣进一步深入了解。
    3）讨论AI小组下一期的读书计划。下一期读书会可能要到4月份才能开始，在我们活动的“空窗期”欢迎大家参加热力学与进化论小组的读书活动：）

Jake 活动总结下载

东方隐言：

关键的地方怎么一笔带过，就是“注意”不是因为资源不够之类的原因才会产生的，注意产生的真正原因是我们活在时间中间，因此无论过去未来如何，在同样生活在时间中间的观察者看来，认知系统的所有资源一定是集中在当前的对象上。时间才是“注意”的本质原因。
    这条最关键的东西，您老自己的总结怎么不拿出来重点讲？

Miner补充两点：

1.我们在讨论的时候没有区分
    1）主动的自上而下的注意 VS. 被动的自下而上的注意；
    2）集中注意 VS. 分散注意（注意分配）；
导致有些问题混淆不清，看来以后这种讨论还是得有个基本的问题定义与背景介绍。

2. 在注意的研究中有“认知瓶颈理论”，是说虽然大多数认知加工是并行进行的， 但是中枢执行加工是有瓶颈的并且一些加工是序列的。Jake和东方隐的观点是时间因素导致的序列加工。我后来想了想，还是倾向于从进化的角度看，如果中枢执行加工是完全并行的话，会很容易导致冲突的决策，比如同时想往左且往右，行动或停下，这明显地不利于生存，其结果是完全并行中枢执行加工的生物会灭亡，生存下来的一定有中枢执行序列加工机制。

    时间：2010年1月3日(周日)下午2点

    地点：三号会所小厅（地址路线见
http://swarmagents.scinese.com/三号会所介绍/   或http://www.douban.com/photos/album/13343561/）。

    费用：参加活动每人15元(含一份饮料) [注：这是三号会所收取的场地费，我们的活动是免费的]。

    主题：由 01-_-19 和 xudong 主持讨论《The Cambridge Handbook of Computational Psychology》的ch10 & ch23。ch10 Micro-Process Models of Decision Making；ch23 Computational Modeling of Visual Information Processing。

    活动记录：

    活动PPT下载  相关资料下载：抉择的神经机制概述

    Miner言：
    讨论 ch10. Micro-Process Models of Decision Making 时，提到了《怪诞行为学》（http://www.douban.com/subject/3223711/）这本2008年出的行为经济学的书，原书标题是《Predictably Irrational: The Hidden Forces That Shape Our Decisions （可预期的非理性：形成我们决策的背后力量）》，其中很多例子可以作为ch10的补充，并且这本书写得也非常有趣，所以强烈推荐！
    另外，ch10.的第一作者Jerome R. Busemeyer
（http://mypage.iu.edu/~jbusemey/home.html）最近在做量子认知（quantum cognition），对这个主题感兴趣的可以看他的tutorial http://mypage.iu.edu/~jbusemey/quantum/Quantum%20Cognition%20Notes.htm
    讨论 ch23 Computational Modeling of Visual Information Processing 时，提到David Marr（1945-1080）的《视觉计算理论》（http://www.douban.com/subject/3403652/），原书标题是《Vision: A Computational Investigation into the Human Representation and Processing of Visual Information》，1982年出版，1988年中文版出版。Marr在70年代末开始写这本书的时候，认为准备还不够，但是因为他在1978年被诊断出了急性白血病，不得已只好提前动笔，这本书是他的遗著。
    最后感叹一下：北京昨晚下了近几年罕见的大雪，今天出门看到地上厚厚的积雪，就想会不会除了主讲人和我就没人来了，结果非常意外，今天一共来了10人，基本达到读书会的峰值人数，看来雪天比较容易激发大家的学术热情啊 ：）

    清晴言：
    现在总结旭东的那部分，主要记一下大家提的好玩的想法，附赠旭东演讲的大体框架。不准确的地方欢迎大家补充纠正！有意思的地方请尽管发散思路继续讨论！

——————~~我就是传说中的分割线~~——————

    Chapter 10  Micro-Process Models of Decision Making    作者：Jerome R. Busemeyer and Joseph G. Johnson，后面那个是前面那个的学生。Jerome R. Busemeyer 是搞认知建模的，任职于印第安纳大学，是全职教授（full Professor，是这个意思吧？）。他最近出了本书叫Cognitive Modeling。他在搞量子认知，似乎挺好玩的，详见http://mypage.iu.edu/~jbusemey/quantum/Quantum%20Cognition%20Notes.htm。此外，他是个帅大叔，喜欢音乐和运动，会跳舞还会作曲……详见他的个人主页http://mypage.iu.edu/~jbusemey/home.html （那个lu meijuan是他的妻子吗？）

—————————————————————————-

    框架：
    效用模型：设定一个目标函数，然后最大化之。
    然而现实中存在一些情况，是无法用效应模型解释的，比如：
    1、Allais悖论：效用模型无法解释。（P304）
    2、随机占优：可解释Allais悖论。 。。但是。。。？（P305）
    3、偏好逆转：选择标准不同（比如，同样两张不同概率赢得不同钱数的彩票，白送或者出钱买），选择结果就不同。（P306）
    4、情境依赖的偏好：本来有AB两个选项的时候人们倾向于选A，而当新出现一个选项C的时候就会去选B。（P306）
    情境依赖的偏好可以总结为以下三个效应：
    竞争效应：新出现的C和B的情况差不多，会把选择B的概率分掉一半，使选择A的概率成为相对最高的。
    鲜花绿叶效应：新出现的C明显比A差，这会使人们更倾向于选择A。
    折中效应：每个选项都各有利弊，第三个选项出现后，人们更倾向于选择折中的。新思路：关注决择形成的过程，模拟人的思维方式。新模型：将抉择过程分成一个个Micro-Process，按照这些设定的步骤走，最后会作出选择。（p308）模型详见p312（有图），引入了一个常数sij（ij是下标），体现了不同选项之间的比较，是对以前模型的重要改进。新模型可以解决前面提到的所有悖论，不信可以看p315的表。

—————————————————————————-

    一些好玩的想法：
    1、人们在得到利益的情况下往往是风险规避的，而面临损失的情况下则是风险偏好的。这种特点有没有可能是自然选择的结果？
    2、抉择这事，其实是很不靠谱的~~或者说，它受很多因素影响，而这些因素中有很多都是难以控制的。不同的价值准则会导致不同的决择对选项不同的表述会影响抉择决策情境会影响决择个人偏好会影响决择……总之，人抉择的时候是不完全理性的，所以建一个能解决所有问题的决择模型是很难的。Miner推荐一本书：《怪诞行为学》，里面有很多人在经济生活中“非理性抉择”的案例，（据Miner说）挺有意思的。豆瓣 http://www.douban.com/subject/3223711/
    3、在说情境依赖的偏好的时候，Miner提出了“捆绑销售效应”：只要是有“附赠”的商品都会比较受欢迎，虽然多数时候赠品可能并不是人们所需要的，价格也不一定便宜。
    4 、和尚说的：集体相亲的时候，一般那些平庸的人最容易被看上，而一对一相亲的时候，那些优秀的人更容易被看上。首先，真的是这样吗？和尚说这是他多年观察的结果，不过大家都觉得很不可思议。就算是真的吧，可是该怎么解释呢？
    5、还是Miner提的：0 和 1（100%）对抉择的影响非同一般。比如，从0.1降到0 和从0.5降到0.4在感觉上是不一样的，后者是数量的差别，前者是有和无的差别；同理，从0.9升到1 和从0.5升到0.6的感觉也是不一样的。（我理解的对吗？）这该如何解释？
    6、根据Tversky等人的观点，人在不确定条件下的经济抉择会表现出“胜者全拿”的S形选择曲线，我老板证明这条曲线对于果蝇来说同样适用。关于s形曲线详见附件，那是我师兄张柯的毕业论文的一部分；对果蝇抉择感兴趣的可以Google一下这篇文章 Choice behavior of Drosophila facing contradictory visual cues

——————我分割的不是文章，是寂寞！——————

    附记：今天下了一天鹅毛大雪，可是大家热情高涨，到场人数多达10人。东方和尚也来了，真是意外惊喜。已经很久没听到旭东的演讲，很久没听到和尚的神侃了，今天听到，感觉特别亲切。。。。下雪真TM冷！所以，今天就总结到这，我讲的那部分以后再说吧。

    顺便祝大家在新的一年里更上一层楼！

    对于清晴的一些提问，Miner又言：
    查了一下行为经济学（Behavioral economics）中的 prospect theory （前景理论） ，似乎可以解释这个现象：
    prospect theory 认为：
    “人在不确定条件下的决策选择，取决于结果与展望（预期、设想）的比较而非结果本身。即，人在决策时会在心理预设一个参考标准，并以标准为参照点来衡量结果”。
    “人总是厌恶损失（loss aversion) ：损失结果对应价值的绝对值，比同等获利结果对应价值的绝对值更大。”
    “确定性效应(Certainty Effect)：和确定性的结果相比个人会低估概率性结果。”因为花1元和5元都是相对免费参照下的损失，5元降到4元依然是损失，但1元降到0就没有损失了50%升到60%依然是不确定，90%升到100%是从不确定变为确定，感觉也就不一样了。人喜欢确定性大概也是因为厌恶损失吧。
    那么人为什么会厌恶损失呢？查到这段：
    “2007年1月26日，波达瑞克、福克斯和他们的同事塞布丽娜・M・汤姆（Sabrina M. Tom）、克里斯托弗・崔普（Christopher Trepel）在《科学》杂志上发表了名为《风险决策中损失厌恶的神经基础》（The Neural Basis of Loss Aversion in Decision-Making under Risk）的论文，公布了功能磁共振成像研究的成果。在实验中，他们要求实验对象对一个输赢几率各占50％的博彩项目进行选择。结果显示，当盈利几率上升时，中脑边缘和中脑皮层多巴胺系统的活动就会增加，当损失几率上升时，这一奖励敏感区域的活动就会下降。有意思的是，损失感和盈利感都是由相同的脑结构――腹内侧前额皮层（ventromedial prefrontal cortex）和腹侧纹体（ventral striatum）负责的，前者关系到决策和了解奖惩机制，后者则涉及学习、动机和奖励。因此，损失厌恶程度个体差异的决定因素是：大脑中因为损失而被关闭的区域，比大脑中因为盈利被激活的区域大多少。”
    如果损失厌恶是由神经机制决定的，那么这样的神经机制应该是在进化中形成的。
    下面这篇文章讨论了类似的问题：
    Kenrick, D.T., Griskevicius, V., Sundie, J.M., Li, N.P., Li. Y.J., & Neuberg, S.L. (2009). Deep rationality: The evolutionary economics of decision making. Social Cognition, 27, 764-785 (special issue on the rationality debate)。其中第一作者写了篇blog “Deep Rationality: Evolutionary psychology meets behavioral economics” (http://www.psychologytoday.com/blog/sex-murder-and-the-meaning-life/200911/deep-rationality)。
    再考虑到行为经济学受启于AI奠基人之一Herbert Simon的“有限理性（Bounded rationality ）”模型，prospect theory （前景理论）是认知心理学家提出来的，所有这些学科都可以串起来了啊：进化心理学（决策策略的形成）、认知神经心理学（定位决策功能区）、认知神经科学（决策的神经活动）、认知心理学（决策心理表现）、计算心理学（用计算模型建模决策过程）、行为经济学（经济决策）、AI（用启发式求解问题），太有意思了~~

    Pen言：
    不同点上，增量的效果不一样，如果是和当前位置相关的，描述成这样：dy/y = -adx，这个式子的解就是y= exp(-ax)， Fermi-Dirac分布函数f(E) = 1/( exp(-a(E-E0)) + 1) ，这个形式和S函数一样的。
    当 exp(-a(E-E0)) >> 1, 就近似成：f(E)= exp(-a(E-E0)) 。
    Miner提到关闭区和激活区域的比例，我想可能神经元有类似费米子的统计关系，激活区域的变化率如果和当前激活区域的面积或数量相关，可能就自动冒出个S函数来。
    解释：费米-狄拉克统计
    http://en.wikipedia.org/wiki/Fermi%E2%80%93Dirac_statistics
    解释：经典的玻尔滋蔓统计
    http://en.wikipedia.org/wiki/Boltzmann_statistics

    Jake言：
    我在2005年左右读博士的时候，曾一度相当关注过行为经济学、决策等理论。最先进入眼帘的是Payne的Adaptive Decision Making理论（我们这次读书会有提过他老人家），即他认为决策过程是寻求效用最优和努力之间的一种权衡。后来沿着这条路下来，了解了Kannehmann和Tversky的Prospect理论，才知道Kannehmann和Smith在2002年获得了诺贝尔经济学奖，而且据说是第一次把此奖项授给非主流经济学人士。后来发现，其实诺贝尔奖是相当保守的，因为Kannehmann等人的研究是早在70、80年代就开始了，而且试验经济学之父Smith都已经去世了。果蝇小姐师兄所做工作的价值也就在用实验验证了Kannehmann等人提出的Prospect理论的损失曲线，所以能上Science。

最近，神经经济学非常火爆，很多人试图为那些非传统决策理论、博弈论找出神经科学的基础。不仅仅是厌恶风险，还包括利他性，有一本书叫做《走向统一的社会科学》http://www.douban.com/subject/1444034/ 则介绍了Santa Fe Institute一批人试图为人类的互惠理他行为找到更坚实的基础，包括神经科学基础。所以，从行为经济学下来，这一个派系的研究正处于高热期。 

但是，我个人对这个方向的研究并不真正看好，所以，后来放弃了对此方向的追踪。原因就是，此方向有很强烈的“还原论”倾向，包括试图把人类一切行为归结为神经细胞的冲动。另外，更重要的是，此类研究忽视了从微观到宏观的过程。他们把注意力过度放在单独经济人的决策行为上，而没有考察（或者至少是很少关注）这类决策行为在本质上如何影响大量个体构成的宏观经济系统。个体决策的很多反常行为究竟如何影响宏观经济系统？理他主义在宏观上究竟怎样与利己主义有着显著的不同？

然而，我欣喜地发现，其实老外中也有一部分人认识到了这一点，并开始作出积极努力的行动。这就是Quantum Decision Theory，Quantum Game Theory等等一系列新兴学科。大家不要一看到Quantum这个词就想到微观的原子、分子。数学伟大的地方就在于微观基本对象可以非常不同，因此Quantum在这里是指一种数学，它也可以描述人。所以，人类行为上的反理性和利他性等因素有可能就体现为宏观上的量子概率表现而非经典概率表现。这样，那些微观的行为学研究就跟宏观联系起来了，而这种联系恰恰是我这两年研究生物进化中看到的东西（记得我前年就开始大谈复数概率，而那时候我并不知道还有量子决策这门学科）。

    时间：12月20日(周日)下午2点

    地点：三号会所小厅（地址路线见http://swarmagents.scinese.com/三号会所介绍/  或http://www.douban.com/photos/album/13343561/）。

    费用：参加活动每人15元(含一份饮料) [注：这是三号会所收取的场地费，我们的活动是免费的]。

    主题： 由 Miner 主持讨论《The Cambridge Handbook of Computational Psychology》的第六章，即Ch.6 Constraints in Cognitive Architectures  (Niels A. Taatgen and John R. Anderson) 。
补充阅读：Ch.20 Models of Scientific Explanation。
另外，哪位有时间看看 ACT-R （http://act-r.psy.cmu.edu/）？到时给大家讲一下？
为了使讨论更有成效，请诸位参加者事先阅读这一章，至少要浏览一遍，电子版可从Google group的页面(http://groups.google.com/group/swarmagents_ai/files)下载。

    读书讨论
Miner言：
基本的感觉是目前的认知架构、计算模型还处在比较初级的阶段，离其最终目标“构建出一个把认知心理学中的各种零碎理论综合起来的具有普适意义的统一认知理论”还有很长的路要走，不过也因此有许许多多好玩的问题等待被解决 ：）
待更新。

    活动讲稿下载

    时间：12月6日(周日)下午2点

    地点：三号会所小厅（地址路线见 http://swarmagents.scinese.com/三号会所介绍/  或  http://www.douban.com/photos/album/13343561/）。

    费用：参加活动每人15元(含一份饮料) [注：这是三号会所收取的场地费，我们的活动是免费的]。

    主题：认知建模的动态系统方法
    由Pem 主持讨论《The Cambridge Handbook of Computational Psychology》的第四章，即Ch.4 Dynamical Systems Approaches to Cognition  (Gregor Schoner) ；
    为了使讨论更有成效，请诸位参加者事先阅读这一章，至少要浏览一遍，电子版可从Google group的页面(http://groups.google.com/group/swarmagents_ai/files)下载。

    读书讨论情况待更新。

    时间: 2009.11.22
    地点：三号会所小厅
    内容；讨论《计算心理学》模型的第三章：认知模型的贝叶斯建模方法。 讲稿PPT下载 

     1、贝叶斯概率的理解
    （1）、贝叶斯概率是主观的信任程度，而不是传统意义上的事件的频率。所以贝叶斯概率是会随着数据的累积而发生变化，这解释为主观的信任程度变化，而不是事件发生频率的变化。
    （2）、著名的Monty Hall模型，参看WIKI上的解释：
    http://en.wikipedia.org/wiki/Monty_Hall_problem， 这个问题巧妙的反应出来贝叶斯概率中最反直觉的部分：即概率分布可以发生变化！这个例子也从另一个侧面说明了测量过程（第一次的选择）会改变系统的概率分布（即主持人会根据你的选择而动态选择打开哪一扇门）。因此有人讨论这个Monty hall问题的量子版本：
    http://en.wikipedia.org/wiki/Monty_Hall_problem#Quantum_version 

    2、贝叶斯概率模型的基本应用：
    （1）、假设比较（最后直接计算后验概率之比）。
    （2）、参数估计按照Miner的说法，Bayes的方法的优势就在于直接给出了参数的概率分布，而不用费尽解释什么叫做置信区间，这便体现出来了贝叶斯主观概率的优势。
    （3）、模型选择贝叶斯原理的模型选择可以直接解释结构风险和预测风险之间的那种Trade off，即贝叶斯奥柯姆剃刀原理。 

    3、贝叶斯图模型
    （1）、贝叶斯网计算若干随机变量的联合是一个重要、本质的问题，按照因果网络的方法可以简化这个计算。
    （2）、图模型按照模型选择的框架，可以对不同的图结构进行比较、选择。
    （3）、层次贝叶斯模型对先验概率的估计和贝叶斯推理。

    4、蒙特卡洛模拟
    概率论给我们提供了一套描述不确定世界的数学方案，其中建立在测度论上的概率是一套理论模型，统计是从数据中推测背后的概率模型，蒙特卡洛模拟是从概率模型生成随机数据。
    此处，我们讨论了概率在数学上说并不天然具有频率的解释，它不过是一套抽象的数学运算，而大数定理使得概率和频率发生了联系，也就有了教科书上对于概率的经典解释。然而，当我们弄清楚概率论的鬼把戏之后，就有可能把它的物理解释换掉，例如用Quantum Probability替换经典概率论，从而创建的Quantum Decision Theory。
    我们看到人们对概率的解释其实是大有可为的。
    最后大家还讨论了很多有趣的东西，诸如：贝叶斯模型的通用性，卡尔曼滤波，相变与组合优化问题、不确定性原理、傅利叶变换、信息论、统计物理与贝叶斯等等。最后的结论是：我们这帮人的知识还很淡薄，有必要把所有这些有趣的知识整合起来。

    Miner补充：
    今天说到贝叶斯网看哪本书比较好，我推荐两本自己很想看但还没看的，都是今年刚出的新书：
    一本是贝叶斯网创始人Judea Pearl的 “Causality: Models, Reasoning and Inference”
    （http://www.amazon.com/Causality-Reasoning-Inference-Judea-Pearl/dp/052189560X/）,今年刚出的新版（上一版是2000年出的）；
    一本是 Daphne Koller 的 “Probabilistic Graphical Models”
    （http://www.amazon.com/Probabilistic-Graphical-Models-Principles-Computation/dp/0262013193）,大家期待了好几年了，今年终于出来了。谁有其他的推荐请补充。
    另外找到这么一段比较传统统计推断和贝叶斯网的：“传统统计理论中，推断主要是通过对联合概率的边缘化 (Marginalization)实现，运算量对变量个数呈现指数增长，即使用蒙特卡罗(Monte Carlo)采样，运算量也非常大，并且这种计算过程并不符合人脑的推理方式。Judea Pearl提出的贝叶斯网，基于变量之间Casuality关系的置信传递(belief propagation)进行推断，使得运算量变成了对变量个数成准线性增长的方式，使得一些有数以万计变量的模型能够被有效处理。而且基于因果关系的推导也符合人脑的思维方式。” 

    果蝇小姐补充：
    @主观概率与客观概率
    贝叶斯概率是主观上感觉事件会发生的概率，反映了人对事物的理解，随着数据的积累会发生变化。客观概率表现为事件发生的频率，但不知道它的本质是什么。大家之所以觉得贝叶斯概率别扭，是因为我们以前学的都是客观概率，一个思维习惯就是：其他条件再怎么变，某件事发生的概率该是多少还是多少。想当年本人刚接触概率的时候学得那叫一个烂，总是觉得概率不变很不可思议，想来也许是受了主观概率的影响。假如换个没学过概率的人，说不定就会觉得贝叶斯概率理所当然，没什么别扭了。
    @主观与客观
    我们对世界所有的认识都来自于观察和思考，而我们只能以人的视角去观察，用人的思维去思考，怎么也无法跳出“人”的范围。这样，又怎么区分主观和客观呢？能够被大多数人接受的就是客观？客观=主观*N？
    @贝叶斯模型的普适性
    贝叶斯模型的应用并不限于学习推理建模。或许这是事物的某种本质属性，大脑只是一个特例；或许只是人类大脑本身倾向于从各种杂乱无章的事物中抽象出这种性质。
    @我们真的能了解人类认知的本质吗？
    我们所认知的事物都无法超出我们的认知能力范围。那么认知本身在我们的认知能力范围内吗？我们能够认知我们认知的本质吗（怎么这么绕）？

时间：10月25日(周日)上午9点半

地点：三号会所

费用：参加活动每人15元(含一份饮料) [注：这是三号会所收取的场地费，我们的活动是免费的]

主题：

1）01-_-19主持讨论《The Cambridge Handbook of Computational Psychology》的第二章，即Ch.2 Connectionist models of cognition (Michael Thomas and James McClelland) ;

为了使讨论更有成效，请诸位参加者事先阅读这一章，至少要浏览一遍吧。电子版可从Google group的页面(http://groups.google.com/group/swarmagents_ai/files)下载；

2）关于project proposal的想法，可继续讨论～～

 后面几次的安排：

读书会2-3（11.8？） 何永振主持讨论

Ch.5 Declarative/ logic-based computational cognitive modeling (Selmer Bringsjord);

读书会2-4（11.22？） jake主持讨论

Ch.3 Bayesian models of cognition (Thomas Griffiths, Charles Kemp, and Joshua Tenenbaum);

读书会2-5（12.6？） ？？主持讨论

Ch.4 Dynamical systems approaches to cognition (Gregor Schoener);

读书会2-6（12.22？） ？？主持讨论

Ch.6 Constraints in cognitive architectures (Niels Taatgen and John Anderson);

==========================

2-5和2-6还没人认领，pem 你能主持2-5吗？我觉得这章由学物理的主持比较好～～

另外，作为背景材料，大家有空的话可以读本认知心理学，毕竟，认知心理学是AI的理论基础之一，虽然很多计算机系的AI不开这门课～～国内用的最普遍的教材应该是王甦先生的《认知心理学》（http://www.douban.com/subject/1122236/），但这本书是1992年出的，无法反映近十多年的研究进展，所以建议找本新的来读，比如这本 http://www.douban.com/subject/3854718/

 活动总结 

Liu Qingqing总结

      PPT

第一部分：关于Blue Brain

观看了miner带来的视频，是Henry Markram在今年TED会议上的演讲，题目叫Builds a Brain in a Supercomputer. 研究者们用电生理等技术探索生物神经网络的结构，用一个CPU来模拟一个神经元。预计在10年之内就可实现人脑模拟。演讲梗概 http://www.douban.com/group/topic/7445437/ 视频

http://www.ted.com/talks/henry_markram_supercomputing_the_brain_s_secrets.html

第二部分：介绍/讨论Computational Psychology的第二章Connectionist Models of Cognition。ppt见上次的附件，增加了一些讨论到的内容。

第三部分：郑法伟向大家介绍他对连接主义模型的一些思考，详见他的ppt和程序。

其他：一些讨论（欢迎补充）

1 Miner：贝叶斯模型很强大。贝叶斯模型很适合解释归纳学习：当我们面对一个新事物的时候，会根据已有的经验来猜测它可能具有什么样的性质，这就是我们认为它具有某种性质的先验概率，然后在和它打交道的过程中不断修正这个先验概率，最终能够比较准确地了解这个事物。但目前不是所有的学习都可用贝叶斯模型解释。

2 世界是“概率的”还是“规律的”？世界之所以是这样，是因为它以这种面目出现的概率最大。所谓“规律”并不意味着“绝对会这样”，而只能说“这样的概率太大了，以至于出现其他情况的概率通常被人们忽略”。如果世界是概率的，那么概率是什么？Zheng Fawei：如果人脑的运算能力足够强，那么应该能够发现“概率背后的规律”，也就能够预测一切、解释一切。（大刘写过一篇科幻讲的就是这个，叫《镜子》可以到这里看全文：http://club.book.sohu.com/read_art_sub.new.php?b=science&a=22209&sr=2&allchildnum=50。 pem：我是反對存在終極理論的。我只是覺得在各個層次上，都能找得到好用的規律，都用概率包打是不好的~

3 老何提出的一些关于认知心理学、发展心理学以及大脑结构功能的问题（太多，所以我记不清具体是那些问题了，下面根据印象总结一下，欢迎补充）。可以分层次来研究认知科学。底层：包括神经网络的拓扑结构、神经元的激活模式、信息在突触间的传递模式等（当然还可以进一步向下深入，研究神经元内的生化分子过程，不过这就是生物学的任务了）。高层：观察现象，总结规律。不需要知道背后的神经机制。即使知道了最底层的神经机制，也不一定能与高层的认知现象对应起来。（miner举的例子：你面前这台电脑，你可以拆开机箱来研究它的每一条电路，但知道了这些你就能知道屏幕上显示的是什么吗？）这需要把中间的层次也搞清楚才行。认知心理学与神经科学相结合，探索认知现象的神经机制，并进一步建立各种模型，这就可以看作是对“中间层次”的探索。要根据研究目的来决定研究到什么层面，如果只是功能模拟就没必要研究最底层的神经机制，建立的模型也不一定符合生物的神经网络。

另外：在讨论完毕以后，我们对两个问题做了小小的投票调查：

（问题1）如果最终证明大脑（或人的思维）等同于图灵机，你愿意接受吗？大家基本都表示愿意接受，多数人甚至表示这样的结果是非常令人振奋的（原因：这样很优美/这样就可以实现强AI啦/等等），有人表示理智上可以接受但情感上很难接受

（问题2）你认为所谓的“灵感/直觉/顿悟”是可计算的吗？大概一半认为可计算，另一半表示现在还不清楚需要更多的研究证据，没有人完全认为不可计算。

结论是：本次读书会的参加者们表现出了强烈的计算主义倾向

 Zheng Fawei总结 

ppt和程序中(均作了稍许修改)。

NeuralNetworks.pdf 是活动用的ppt，原先的.pptx文件用office2003打不开，所以转换成了pdf格式；

SingleNerveCell文件夹里有训练单个神经元的程序；

SingleNerveCell.f90，nervecell.f90 是源代码；

SingleNerveCell.exe 是编译好的可执行文件（机器配置不同的话可能运行不了，须重新编译）；

train.dat是训练样本，共200组：每组三个数，第一个数比第二个数大的时候 第三个数为1，反之第三个数为零。训练过的神经元能判断两个数的大小；

SingleNerveCell.sln，SingleNerveCell.vfproj是ivf编译器+MS VisualStudio的project文件，用其他编译器时不需要这两个文件。

程序运行时：

首先选择神经元的种类 delta函数 / sigmoid函数 型神经元；

    然后选择学习速率；

    接着选择学习样本数(1-200)；

    回车后会输出训练过的神经元参数；

    之后是测试阶段，输入两个数， 程序会给出计算结果；

    最后选择是否接着测试；

    运行时程序同时给出文件 b.dat, 文件包含依次训练每个样本后的神经元参数。

NeuralNetworks 文件夹里有神经网络的程序，这个程序可以搭建，训练和测试 任意结构的 分层、前馈并且层间全互连的神经网络；

Main.f90， ElementaryNeuralCell.f90， TrainAndTest.f90， TypeNeural.f90， random.f90是源代码。Main.f90是主程序，其他是主程序用到的模块。模块random.f90是从Netlib.org下载的随机数生成器。

NeuralNetWorks.exe 是编译好的可执行文件（机器配置不同的话可能运行不了，须重新编译）；

net.dat 是定义网络结构的文件， 文件中的第一个数字是神经网络的层数n，文件接下来有n+1个数。第一个数是神经网络输入数据个数，之后依次是从输入端到输出端的各层神经元的个数。

作为例子，net.dat定义的网络有九个输入数据，一个输出数据，三层神经元，各含有9个、3个和1个神经元。

training.dat 是训练样本，第一个数是样本总数目，之后是每个样本的输入数据和理想的输出结果；

net.dat中神经网络输入数据个数和输出数据个数需要与training.dat 中每个样本中的数据个数相匹配。

作为例子，training.dat中的数据是 9个数排成三行三列。

    如果同一行里的数都是相同的， 就输出1，

      如  1 1 1

          0 0 0

          1 1 1   对应的输出是1；

    如果同一列里的数都是相同的， 也输出1，

       如  0 1 0

           0 1 0

           0 1 0   对应的输出是1；

九个数全是0 或全是1 的这种特殊情况 输出也是0；

其他情况的输出都是0。

SingleNerveCell.sln， SingleNerveCell.vfproj 是 ivf编译器 + MS VisualStudio 的project文件；

程序运行时：

提示输入训练循环数， 对于附件中的training.dat和net.dat， 建议选取 1000 左右；

training.dat中共有512个样本，1000个循环 共训练了 512000次；

接着提示学习速率，建议选取 0.2 左右；

学习完成后进入测试阶段；

程序给出神经网络的计算结果；

最后提示是否接着进行测试。

    时间：10月11日(周日)下午2点开始
    地点：三号会所（地址路线见 http://swarmagents.scinese.com/三号会所介绍/  或
http://www.douban.com/photos/album/13343561/）
    费用：参加活动每人15元(含一份饮料) [注：这是三号会所收取的场地费，我们的活动是免费的]

    主题：
    1）自我介绍；
   
    2）讨论《The Cambridge Handbook of Computational Psychology》的第一部分和第四部分，即：
    Ch.1 Introduction to computational cognitive modeling
    Ch.25 An evaluation of computational modeling in cognitive science
    Ch.26 Putting the pieces together again
    请诸位事先阅读这三章，电子版可从Google group的页面
    (http://groups.google.com/group/swarmagents_ai/files)下载；

    3）后面几次的主持分工
    请先浏览一下《The Cambridge Handbook of Computational Psychology》的第二部分，选择自己想主持的章节，否则由我分配；

    4）哪位有项目的想法，可以讲出来大家讨论～

    活动总结文件下载

    时间：6月28日(周日)下午2点开始
    地点：三号会所

    活动内容：讨论AI的连接主义
    1）连接主义概述
    2）01-_-19介绍MP模型和Hebb学习律  文件下载
    3）pem介绍反向传播算法和Boltzmann机  文件下载
    4）miner简介感知机(perceptron)与支持向量机(SVM)  文件下载

    这次活动热力学与进化论小组和AI小组合并到一起了，大家利用一天的时间，探讨了“贝叶斯概率理论”，以及最大熵的问题。

关于贝叶斯概率理论的总结，xudong给出了非常好的综述，请看这里。

在贝叶斯概率理论的基础上，我们还研讨了人工智能中的贝叶斯网的问题，关于这些讨论，可以参看。

之外，lingfei讨论了关于最大熵和进化论的问题，参看。

谈谈我个人对贝叶斯概率理论的看法：

其实我根本不理解贝叶斯概率公式，因为从公式中，我们看到：P(B)P(A|B)=P(A)P(B|A)。这个公式奇怪的地方在于如果P(B),P(A|B),P(A)决定了之后，P(B|A)就是决定的了。但是在很多实例中，P(B|A)并不是这样算出来的。所以，究竟什么叫做条件概率呢？

    时间：5月29日(周日)下午2点开始

    地点：北京师范大学英东楼（师大小南门进门右手边的那座楼）

    活动主题：由Jake和xudong主持讨论进化计算 

    活动总结下载