Archive for 七月, 2009

集智AI小组第九、十次活动纪要

星期一, 七月 6th, 2009

    时间:6月28日(周日)下午2点开始
    地点:三号会所

    活动内容:讨论AI的连接主义
    1)连接主义概述
    2)01-_-19介绍MP模型和Hebb学习律  文件下载
    3)pem介绍反向传播算法和Boltzmann机  文件下载
    4)miner简介感知机(perceptron)与支持向量机(SVM)  文件下载

集智热力学与进化论小组第九次活动纪要

星期三, 七月 1st, 2009

    时间:2009.6.28,上午10
   
地点:三号会所(大厅或者小厅,到时候视情况而定,三号会所正在装修)
   
报告PPT下载 

    内容:Jake给大家讲一讲与我们小组最初成立目标相离最近的一个课题:最大熵产生原理。基本提纲包括:
   
1、自然的优化:介绍一些关于自然优化观点的历史,从费尔马的光行最速原理,到拉格朗日的分析力学,存在着和经典物理平行的一套基于优化的理论。
   
2、规则与优化的对应:这仿佛是一枚硬币的两面,确定的微观规则似乎总可以对应着确定的宏观优化目标。导出概率分布的各种方法:演化规则和最大化熵。
   
3、流动与熵产生:当我们转向非平衡态,我们开始关注流动及其熵产生。
   
4、最大熵产生原理:这是一个大胆猜想,但可能是不完全的。
   
5、最可能路径理论:未完成的Dewar的思想。
   
6、关于时间和流动的统计力学:讲了Jake自己关于最大熵产生、Dewar的最可能路径理论的看法,给大家展示一下Jake最近非常想突破的一个问题,以及Jake的一点点进展。 

    大家对这个主题感兴趣的话,不妨扣一扣这几篇论文,讲的内容会比这些论文要浅显易懂:1Maximum entropy production principle in physics, chemistry and biology
   
http://www.swarmagents.com/thesis/detail.asp?id=233
    这是一篇相当经典,也是相当全面的叙述最大化熵产生原理的综述文章,作者是两个俄罗斯科学院的人,会看到老毛子写东西确实功利非凡,而且罗嗦不少,呵呵。总体说,该文章把最大化熵产生原理的来龙去脉,包括应用方面也讲得相当的清楚。

    2Dewar的两篇文章
    (1)、Information theory explanation of the fluctuation theorem, maximum entropy production and self-organized criticality in non-equilibrium stationary states
   
http://www.swarmagents.com/thesis/detail.asp?id=208 
    (
2
)、Maximum entropy production and the fluctuation
    http://www.swarmagents.com/thesis/detail.asp?id=211
    注意,这两篇文章试图从
Jaynes
的最大信息熵角度出发,对流动路径进行统计,来推出最大熵产生原理,但他并没有成功,然而整个思路绝对值得我们借鉴!因为这可能是一条最接近真理的道路了。
   
3)、A discussion on maximum entropy production and information theory
   
http://www.swarmagents.com/thesis/detail.asp?id=230
    为什么说
Dewar
的思路不完全,看这篇就清楚大概了。

    3Non-equilibrium thermodynamics and production of entropy
   
http://www.swarmagents.com/thesis/detail.asp?id=214 

    这是一本涉及到熵产生原理的书,会看到最大熵产生原理应用到各个学科中去,不过该书讲的还很浅。