2018.03.01 | 读书笔记 | 10363 浏览 | 4 赞 | 5 条评论


请注意,本文编写于 2219 天前,最后修改于 2134 天前,其中某些信息可能已经过时。
AI摘要:本文为维纳的《控制论》读书笔记。控制论研究控制系统的结构、局限和发展。书中探讨了牛顿时间和Bergson时间、群和统计力学、时间序列、信息和通信、反馈和振荡、计算机和神经系统、完型和普遍概念、控制论和精神病理学、信息、语言和社会、关于学习和自生殖机、脑电波与自行组织系统等主题。作者在书中提出了许多前瞻性的观点,对当今科技发展产生了深远影响。

Powered by AISummary and MoonShot Kimi Chat.

最近因为悦读经典的ddl要到了看了维纳的控制论并且写了这篇用来应付作业的读书笔记。~~不过后来觉得也有道理放出来,哪天进一步再详细说说。简单地说,控制论用于研究控制系统的结构,局限和发展。在21世纪,控制论的定义变得更加宽泛,主要用于指代“对任何使用科学技术的系统的控制”

第一章:牛顿时间和Bergson时间

由于是刚一开始接触这本书,这一章也就看的更为仔细一点。

作者首先提到了作为天文学和气象学的不同特点:天文学以及其所依赖的牛顿力学长久以来告诉人们,似乎世界上的万物都有一种“绝对确定性”,是一种时间可逆的运动,也就是说,如果我们将时间从正向变为负向,只不过是天体或物体的运动方向相反了而已,物理规则则依旧遵守;但对于气象学来讲,落下的雷电并不能按时间相反的方向来运行,运动着的云如果时间相反也不会朝着完全相反的方向运动。

但是其实对于这点,我的内心是存在着问号的。诚然,对于牛顿力学来讲,大多数物体的相互运动在时间反转的条件下是可以同样被解释的,但能量的耗散,比如摩擦力的做功,是与时间相关而无法被回溯的。就好比我打碎了一个花瓶,倘若按照反向的时间来看,一堆花瓶的碎片好似“忽然”获得了能量从地上跃起并组成了完整的花瓶,这显然是让人难以接受的。不过我也承认,对于一些研究宏观的科学来讲,时间似乎就是可逆的。

于是作者又提到了将统计学引入到其中的新视角,即量子力学。有趣的是,作者也指出了量子力学,达尔文的进化论间的相似之处,让人眼前一亮。他们似乎都在宏观上呈现出一种必然性,但在微观上又是近乎随机的,所谓“无数的偶然成就了最终的必然”,而作者也将看似可以通过时间回溯的天文学解释为了很大概率上趋近的必然。

而最终作者为什么要从这里说起强调这些呢,他最终引出了我们所期望的自动机,这种自动机一定不会是类似牛顿似的“时间可逆”的机器,而是需要通过时间来进行动态调整,通过传入-中介-传出的机制做出判断,甚至只是一种统计学上的概率判断。也就是说,这样的机器一定不会是百分之百准确率的。这样的观点在当时也许些许难以让人信服,机器也会出错也许也有悖人们的直觉。但对于现在的视角我们可以看到,作者从一定程度上也遇见到了当今的深度学习的可能性,通过一个极其复杂的自我优化的方式去逼近一个现实生活中的问题,虽然有出错的可能性,但大概率上是正确的。而将自动机与生物相类比也更能看出当时作者眼光的独到之处。

第二章:群和统计力学

这时作者笔锋一转,却谈到了数学上的群与物理上的统计力学。初读起来让人有点不明就里,而一些公式也让人愈发迷糊。霍金曾说过,一个公式可以赶走一半的读者。如果只是闲读这本书,怕是此时此刻便已经被赶走了。

可以看出,作者想要探讨的是一些关于无限与极限的概念,以及“无穷多的概率为0的事件合在一起,最终组成了概率为1的必然事件”。之后作者提到了各态经历理论,但自己才疏学浅又非数学物理专业,看得略有些云里雾里。其中介绍了交换,交换群与群不变量的概念,似乎是想作为统计力学的理论基础,但实在是不是很懂了。

之后作者提到了熵的概念。说实话,熵的概念在高中的时候就一直是自己想弄明白却一直没有弄明白的概念。只知道其代表的是“混乱程度”,但怎么混乱,怎么衡量,自己又是一头雾水。但作者所提出的麦克斯韦妖的问题却又让自己眼前一亮,并且作者提到似乎酶与人体就算是一个亚稳态但最终还是会失效的麦克斯韦妖。这其实足以让人提出很多哲学上的问题,比如如果我们的人体是亚稳态的话,那为什么确定我们人是由一个特定的灵魂与思想所支配的呢,等等的一系列问题。但想到对于很多问题我们确实是不会知道答案的,这些问题也就暂时就此打住了。不过这种观点确确实实给了我们一种新的审视自己和生命的视角。

第三章:时间序列、信息和通信

好...多公式...虽然很努力地再看,但是并没有看下去。看起来有点像是信息论,用数学形式来量化信息量并证明了它的一些特性如与熵的相似性与增减信息量的一些观点,想要说明在特定的先验知识的条件下我们所传递了多少的信息量,以及在有环境噪声的情况下我们所传递的信息量。虽然挺感兴趣的,但是实在看不下去,看来,要想成为科学家,要想在理论方面有所突破,数学真的得好。

第四章:反馈和振荡

在读这本书之前对反馈还是有一些了解的。作者从病人的角度出发阐释了反馈的概念和意义,并且结合数学公式给出了一个反馈的实例。但由于自己的数学基础相对薄弱,实例看得也是一知半解。但是令自己很受启发的一点是作者认为可以通过更高级的反馈实现更复杂的功能,这就令自己想到了深度学习算法中对参数的逐层调整。但是是否所有的任务都可以通过这种很多级的逐层调整来实现呢,或者说深度学习是否有其应用的边界呢,我认为是值得我们进一步进行思考的。

另外对于作者的将计算系统与生物进行类比的做法,又让我联想到微软最近所研制的通过干扰生物电帮助癫痫患者的手部更加稳定,从而进行一些之前所做不到的事的装置。相信这种将电子装置与生物本身相结合会产生更多奇妙而实用的用途。

第五章:计算机和神经系统

到了这一章忽然回到自己相对熟悉一点的计算机领域。首先作者似乎证明了二进制是存储和传递信息的最好方式,但自己也并未全部理解。之后作者又简单介绍了布尔代数并将其和神经元与突触相类比。现在当我们学习到突触的时候就自然会将其与计算机进行类比,但在当时可能是一个比较创新性的想法。而这种思想又让我想起深度学习的算法,可以说这本书的思想对之后深度学习的产生也颇具意义。

之后,作者又进一步指出相对于模拟计算机来讲数字计算机的优越性,以及计算机需要“短期记忆”以及“长期记忆”,站在现在的角度看,这些思想都是及其富有远见的。而作者对于计算机和人思想的结构的对比,也正应了现在对于人工智能的广泛探讨。

第六章 完型和普遍概念

这一章一开始讲了我们是如何进行图像的判断的。感觉这一部分对于图像识别以及学习具有很深远的作用。可以说,作者所提出的几个原则引领了之后对于图像的学习判断的探究。另一方面,作者又提到了关于听觉代替视觉的问题,这一方面我认为是十分具有远见的,这让我想到现在有科学家与公司在进行研究的脑机接口。事实上我认为,未来存在着这样一种方式,将特定的电流输入到脑中或其他部位,而我们的大脑会自动适应并接受这种信号,并最终对新“器官”产生适应效果,而且,这种方式似乎看起来有很广阔的应用前景。

但另一方面,自己也对将视觉化为听觉是存在着疑问的。因为对于视觉来讲,一张图片所提供的信息是一个平面维度上的,而对于听觉来讲,信息的获取是在时间维度上的。这就是说,对于一个图片来讲,先看到的地方不同,我们的感受和获取到的信息是不同的;而对于声音来讲,我们只能够按照顺序听完音频,无法决定自己首要的关注点。所以我认为将视觉化为听觉的类比也有其不恰当之处。

第七章 控制论和精神病理学

这一章大概讲的是从控制论的角度来分析精神病例。首先作者通过将复杂计算机与大脑的类比,认为在大脑中一定也存在着冗余与备份的元件。其次,作者通过“在机器遇到故障的时候我们该怎么办”来类比从而为人脑解决病理问题找到出路:睡眠,休克疗法等。

之后,作者又提到了人类的神经元链所导致的出现问题的概率更高,会导致各种各样的问题,最后他提到可能人类的大脑正在从高度专门化从而最终到物种毁灭。也许不断地专精智力也不是一件好事。

第八章:信息、语言和社会

这一章将控制论应用到社会学中,作者认为,对于一个个体来讲,其个体的信息量大于其细胞的信息量,而个体的稳定性大于细胞的稳定性,但是对于社会则不然:社会可能并没有个体所包含的那些信息,而社会的内稳定性也不一定有个体强。而这种稳定性又从何而来,作者又进一步指出,当个体之间的联系越来越强的时候,群体的稳定性也就越来越强。这让我想到KK的《失控》一书,书中的最开始,作者将一群蚂蚁看作一个个体,而非将一个蚂蚁看作一个个体,我认为这也是一种看待问题的新视角。

在附注中,他又提到了类似于人工智能的象棋AI。不知道如果说今天连围棋都已经几乎被机器功课了,作者会作何感想。不禁慨叹当今科技的进步。

第九章:关于学习和自生殖机

作者在这一章提出了一个很有趣的观点,即低等生物是通过繁殖来进行学习的。这让我想到,如果不把这样的低等生物看作一个个个体,而是把他们整体看作一个个体,个体的死亡并不代表其死亡而只是代表其一个学习的迭代过程呢,似乎是一种新的视角。

另外,作者也提出了一个问题,即机器能不能自我繁殖。而这个问题也引发了我的进一步思考。我们是否可以通过学习的方法,使得程序可以进行自我编程与进化,从而规避杀毒软件从而无法被消灭,我想这是可能的,同时也是可怕的。

第十章:脑电波与自行组织系统

最后一章,作者又谈到了医学。其实讲的就是脑电波的傅里叶分析,但那堆公式分析还是没看懂。不过他还谈到了计算机中为了使各部件同步工作的同步时钟(闸流)可能在大脑神经网络中也会出现,这样才能保证各个突触能够同时起作用以达到正确的激发效果,而这种同步时钟可能就是脑电波频谱位于10Hz左右的原因。

总结

总的来说,作为控制论的开山之作,其数学论证部分对于我略有些困难,而其对于控制论原理方面则给了我很大的启发。当考虑到这是一本半个世纪之前的书,更不能不对作者的远见佩服,而之后的科技的发展也有很大部分是受其影响。

这本书让我想起《GEB集异璧之大成》(读书笔记,同样是一本跨学科的书籍,同样将不同学科的思想相结合,同样是发人深省的书。也许是自己现在所学还不多,对有些领域知之甚少,并不能完全领会这样的书的精髓。希望以后能多读些书,多了解些各个领域,继续探索这个世界。 

本文链接:https://idealclover.top/archives/140/

本作品由 idealclover 采用 知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议 进行许可,转载请注明出处。

标签: 控制论, 深度学习

4

已有 5 条评论


取消回复
  1. 粥庶人
    粥庶人 回复

    其实这里牛顿力学里更多指的是运动学,做功的问题实质上涉及到热力学,熵增大的方向也就是所谓时间的箭头(这书一大堆数学公式你居然硬啃完了,我们当时老师直接让我们选一个其他主题相关的文章写读书笔记就好……)

    1. idealclover
      idealclover 回复

      其实也就是囫囵吞枣吧 XD 嘤嘤嘤

  2. ysg
    ysg 回复

    看的似懂非懂。这应该是自己从来没有接触的过学科领域。不过,挺有意思,混乱和能量的转换,大概做人做事工作情感上也能适用吧。挺好。

  3. LingC
    LingC 回复

    文章挺不错的,比我的好多了( ̄▽ ̄)╯

    1. idealclover
      idealclover 回复

      QAQ其实就是课程要求的读书报告QAQ就很惨

🤔关于我
翠翠 idealclover
Product Manager @ByteDance
南京大学 2016 级本科生
了解更多
🏠关于博客
基于 Typecho 博客框架
使用个人的 clover clover 主题