The Brain vs Deep Learning

段落大意

本文我也没有读完, 因此只能做一个简单的摘要, 大体来说, 文中在讨论之前风行一时的所谓奇点理论, 当然曾经有王威谦等人对库兹韦尔进行扒皮处理, 但是那种扒皮更多的建立在对其资历的质疑上. 而对于理论的具体扒皮则论述不多.

库兹韦尔的理论主要建立在对大脑的计算能力的估计上, 并通过摩尔定律(芯片计算能力第十八个月翻一番)的估计, 得出计算机在有生之年, 计算能力将达到人脑, 从而实现智能这样的判断.

文章谈到大脑模拟计划的问题, 目前的大脑模拟, 其思路是首先建立神经元的连接(依照大脑), 然后随机神经元的脉冲, 并通过目前对神经活动的了解, 逐步地优化神经脉冲, 当这些神经脉冲能够收敛到和大脑的活动状态类似的情况下, 就认为这种模拟是成功.
这种模拟有三个问题, 第一是无法难特定的科学假说, 第二是模拟并没有模拟生化层面的大脑活动, 第三也是比较重要的一点, 这种模拟对我们认知大脑的功能并没有起到多大的助益, 因为这种模拟是宏观的, 所以我们无法从中分离和提取出一个解释框架, 我们也无法从中提取让这种模拟完成, 识别苹果和梨这样的任务.

接下来, 文章提到, 库兹韦尔对大脑的计算复杂度的计算已经过时了, 神经科学的发展近两年来突飞猛进, 2005年之前我们的神经学的知识只占我们现在所有的神经科学知识的0.098%, 因此库氏的估计方法很多是错误的, 现在来计算大脑的神经复杂度的, 应该做新型的计算.

接下来, 文章一步一步地开始使用新的数据开始分析大脑的计算复杂度, 同时在第一步, 将这种计算与已有深度学习中的神经网络的架构进行对比. 先后分析了, 下丘脑和脑皮层和神经元数目, 类型, 连接数目. 大脑的运算的维数估计, 中间结点维数估计. 等等. 后面我也看得比较草草, 就不细说了. 看这张图, 也许大体就明白精华所在.

brain_complexity