神奇大脑新皮质与HTM模型

   人的大脑分为三部分：脑核(Central Core)、脑缘系统(Limbic System)、大脑皮质(CerebralCortex)。 其中，脑核部分是掌管人类日常基本生活的处理，包括呼吸、心跳、觉醒、运动、睡眠、平衡、早期感觉系统等；脑缘系统是负责行动、情绪、记忆处理等功能，另外，它还负责体温、血压、血糖、以及其它居家活动等；大脑皮质则负责人脑较高级的认知和情绪功能，它区分为两个主要大块----左大脑和右大脑，各大块均包含四个部份----额叶脑(Frontal Lobe)、顶叶脑(Parietal Lobe)、枕叶脑(OccipitalLobe)、颞叶脑(Temporal Lobe)。

大脑皮质是大脑半球表面覆盖一层灰质，其表面凹凸不平形成脑沟（凹陷）、脑回（凸起）。皮质深层为白质、由各种神经纤维构成、每侧半球内各一个内腔，即侧脑室大脑皮质是神经系统调节躯体运动的最高中枢，同时会它对内脏活动也有调节作用。人类的诸多高级活动，例如听觉、视觉、语言、计划等都由大脑皮质完成。

     大脑皮质是一个较薄的二维结构，面积约为1000平方厘米，厚度约为2.5mm，面积和厚度约接近于一张餐巾纸。大脑新皮质有复杂的褶皱，成为人类大脑的主体，占其重量的80%。新大脑皮质被划分为几十个功能区域，但在显微镜下观察会发现，不同区域的物理特性具有惊人的相似性（基础结构的一致性超乎寻常），也就是说不管是视觉信号、听觉信号，都是用一套机制、一个算法解决问题。

  如果对大脑皮质做个切面，会发现大脑皮质具有6层结构。第一层是最外层。来自II和III层的神经元轴突会投射到大脑新皮质的其它部位。V层和VI层的轴突则主要建立起新皮质外部与丘脑、脑干和脊髓的联系。IV层神经元接收来自大脑新皮质外部神经元的突触（输入）联系，特别是来自于丘脑的。不同区域的层数稍有不同。位于皮质运动区的IV层非常薄，因为在该区域它很少接收源自丘脑、脑干或者脊髓的输入信息。然而枕骨脑叶（负责视觉处理）还有另外三个子层，也被视为隶属于IV层，因为有大量的输入信息流入该区域，包括源自丘脑的。

  HTM模型，即Hierarchical Temporal Memory，翻译为层级时间记忆模型。要想了解HTM模型，还需要了解一点神经元的基本知识。神经元是具有长突触（轴突）的细胞，它由细胞体和细胞突起构成。每个神经元可以有一或多个树突，可以接受刺激并将兴奋传入细胞体。每个神经元只有一个轴突，可以把兴奋从胞体传送到另一个神经元或其他组织，如肌肉或腺体。简单地说，树突(dendrite)是一个神经元的(刺激、激励或冲动)输入，轴突(axon)是一个神经元的输出，突触(synapse)是一个神经元的冲动传到另一个神经元或传到另一细胞间的相互接触的结构。

  对大脑皮质的神经元进行有髓(鞘)的轴突染色体（魏格特氏染剂），发现大脑皮质中包含柱状体(Column)。没有人确切知道新大脑皮质中为何存在层和柱状体。柱状体是HTM大脑皮质学习算法中使用柱状体的原型。HTM皮质学习算法中，一个简单的没有上下文环境的输入会导致整个柱状体的细胞活跃，而在已习得序列中的相同输入只会造成一个细胞活跃。HTM神经元模型如下：

  在HTM模型中，可以存在若干个区域（Region）。一个HTM区域(Region)由固定数量的柱状体(构成)。柱状体逻辑上以2D阵列的形式排列，但并非一定如此。一个区域输入数据的位是固定数量（位数固定）。一个HTM区域的输出是区域中所有细胞的活跃状态，包括因前馈输入而活跃的细胞和处于预测状态的细胞。

   HTM柱状体(Column)由一个或多个细胞组成。柱状体内的细胞共享一个近体端树突，每个细胞有多个末端树突。每一个树突维持着一个突触集合。每一个柱状体关联着输入的一个惟一子集(unique subset)。不同柱状体的输入可能与其它柱状体存在重叠，但不会完全相同。

  空间沉积池（Spatial Pooler）和时间沉积池（Temporal Pooler）是HTM模型中两个重要的概念，对HTM模型实现学习、识别、预测非常重要。

       空间积淀池主要功能是将一个HTM区域的输入转变为一个稀疏模式。空间积淀池的操作在近体端树突。当接受前馈输入后，一个柱状体的共享近体端树突的突触要么是0、要么是1。每一个柱状体的活跃程度，为其输入为1的有效突触数量乘以促进系数(boosting factor)。促进系数由柱状体相对其邻居的活跃频度动态决定。活跃程度最高的柱状体产生抑制信号，抑制半径内保留一定比例的活跃柱状体，其它柱状体则变为不活跃。空间积淀池学习前馈输入的位与柱状体近体端树突的突触的连接。经过抑制操作后，对于每一个活跃的柱状体，调整其共享树突的突触的连通值。连接到活跃输入位的突触增大其permanence，连接到非活跃输入位的突触则减少其permance。空间积淀池的输出是活跃的柱状体集合。

   时间积淀池描述了将情景因素加入表征和预测。时间积淀池操作在末端树突。当一个末端树突活跃突触的数量达到一个阈值（如15，即连接了15个处于预测状态的细胞），这个末端树突就变得活跃。一个细胞将因存在活跃树突而变为预测状态（除非因为前馈输入而变为活跃）。如果一个末端树突活跃，则所有关联突触（包括潜在突触）的permanence连通值将修改。连接到活跃细胞的突触P值增加，连接到非活跃细胞的突触P值则减少。这种减少是临时性的。因前馈输入从inactive到active的细胞，取消对末端树突每一个突触上修改的临时P值。转自：http://blog.sciencenet.cn/blog-460603-1034380.html