近日 CCAI 2018 大会上,中科院神经科学所所长,中国科学院院士,美国国家科学院院士蒲慕明作题为《脑科学与类脑机器学习》的主题演讲。以下为演讲小结:
可借鉴的自然神经网络特性
1. 神经元的种类
兴奋性和抑制性神经元活动的平衡是正常网络功能所必要的。
- 突触延迟(synaptic delay)在神经环路中起关键作用。
- 抑制性中间神经元通常出现在兴奋性输入之后,可防止神经元过度兴奋,可消除脉冲序列(spiketrain)的尾巴以提高信息的时间精确度(temporal precision),可通过抑制旁侧的神经元的兴奋性以增加对比信息的空间精确度(spatialprecision)。
2. 多方向(顺向、逆向、侧向)的神经连接
连接不只有一个方向,大多数的连接是正向的,也有逆向的,也有侧向的,而且兴奋性和抑制性神经元都有多方向的联接,而且是有空间和神经元种类特异性的联接。
3. 神经突触的可塑性
突触的功能有可塑性:传递效率的增强与消弱 (LTP/LTD); 可依赖于突触前后神经元同步电活动的频率,也可依赖于突触前后神经元电活动时序 (STDP)。
突触结构可塑性:包括树突棘的形态变化,和突触的新生(formation)与修剪 (pruning)。
突触可塑性的传播; LTP 和 LTD 的有序传播:包括逆向转播(Back-Propagation),突触效率可减弱也可增强,和侧向传播(LateralPropagation)有选择性地在突触前和突触后传播。
4. 记忆的储存、提取与消退
理解记忆不应只关注储存问题,还有记忆消退问题, 消退的意义可能比储存还要更重要。
- 记忆的储存:网络中特定突触群的效率与结构修饰。
- 记忆的遗忘:突触功能与结构修饰会随时间消退。
- 短期记忆转化为长期记忆:有规则重复的重要性。
- 记忆提取:电活动的再现于储存记忆的突触群。
- 强化学习:依据输出的结果对学习相关突触群的修饰, 调质神经元在修饰中的作用。
5. 赫伯神经元集群概念的应用
- 使用嵌套式集群来组成多成分、多模态的信息。
- 不同模态的信息在网络的不同区域处理时,可通过侧向连接进行交互影响。
- 可使用同步或有相差的电活动来捆绑不同区的神经集群。
- 输入信息的拓扑结构在传输过程中的不同层面有所保存。
对人工神经网络/机器学习的建议
- 摆脱深度学习网络的诱惑。
- 建立全新的人工网络架构和算法,目标是高效、节能、无监督或者半监督学习。
- 以脉冲神经网络为基础,加入传递延迟。每一个突触传递都有一个时间延迟,这是很多网络处理信息的关键。
- 从简单网络为基础,每次加入一个自然神经网络的特性,检测其效能,然后逐步完善。