标题:“民主”的神经网络:向不完美妥协
大脑的运转依赖于神经元间的“民主规则”。自20世纪40年代起,理论神经科学家尝试通过数学模型解释神经元活动背后的规则,如McCulloch-Pitts模型的鼓掌通过式民主和Linear Threshold模型的乔治·奥威尔式民主。尽管“民主”的神经元模型简化且粗略,但它们高效地构建了深度学习技术的基础。
我们的大脑如同一个热闹的社交网络,拥有860亿个神经元,每天产生海量信息。即使是简单的事件,如看到一块芝士蛋糕,也是大脑中成千上万神经元激烈辩论的结果。这些神经元通过动作电位和神经递质表达意见,最终汇总成明确的概念。
神经科学家认为,情感、记忆、思考和创造都是这些“乌合之众”的共同决定。大脑中的神经网络遵循两个原则:经验由动作电位模式承载,学习通过突触连接变化实现。这种结构在大脑中搭建了信息处理的桥梁。
早期的神经网络模型借鉴了社交网络的概念,将大脑视为节点和连边的计算图。神经元之间的突触连接决定了大脑的功能。谢灵顿反射弧、突触环和赫布理论等概念,逐步发展为现代的神经网络模型,如感知机和联想记忆网络。
感知机模型常用于解释视觉系统,而联想记忆网络则用于存储和提取信息。深度学习技术的成功关键在于找到执行特定功能的神经网络。尽管模型简化,但这些民主规则依然有效,揭示了大脑运作的某些方面。
McCulloch-Pitts神经元模型是一种“鼓掌通过”式民主,而线性阈值神经元则更像《动物庄园》式的民主。这些模型虽简化,但已能解释视觉系统中的选择性和不变性。Hubel和Wiesel的模型展示了视觉皮层中的“简单细胞”和“复杂细胞”如何实现方向选择性和位置不变性。
然而,单层神经网络无法解决异或问题,这引发了神经网络研究的第一次寒冬。直到多层神经网络的算法出现,问题才得以解决。阿罗定理表明,完美民主的社会选择机制不存在。不完美的民主规则却总能出人意料地运转良好,揭示了自然的可能性疆界。
这些模型虽不完美,但仍揭示了大脑和人工智能的深层运作机制。
-
2026-04-24 20:31:56 -
2026-04-24 20:29:51 -
2026-04-24 19:29:38