hello，各人好，我是小孟，欢送来到我的频道，创做不容易，喜好的请三连：存眷、点赞、保藏。研究一个手艺，我喜好逃根溯源，并看看最起头的手艺是若何开展的，履历了哪些立异，现有的手艺还有什么问题。今天，带着那个问题，我们来聊一聊感知机。
我的别的一篇文章介绍了深度进修开展史，各人有兴趣能够阅读：深度进修：手艺开展史科普
一、手艺布景
我们都晓得，我们的大脑是由物理神经元构成，神经元是大脑施行计算和信息传递的次要细胞类型，其根本构造包罗细胞体、树突、轴突和突触等多个部门，如下图所示：
图1 物理神经元
细胞体是神经元的中心，它包罗了神经元的细胞核和其他重要的细胞器。树突是从细胞体延伸出来的一些突起，它们领受来自其他神经元的信息，并将那些信息传递给细胞体。轴突则是另一种突起，它们将神经元的输出信号传递给其他神经元或者是肌肉等目的器官。神经元之间的毗连点叫做突触，通过突触，神经元之间能够停止信息传递。当一个神经元领受到来自其他神经元的信息时，那些信息会被转化为电信号并沿着树突传递到细胞体。在细胞体中，那些电信号会被集成起来，并按照神经元本身的特征产生一个输出信号。若是那个输出信号超越了必然的阈值，神经元就会通过轴突将那个信号传递给其他神经元或者目的器官。
大脑中的神经元之间彼此毗连，构成了一个复杂的收集构造，那个收集构造的复杂性使得大脑能够处置各类各样的信息，包罗视觉、听觉、触觉等多种信息。通过那种体例，大脑中的神经元可以施行高级的计算使命，例如进修、记忆和决策等。
1943年，受大脑的神经元构造的启发，神经科学家Warren McCulloch和数学家Walter Pitts提出一个基于神经元模子的计算机理论，称为“McCulloch-Pitts神经元模子”。McCulloch-Pitts神经元模子是一种二值逻辑模子，它基于一个假设，即神经元能够被看做是一个逻辑门。神经元能够承受来自其他神经元的输入信号，并将那些信号加权乞降，并将其传递给一个阈值函数。若是加权和超越了阈值，则神经元会输出一个脉冲，不然它会连结静行。它指出神经元的行为能够被描述为一个逻辑函数，而且那个逻辑函数能够通过神经元之间的毗连关系停止计算。
1957年，Frank Rosenblatt提出了感知机模子，并在《心理学评论》（Psychological Review）杂志上颁发了关于感知机的论文《The PErceptron, a Perceiving and Recognizing Automaton》。感知机模子是一种二元线性分类器，它遭到McCulloch-Pitts神经元模子的启发。感知机能够领受输入向量，并按照输入向量中的权重和误差值计算加权和，然后将那个值输入到一个激活函数中。若是那个值超越了激活函数的阈值，感知机就输出1，不然输出0。那个模子能够用来处置线性可分问题，也就是可以用一条曲线或者超平面将两类数据分隔的问题。
二、做者简介
Frank Rosenblatt（1928年 - 1971年）是一位美国神经科学家和计算机科学家，他是神经收集范畴的重要人物之一。Rosenblatt在神经科学和计算机科学范畴的研究功效关于鞭策人工智能和机器进修范畴的开展有着重要的影响。Rosenblatt的研究次要集中在神经科学和计算机科学的穿插范畴，他的次要奉献是创造了感知机模子并应用于形式识别和分类问题上。
除了感知机模子，Rosenblatt还开发了Adaline（适应性线性元件）算法，那是一种用于持续输出的单层神经收集模子，能够用于回归问题。他还研究了神经元的计算和传递信息的机造，并发现了神经元进修规则中的Hebbian进修规则，那在神经收集的进修中起着重要的感化。Rosenblatt是一位十分有成就的科学家，他的研究功效对神经收集范畴的开展和机器进修的前进都产生了重要的影响。固然他在1971年逝世，但是他的功效和思惟仍然继续影响着当今的机器进修和人工智能范畴。
三、手艺核心原理
Rosenblatt在论文中提出了一个用来训练感知机的算法，称为感知机进修规则（perceptron learning rule），它能够按照输入数据停止权重的更新。该规则的根本思惟是通过频频将训练数据集的样本输入到感知机中，然后按照感知机的输出与期望输出之间的误差来更新感知机的权重和误差值。详细来说，感知机进修规则能够分为以下步调：
1、初始化权重和偏置值。关于有n个输入特征的感知机模子，能够将其权重和偏置值初始化为0或者随机数。
2、关于训练数据集中的每个样本，施行以下步调：
a. 将输入向量乘以权重向量，再加上偏置值得到感知机的加权和。
b. 将加权和输入到激活函数中，得到感知机的输出。
c. 按照感知机的输出与期望输出之间的误差，调整权重和偏置值。若是感知机输出的值与期望输出的值不异，则权重和偏置值不需要更新。若是输出值与期望输出差别，则能够按照以下公式更新权重和偏置值：
此中，是第i个权重值，是进修率（learning rate），是期望输出的值，是感知机的现实输出，是第i个输入特征。
3、反复施行步调2，曲到模子收敛或到达预定的迭代次数。如下图所示：
图2 感知机进修过程
如许，感知机能够逐步调整本身的参数，最末可以准确地分类输入数据。
四、手艺应用
论文的颁发引起了普遍的存眷，感知机被认为是第一个胜利的神经收集模子之一，而且在计算机视觉等范畴中有着普遍的应用。
在图像识别范畴中，感知机模子被用来识别手写数字。通过将每个数字暗示为一个固定长度的二进造向量，并将其输入到感知机中停止训练，最末实现了敌手写数字的识别。在语音识别中，感知机模子被用来对语音停止分类和识别。通过将语音信号转化为特征向量，并将其输入到感知机中停止训练，最末实现了对差别语音的分类和识别。在控造系统中，感知机模子被用来设想自适应控造系统。通过将控造系统的输入和输出暗示为向量，并将其输入到感知机中停止训练，最末实现了对控造系统的自适应调理。
五、开展碰到瓶颈
1969年，Marvin Minsky和Seymour Papert出书了一本名为《Perceptrons》的册本，指出了感知机模子的局限性，即它只能处置线性可分问题，不克不及处置更复杂的非线性问题。
并通过一系列数学证明，证了然单层感知机无法处理一些简单的问题。此中更具代表性的是针对异或（XOR）问题的证明。异或问题是指关于两个二进造数的输入，输出是那两个数差别的位的集合。详细而言，关于输入 (0,0), (0,1), (1,0), (1,1) 四个点，异或问题的输出别离是 0, 1, 1, 0。Minsky和Papert证了然，若是利用只要一个阈值的单层感知机来处理异或问题，那么就需要对每一个输入设置差别的权重和阈值，而那是不成能实现的。他们还操纵投影映射的概念，证了然单层感知机无法处理线性不成分问题。那个发现招致了感知机模子的研究停顿遭到了障碍。
但是，书中提出了多层感知机的设想思绪，并给出了一个两层感知机的例子。该例子包罗了输入层、隐藏层和输出层，此中隐藏层的存在使得感知机能够处理线性不成分问题。
六、完毕语
单层感知机是一个简单的神经收集，可以处理一些线性可分的使命，不克不及处置更复杂的非线性问题，但是却是神经收集开展的基石。是领会深度进修开展的根底泉源，关于我们领会深度进修的开展十分有帮忙。
发表评论