04-神经元

7.2.1　神经元

人工神经网络中的最小单位是神经元。神经元拥有一个权重向量，即一串浮点数。输入的向量（也只是一些浮点数）将被传递给神经元。神经元用点积操作将这些输入与其权重合并在一起。然后对该点积执行激活函数（activation function），并将结果输出。上述操作可被视为与真正的神经元行为类似。

激活函数是神经元输出的转换器。激活函数几乎总是非线性的，这使得神经网络可以将结果表示为非线性问题。如果没有激活函数，则整个神经网络将只是一个线性转换。图7-2展示了一个神经元及其操作。

注意 　本节中有一些数学术语可能不会出现在微积分先修课程或线性代数课程中。对向量或点积的解释已经超出了本章的范围，但即便你没有完全理解这些数学知识，也可能从本章后续的内容中对神经网络的行为获得一定的直觉上的了解。本章后面会出现一些微积分的知识，包括导数和偏导数的运用，但即使你没有完全理解这些数学知识，也应该能跟得上这些代码。事实上，本章不会解释如何用微积分进行公式推导，本章的重点将是求导的应用。