机器学习之旅:Day13 机器学习实战

liebian365 2024-11-13 13:31 21 浏览 0 评论

今天是开始机器学习之旅的第13天，也是本系列的第6篇文章。

最近看到一篇很好的文章：Machine Learning for Beginners: An Introduction to Neural Networks - victorzhou.com，里面介绍了神经网络的原理以及代码实现，可惜是英文的，正好就是我需要的内容，下面就用我自己的话讲一遍：

神经网络其实就是若干个神经元构成的网络，单个神经元的数学表示，之前的文章或者微头条里已经写过了：

y = a(w1 * x1 + w2 * x2 + ... + wn * xn + b)

或者y = a([w1, w2, ... wn, 1] · [x1, x2, ... ,xn, b])

其中w代表权重，b被称为偏置，a被称为激活函数。

有了1个神经元之后，把2个神经元的输入作为另一个神经元的输出，这就是最简单的神经网络了，大概长这样，这里偷个懒贴一个原文中的图片：

机器学习最关心的事情，当然是预测的效果如何，这里，我们用一个函数L代表预测的结果和真实值之间的偏差，用来量化预测的准确性。

L(w1, w2, w3, w4, w5, w6, b1, b2, b3)

如果参数非常多，如何把各个值“最快”的调整到“最优”，就是我们需要下一步的重点。

何为最优，简单说就是预测的结果和真实的结果相差最小。

何为最快，其实哪怕每次各个参数随机增加或者减小一点点，L的值肯定不同。而增加或者减少多少，通过L作为运算的因子，“反过来”作用于各个w和b，就是所谓的反向传播了。而所谓最快的把参数调到最优的方式，就是梯度下降。

行文至此，我觉得我内心最关心的问题，也就是在神经元的前提下，如何表达神经网络的问题，其实已经解决了。作者在原文中贴出了代码，简单来说小规模网络就是hard code，把上一层节点的输出作为下一层的输入。

后面的内容会用到一些数学知识，后续再讲吧。

hardcode

相关推荐