理解人工神经网络：架构、计算和图表示

人工神经网络 (ANNs) 是受构成动物大脑的生物神经网络启发的计算模型。它们的强大之处在于能够从数据中学习复杂的模式和函数。这篇文章深入探讨了 ANNs 的基本架构，重点关注它们的图表示和计算流程。

构建块：S 型单元

ANN 的核心是 S 型单元。该单元接收多个输入 (x₁, x₂, x₃…)，每个输入都有权重 (w₁, w₂, w₃…)，并产生单个输出 (y)。一个偏置 (b) 也被添加到输入的加权和中。从数学上讲，这可以表示为权重向量和输入向量的点积，然后是一个 S 型激活函数。这些输入可以是原始数据或其他 S 型单元的输出，从而创建一个相互连接的单元网络。

ANNs 作为有向无环图 (DAGs)

ANNs 的互连性质可以用有向图优雅地表示。每个 S 型单元都是一个节点 (s)，有向边 (u, v) 表示单元 u 的输出是单元 v 的输入。与每个连接相关的权重表示为相应边上的标签。这种图形表示阐明了网络中计算的流程。

为了避免计算复杂性并确保有效的学习，ANNs 通常被构造为有向无环图 (DAGs)，这意味着图中没有循环。具有 DAGs 的网络被称为前馈神经网络。相反，循环神经网络允许循环，使它们能够处理顺序数据。

ANNs 中的计算和学习

ANNs 通过调整其权重来学习逼近将输入向量 (x_i) 映射到输出向量 (y_i) 的函数。这个过程包括向网络提供输入-输出对，并迭代地细化权重以最小化网络输出与目标输出之间的差异。在前馈网络中，计算逐层进行，一层输出作为下一层的输入。

层和计算流程

ANNs 通常被组织成层：输入层（提供原始输入数据）、一个或多个隐藏层（执行中间计算）和输出层（产生最终结果）。计算流程按顺序通过这些层进行。每一层的输出都取决于前一层的输出，从而促进信息的层次处理。

输出节点和激活函数

输出节点，就像 S 型单元一样，整合多个输入并应用激活函数来产生它们的输出。然而，激活函数的选择通常取决于问题的性质。像 softmax 函数这样的函数经常用于分类任务，而 S 型函数适用于 (0, 1) 范围内的输出。

结论

理解 ANNs 的图表示可以深入了解它们的计算机制。相互连接的 S 型单元，组织成层并表示为 DAGs，允许高效且强大的复杂函数计算，使 ANNs 成为现代机器学习的基石。

Read the English version (阅读英文版)

免责声明：本文内容来自互联网公开信息，请仔细甄别，如有侵权请联系我们删除。