多个神经元连接在一起作为节点人工神经网络。从理论上讲,多个神经元可以以任何方式“连接”,因此可以构建多种类型神经网络模型。神经元之间的“连接”不是神经元之间的物理连接,而是“逻辑连接”。 神经元通常用软件模块实现,一个神经元的数据输出作为输入馈送到另一个神经元,即实现两个神经元的“连接”。
其中,最常见的人工神经网络连接模型是分层模型,即多个神经元按层次结构连接在一起。 我们可以从左到右、从下到上或其他方式绘制人工神经网络的分层模型,图 2 是人工神经网络模型的示意图,该模型具有从左到右绘制的三层结构。 这种模型结构通常称为模型的拓扑学所谓拓扑,是指网络模型图中每个节点的逻辑连接。
图2 人工神经网络模型。
在图2中,左边是输入层,右边是输出层,中间是隐藏层或隐藏层,其中每个节点相当于图1所示的人工神经元,中间可以有不止一层的隐藏层。 在图2中,同一层的神经元之间没有连接,输入层到隐藏层和隐藏层到输出层是完全连接的,这意味着上一层中的每个神经元节点都连接到下一层的所有神经元节点。
目前,人工智能的实际应用90%以上使用误差反向传播(BP,有时称为误差反向传播,误差反馈)神经网络或其在人工神经网络中的演化形式。
BP 神经网络它是使用最广泛、最容易理解的神经网络,如图 3 所示。 图3中的外部信号x1、x2为、..XN被馈送到输入层,人工神经元的激活值通过输入层和隐藏层传播到输出层,输出结果Y1和Y2、..yn。就像人们在学习过程中的行为一样,人们总是将自己对事物的学习理解与实际的预期结果进行比较,发现差距,并不断修改学习过程。 同样,在 BP 神经网络中,当输出结果 y1 和 y2 、..如果 yn 和所需的输出值之间存在错误,则该错误将反向传播到前一个网络,并且下次校正不同层中神经元之间的连接权重学习训练以减少此错误。 这种错误反向传播校正过程是连续进行的,因此BP神经网络对输入的响应精度不断提高,直到误差满足所需的要求。 这种校正过程通常被称为BP神经网络的学习和训练过程。
图 3 bp 神经网络模型示意图。
例如,当我们需要设计一个BP神经网络用于对象分类、模式识别或其他目的时,BP神经网络模型是已知的,关键是设置各个权重参数。 此时,假设我们有一个 100 个标准品的目标样本(通常这样的标准样本称为”数据首先,以70个标准样本为输入,根据上述误差反向传播模式对BP神经网络进行学习和训练,并不断校正神经元之间的连接权重,直至误差满足要求。 然后,将剩余的 30 个样本作为输入,测试训练好的 BP 神经网络,看看训练好的 BP 神经网络的应用效果。 目前,这种玩法也是深度学习研究和应用的绝大部分常例
为了更深入地理解(如果你对数学中的空间映射不太了解,你可以跳过这一段):在图 3 所示的 BP 神经网络中,输入层包含 n 个节点,输出层包含 m 个节点,可以看作是 n 维向量(x 空间)到 m 维向量(y 空间)的映射。 数学函数 y = f(x) 的任何变换都可以看作是从 x 空间(有时称为“域”)到 y 空间的映射。 例如,当录制人声时,它是时域中的信号 s(t)——横轴是时间,纵轴是信号幅度的幅度。 然而,从另一个角度来看,我们的人声包含从0到3000Hz的各种频率分量,可以用这个信号的频域(简称“频域”)来表示 s( ) = s(2 f), f 是频率,是角频率——在这种情况下,横轴是频率或角频率, 纵轴是频域中的功率密度(简称功率谱)。因此,输入信号通过神经网络进行训练,得到输出信号。 输出信号可以看作是输入信号的变换特征,因此输出信号的目标空间有时称为特征空间,特征空间通常为多维向量空间。 一般来说,许多输入信号不容易分类和识别,经过线性或非线性变换后,它们在特征空间中变得更容易处理。
说到AI,我们不得不说图灵测试。 图灵测试是英国数学家和计算机科学家艾伦·马西森·图灵给出的定义:测试者和被试(一个人和一台机器)彼此分离,通过设备(如键盘)向测试对象随机提问,如果超过30%的受访者的回答无法让测试者确认哪个是人类,哪个是机器的答案, 然后机器通过了测试,被认为具有人类智能。换句话说,如果一台机器可以与人类交谈,而无法识别它的机器,那么这台机器可以说具有人类智能。 (注:图灵奖,每年为纪念艾伦·图灵而颁发,是计算机科学领域国际最高奖项,被誉为“计算机界的诺贝尔奖”。 )
计算机软硬件技术的早期发展,让许多计算机科学充满希望,人工智能很快就可以通过计算机实现。 然而,在人工智能的早期发展中,无论是专家系统ES还是基于人工神经网络的机器学习系统,人工智能在逻辑、本体、可计算理论等方面的基础理论研究,以及在对象分类、模式识别、机器证明、智能信息处理等诸多领域的应用, 陷入瓶颈
在专家系统方面,世界充满了过于复杂的多元化和多样性,因此存在多个领域的专家。 然而,在每个特定的子领域中,很难穷尽该领域所有专家的知识组合以建立知识库库和规则库RB的所有情况。 另一方面,在解决实际问题的过程中,专家知识的应用效果也依赖于实践经验(包括知识和规则)的积累和应用,有些经验可以被明确描述并转化为知识库KB和规则库RB,而一些隐性经验则包含在专家解决问题的过程中, 这很难甚至不可能明确描述。
在机器学习方面,对于图1中的人工神经元,虽然计算机科学家设计了Sigmoid函数、tanh函数、relu函数等多种激活函数来模拟人脑神经元对外界输入激励的反应,但人脑神经元反应的机制还没有研究清楚,所以不可能找到一个非常满意的激活函数, 更不用说不同的人脑存在巨大的个体差异,人脑中的神经元也大不相同。另一方面,人工神经网络,如BP神经网络,需要在大量的标准样本数据集上进行训练,即使设计了激活函数,这需要大量的计算能力(现在称为“计算能力”)。
因此,由于硬件技术、机器计算能力、数据集大小和环境条件的限制,人工智能技术的快速发展自2024年代以来迅速进入低谷。 例如,2024年在美国启动的CYC项目,构建了庞大的知识库KB和基于知识工程和谓词逻辑代数的复杂推理引擎,被批评为“人工智能史上最具争议的项目之一”。 早期的机器学习也未能取得重大进展,在许多场景中得到了广泛的应用。