从机器学习到机器认知

我之前与人工智能相关的文章（推荐）

• 神经模式
• 为什么真正的神经元学习速度更快

当今人工智能

我们已经成功地利用机器学习开发了面部识别、游戏智能、自动驾驶汽车或语言翻译。通过模仿大脑神经元的数学生成模式，这些系统能够学习并执行类似人类甚至超越人类的动作。这有力地证明了这种方法是有效的，并且我们从大脑中复制的模型是有效的。我们知道，当我们制造出第一架飞机或第一枚火箭时，总有一天我们会飞向月球。今天，我们知道，总有一天，我们将制造出智能机器——我们只是不知道需要多长时间。

一些哲学思考

我们某种程度上是为了创造智能生命而设计的。今天的所有发现似乎都指向这个方向，我们无法阻止这种进步。这看起来并非偶然。是的，数十亿年的进化可能是试错，但在100年内从刀剑发展到计算机、智能手机、火星飞行和互联网，这并不像是随机的进化……更像是一场为了到达某个地方的冲刺，也许是为了殖民其他星球，拯救自己免于灭绝或自我毁灭。或者为了同样的目的，变成别的东西。

我们将看到智能机器会如何改变或取代我们，这不是我们能控制的事情。现在考虑这个困境还为时过早，未来几百年将如同科幻电影一样，智能机器人将与我们共存并提供帮助。

AGI论文和文献

互联网充斥着关于如何创造AGI的概述和设想。它们绝大多数是文本形式，因为每个人都有自己的看法，但很少有人提出实际可行的想法。有子系统的蓝图以及它们如何连接……而大脑只有几个看起来内部大致相同的主要部分。神经学观察和抽象设计可能会有所帮助，但也不会神奇地解决问题。

我认为，今天就考虑设计AGI是天真的。我们最好的希望是猜对方向。

关于认知

大自然并非始于智能生命。它们是由能够适应环境并执行简单生存任务的简单生物创造出来的。也许为了实现智能，这样做也是个好主意。也许我们必须遵循自然的道路，设计能够执行基本任务的更简单的系统。

研究蠕虫、蚂蚁、苍蝇和其他神经元数量较少的生物可能会让我们走上正确的轨道。这些生物只是对外部传感器做出反应并相应行动，它们没有自己的想法。如果我们设计类似的系统，我们将从错误中学习，并弄清楚智能的来源。我们将创造更好的神经模型并加以改进。

想象一下地上的蚂蚁。它可以执行以下动作：

• 如果它饿了或一天中的特定时间，它会把食物带回家。
• 如果有危险，它会逃跑。
• 如果没有家，它会建造一个家。
• 到了时候，它会创造出其他的蚂蚁。

这只蚂蚁不会被内在的想法所困扰。它不能画画或写书。但它具有某种自我意识或自我保护能力，因为它会对外来危险做出反应。所有这些基本动作都写在它的DNA中，并代代相传。

实际上，它所有的行动只是对外部因素、周围刺激的反应。基本上，这是一种认知，一种思考。根据词语的定义，这算不上智能。

因此，我们可以将认知定义为基于刺激做出并确定优先级决策的能力。

我们今天可能拥有的一些人工智能认知系统是自动驾驶汽车、自主机器人、无人机或工业机器人，它们都能解释周围的刺激并采取直接行动。

当认知达到一个成熟的水平，系统能够生成自己的决策、动机或算法，或者它能够创建存储记忆之间的联系或生成行为的推测性后果时，我们可以说这个系统是智能的。所以，智能是认知的最高形式，拥有更多的网络能力和更多的神经元。当然，也可能存在不同级别的智能，例如狗、海豚或大象。

到目前为止，我们已经成功地模拟了动物神经系统中最重要的部分之一——感知和狭义认知。机器学习基本上是我们从自然设计中复制的第一个算法。逻辑上，在学习之后，下一步可能是创造认知，然后是智能。

机器学习 -> 机器认知 -> 机器智能

机器认知

这个术语已经存在，作为人工智能的泛称，但应该稍微缩小其定义。我们可以称之为机器推理或机器思考，它不是智能。

让我们说，机器认知是具有决策能力的神经网络。

决策（行动）基于输入传感器加上一个动机/奖励/优先级触发器。这个网络能够做出原始的判断/决策，就像原始生物一样。

让我们考虑一些类似于蚂蚁的东西，它的“大脑”是一个认知机器。想象一个仓库里的机器人，如下所示：

这个机器人检测存储区域是否有箱子，并将它们移到平台上。

假设这就是我们想要实现的最简单的认知形式，类似于动物。这可以通过编程方式实现：

if (storage area has box)

then move it to platform.

或者我们可以使用一个神经元来实现这个决策。实际上，一切都在同一个网络中：

• 输入（传感器、刺激）——可以是任何视觉/语音检测系统，可能基于机器学习，将信号转换为概念。
• 概念区域——可以接收和匹配来自多个传感器的信号，并能够匹配（识别）同一个概念。
• 奖励区域，由传感器反馈自我调整，负责触发神经元的动作。可能是一个用于优先处理概念的学习系统。

同样地，我们可以有多个神经元来实现对不同颜色箱子和不同动作的决策。或者像编程的“switch”语句一样，根据颜色来优先处理箱子。

决策神经元

我们为什么要使用神经元来实现决策？

简而言之：因为否则这些系统永远不会进化到智能。

将逻辑/决策保留在网络之外是目前所做的。对于决策，我们使用的是基于运行在CPU上的软件的自动化系统，而不是人工认知网络。虽然这些系统运行得非常好，并且在很长一段时间内仍将存在，但它们是有限的。基本上，这些程序执行简单的迭代任务，或者在带有数百万行代码的监视器窗口中移动控件和数字。这种方法在处理游戏和简单的狭义任务时可能很好，但在处理通用概念时效果不佳。它们无法确保足够的内部连接。

它们很难进化到智能。所需的复杂性太高，无法模拟想象力、直觉等。图像识别是通过神经网络开发的，因为无法为其生成迭代算法。认知也应该如此；决策应该使用神经元，认知应该与概念和学习一起保留在网络内部，因为它们有共同的神经元。

虽然仍然有可能在外部模块上实现认知，或者通过外部系统加速其进程，但要动态地调整概念与决策之间的联系并随时添加可能的决策，这是编程算法无法实现的。任何编程形式的智能都将需要比所有内容都包含在内的系统多得多的资源，并且不够灵活。

尽管如此，认知可能是智能链中最容易实现的部分。

机器智能

这是最高级别的认知。当我们成功地基于机器学习建立概念识别并基于机器认知进行推理时，下一步就是使网络灵活，就像大脑一样。

新改进的智能网络将不仅能够确定决策的优先级，还能够在输入模糊的情况下生成新的决策、动机或行动算法。这将是一种算法的机器学习，网络将能够评估适用的正确认知，评估结果，重新调整输入或所选决策，并从中学习。这种对后果的评估和重新调整所选认知算法的能力将带来想象力、预见性、创造力，从而带来智能。

当我们拥有认知机器时，我们将弄清楚如何在运行时实现这一点。我们需要创建神经模型和人工网络，然后请神经科学来确认它们。神经学本身无法提供答案，仅仅通过观察神经元几乎不可能确切地弄清楚大脑是如何工作的。应该反过来进行；爱因斯坦相对论的一部分（引力）在几十年后才得到检验，当时人类能够进行太空飞行。在1900年，它们只是想象中的实验和数学公式，后来被证实是真实的。

我们不会设计智能；它将由连接生成。

认知神经网络

这些是带有决策神经元的神经网络。

深度学习可以有所帮助，但无法单独实现认知；它将仅限于学习和狭义推理。它可能提供下一步的最佳行动，但它无法将概念联系起来并根据动机做出决策。随着我们处理这些类型的网络，我们将更好地了解如何将它们联系起来。这可能仅仅是拓扑结构的问题。

这些类型的网络将能够做出原始的判断和决策，就像原始生物——蚂蚁、蠕虫等一样。它们可能实现自卫、生存或自我意识的决策。它们还将具有自我调整的能力，不仅通过反馈，还可以通过类似于神经递质的东西来影响整个网络。

挑战在于将决策与概念联系起来，或设计灵活的奖励子网络——所有这些都将有助于找到通往智能的进一步道路。

从共同的神经元的角度考虑大脑，这些神经元可以同时触发不同的模式。当我们学到足够多的知识来处理认知时，通往智能的道路将自行出现，因为我们将弄清楚概念和决策是如何在神经元上混合和映射的。

真实大脑中的认知——杏仁核

人脑使用一个专门的部分来处理决策/动机/奖励，称为杏仁核。它被放置在中间，正是因为这个原因——以便与其他所有部分正确连接。神经递质在杏仁核的决策中也起着巨大作用，通过自动调整整个奖励系统。

“杏仁核……在记忆处理、决策和情绪反应（包括恐惧、焦虑和攻击性）中起着主要作用，杏仁核被认为是边缘系统的一部分。”(https://en.wikipedia.org/wiki/Amygdala)

杏仁核中神经元的类型和映射可能启发新型神经网络模型。

• https://nba.uth.tmc.edu/neuroscience/m/s4/chapter06.html
• http://learnmem.cshlp.org/content/18/4/226/F1.expansion.html

“每个ITC神经元抑制同一簇中的三个随机选择的神经元（图中仅显示了一个投射）。“——这可能是基于感觉神经元的反馈如何进行优先级排序。

不太高级的生物，例如蜜蜂，拥有多达一百万个神经元，它们使用一种略有不同的奖励系统。

“研究已列出了40种不同的特定神经元。通过先进的成像技术，已显示一个神经元可以影响特定的认知功能，介导基于奖励的学习。”

（http://jonlieffmd.com/blog/the-remarkable-bee-brain-2）

我们必须记住，大自然以这些主要目标设计了所有这些生物：生存、繁殖、进化。我们需要问问自己，为什么在生存已经足够的情况下，进化仍然存在。

通往智能的路线图

1. 机器学习（当前）

• 深度学习及其衍生产品
• 机器学习应用
• 改进计算神经科学的需要
• 需要样本更少的新型神经网络模型（进行中）
• 获取概念并在网络内部容纳它们的能力

2. 机器认知（5-20年内）

• 基于拓扑结构而非数学的认知神经网络
• 真实概念的吸收和联系
• 与概念相关的动机、优先级、奖励
• 复制/模拟简单生物的神经系统
• 与网络连接的原始语言的初步形式——第一个真正的NLP
• 自动驾驶汽车、配送机器人、无人机、工业机器人、战争机器
• 其他认知机器人或系统

3. 机器智能（20-50年内）

• 高度灵活的认知网络，能够生成自己的决策、算法，并随时调整动机/奖励
• 能够选择正确认知、评估后果并重新调整决策的新型网络拓扑和神经网络模型
• 改进的语言，表达概念、决策、动机
• 先进的认知系统/机器人，变得真正有用
• 意识和自我意识作为关于自我和自我保护的认知形式

4. 人类智能——AGI（50-70年内）

• 智能机器在许多领域与人类相当或超越人类
• 更好的NLU、NLP，通过图灵测试
• 人类在情商方面仍然更胜一筹，而机器在其他方面超越人类
• 用于关键决策的高级推理系统——HAL9000

5. 超级智能——ASI（70-150年内）

• 系统可以为人类做出关键决策
• 机器人可以领导活动
• 世界末日
• 智能系统可以做出高级发现
• 关于世界末日的玩笑

新型神经网络模型的必要性

当前的神经元创建于1950年左右，当时测试模型的潜力受到极大限制。进步不仅在于将深度学习推向极致，还在于改进神经网络模型。计算神经科学应作为一项广泛的学科发展，未来的突破将来自这里。

目前形式的人工神经网络试图通过调整内部模式来将输入引导到输出。高级数学被用于此，而且非常消耗资源，因为计算会来回进行以通过反向传播调整权重。

大脑并非如此工作。它单向进行，并在每一步进行快速计算（总和高于动作电位？然后将信号进一步触发）。也许基于拓扑结构的新模型性能会更好，也允许更多不同类型的连接，并利用神经元邻近性。

下一代神经网络可能是混合型的，集学习和认知于一体，具有不同的连接拓扑结构。智能是连接和共同神经元的问题——一个模式触发另一个，再触发另一个，等等，数十亿个灵活的连接可能带来预期的结果。

虽然机器学习在未来几年将具有更广泛的应用和巨大的成功，但机器认知的演变将是艰巨而缓慢的，回报将姗姗来迟。在很长一段时间内，基于软件决策的系统将比基于认知网络的系统表现更好。但当它们能够理解语言并做出自己的判断时，那将是构建它们的正确途径。

在某个时候，我们可能希望将决策部分从网络中分离出来，只保留推理，然后将这些网络用作庞大的助手、顾问、研究员。

我们每天都能看到数百万个智能神经网络，它们都完美地工作。想象一下高速公路上成千上万的司机。他们所有的神经网络都在全速运转，以类似的方式工作，没有错误。它们最初的结构，那个空网络，非常相似，并且存储在极其微小的东西中，就像DNA一样。这种结构从单个细胞演变而来（也是沿着数十亿年的进化过程），通过观察它在不同阶段的状态，我们可以从中了解到很多关于它是如何构建的信息。

关于概念和认知的思考

如果我们观察一个神经元，我们会发现这个细胞实际上在做一些简单而令人印象深刻的事情——它将信息转化为概念，将数据简化为基本要素。

人工神经网络做的也差不多。通过强制的方式（通过反向传播调整权重），真实的大输入被简化为一个单一的输出。不知何故，真实神经拓扑结构做得更轻松。它不是试图达到某个特定输出，而是创建一条随机路径，穿越几乎随机分布的神经元。这种努力消耗的资源要少得多。

也许我们应该把输出带到随机生成的路径，而不是试图创建一条通往输出的路径。

学习网络基本上是相似输入的简化输出。概念可以通过多种感官（视觉、听觉、触觉、可能还有记忆）获得，但它们反映的是同一件事，内部生成一个单一的模式。感官最初会联系在一起（“安德鲁，不要碰猫”），但之后，单一感官就可以独自生成完整的模式（听到“猫”这个词或看到它）。

存储概念

它可以是一个单一的网络区域，将概念存储为随机生成的模式。为了连接不同的感官，同一个感官同时触发的神经元应该被联系起来并发送到输出。

当然，关于存储概念可能有很多想法，关键在于我们需要在认知网络中容纳它们，以便以后处理智能。

示例

让我们考虑一个简单的认知系统，它有多个输入概念和决策，一个仓库里的机器人。

• 如果是木箱，把它放在平台上。
• 如果是猫，把它吓跑。

猫是优先事项，因为它可能干扰其他进程。

根据过去感觉神经元的反馈（猫造成的破坏更大），奖励/优先级/动机系统将在两个输入概念都存在的情况下，将猫安排为优先事项。

在实现这些之后，我们可以：

• 添加不同颜色的箱子，并教会系统优先处理它们：先红箱子，然后是蓝箱子。
• 添加一个人类监督员，并教会机器人向人类报告猫的存在。

现在概念包括：红箱子、蓝箱子、猫、人。

行动：移动箱子、吓猫、向人类报告。

决策和优先级由同一模块进行和调整。

挑战在于动态地在同一个网络中实现所有这些，即使是在单独的模块中并具有不同的拓扑结构。以后我们会弄清楚如何更好地将它们联系起来并添加更多。

认知网络的原始语言

以上面的例子为例，我们可以直接从网络内部的神经元创建一种原始语言。奖励模块可以直接将概念存在或当前动作发送给语言翻译器。同时，它也可以接收指令。

输出示例

1. 存在红箱子
2. 存在蓝箱子
3. 红箱子动作
4. 存在猫
5. 猫的动作
6. 蓝箱子动作
7. 存在人
8. 报告猫
9. 蓝箱子动作

输入示例

1. 将蓝箱子设为优先
2. 移除猫的动作
3. 报告猫的存在

这不是基于文本文件分词的NLP，而是认知网络内部的直接连接——一种真正的语言。

一点历史

在完成这篇文章几周后，我在图灵档案馆中发现了一段精彩的历史。

“如果我们试图制造一台智能机器，并且我们尽可能地遵循人类的模型，那么我们应该从一个能力非常小的机器开始，它只能进行复杂的运算或服从命令（以干预的形式）以一种有序的方式做出反应。然后，通过施加适当的干预，模仿教育，我们应该能够修改机器，直到它能够对某些命令产生确定的反应。这将是这个过程的开始。我现在不打算继续深入研究。”

艾伦·图灵，《智能机械》，1948年
（http://www.turingarchive.org/viewer/?id=127&title=24）

结论

未来的问题在于它从来不像每个人看到的那样。在某个时刻，我们甚至无法想象一些可能改变整个视野的突破。例如，在1900年，人们想象了机器人和登月，但没有想到电视。

因此，即使我们预见到人工智能的许多变化，但一切都可能出错，最终，我们可能会用CRISPR创造出生物大脑，用数学取代我们现在所做的一切……。

摘要

• 我们从大脑复制的神经模型是有效的并且正在发挥作用。
• 总有一天，我们将创造出智能机器。
• AGI目前并非真正可以设计的东西。
• 我们可能需要遵循自然的道路，并复制认知生物的设计。
• 我们可能需要机器认知作为通往智能的中间阶段。
• 我们还可能需要将决策保留在网络内部，以确保有足够的连接。
• 人脑有类似的设计——杏仁核。
• 智能可能由连接生成，而非设计（就像图像识别一样）。
• 我们需要更多神经网络模型和更多全球范围内的计算神经科学。
• 语言直接连接到网络。
• 通往智能的路线图。
• 未来仍不确定。

历史

• 2019年6月30日 - 初始版本
• 2019年7月1日 - 图片已修复
• 2019年7月6日 - 文本修订，修正错别字
• 2019年7月15日 - 添加了艾伦·图灵的参考文献