设计意识系统
4.25/5 (5投票s)
创造有感知能力的代理
引言
这篇文章可能比实际需要早了 30 年，但我希望您在阅读时会觉得有趣，就像我在撰写时一样。它至少假设了机器认知的存在——能够推理、理解世界模型和概念、与环境变化进行恰当互动的 AI 代理或系统。
不需要奇点。它们不必通过图灵测试，也不需要拥有什么了不起的语言技能。
1. 聊天机器人和助手
目前，在 2019 年，我们有许多基本向公众开放的聊天机器人和助手。它们都不够智能，它们都不能给人留下你正在与一个智能或有认知能力的生物交谈的印象。过去 30 年的进展很小，似乎只是添加了更多功能，或者它们使用了更好的语音识别，但在推理能力方面没有任何提升。离我们期望的真正互动的实体出现，可能还有几十年。这需要真正的认知网络。
我在之前的文章中已经解释过。现在，聊天机器人是在大型文本数据库上训练的机器学习系统，有时会尝试微弱地将概念联系起来。这其中几乎没有认知。但在未来的某个时候，这种情况将会改变，这些网络将拥有记忆、世界理解、规划、预知、同理心等等。
我们最接近理想助手的形象来自科幻领域。一个智能、有名字的实体，在我们在家或通过手机时与我们交谈，并帮助我们处理日常事务。或者，它可能会通过植入的大脑设备与我们交流。有时，这个实体是一个能够执行各种任务的家庭机器人。无论哪种方式，我们都会认为这个实体是智能和有意识的。
也许一个指甲盖大小的芯片就能完成这项工作，并且会集成到各种设备或电器中。这样的芯片可以让你的门与你交谈，也许让你离开它时感到遗憾。或者，云端会有一个单一的代理，控制你所有的设备，随处可访问。
一旦我们拥有了智能机器，真正的语言处理将很快到来。在自然界，语言出现在 10 万年前，是在人类大脑足够聪明之后。但在那之前，我们可以设计和研究有意识系统的原理。
2. 意识
我预计在这里会有大量的不同意见，但为了能够创造和设计它，我们需要保持简单和不那么抽象。我将把它与觉知和有感知能力混合在一起，并将一切定义为认知系统的一个属性。
意识是一个系统对自己和环境进行推理的能力。
推理有不同的级别。从对周围环境和自我保护的觉知（一只蚂蚁感知到危险并逃跑）到对一切的认知并能够表达出来（一个人）。
一个可能的超级智能将拥有更高程度的意识，并可能在量子或宇宙层面感知现实。
意识不是障碍，它没有一个临界点。它是一个具有多个可能值的属性，在觉知的范围内。
关于这一点已经写了大量的文章。如果它们过于复杂，或者涉及神性、抽象概念、内在恐惧、自我或无知，它们都无济于事。我们不会用玄奥的观念创造意识。
3. 真实意识 vs. 表观意识
如果我们有一个知道自己名字、能够推理自身本质和世界的机器人，我们可能会认为它是有意识的。如果它看起来像活的，并且能够说话，我们会更加如此认为。
嗯，下面模仿的机器人几乎没有这些特征，甚至完全没有，但它看起来可能还是有意识的。
这里发生了什么？机器人的反应，它的移动方式等等，让我们对它产生同情心。它几乎什么也没说，我们却为它感到难过。它内在的认知只处理平衡和物理运动。我们认为它感到了痛苦，并倾向于将其视为一个生命体。而它所做的只是通过简单的规则对环境做出反应。
所以，系统真实的意识可能不是我们感知它活着的最重要因素。是这个秘密的成分让我们感知它有意识，那就是机器人能够在我们身上激起的同理心。就像真实的意识一样，同理心直接与具有多个可测量值的属性相关联。
我们将此属性称为感知意识或表观意识。
4. 同理心
让我们考虑一个能够推理自身和世界的认知系统。根据之前的定义，它是清醒的。如果它什么也不做，不移动也不交流，我们就永远不会认为它是有意识的。
但是，如果这个系统能够与我们互动，我们可能会感知到一定程度的意识。这个参数（表观意识）似乎与系统激起同理心并被视为活体的能力直接相关。
5. 设计真正的意识
at this point, it is pretty clear that we need to deal with the apparent consciousness too to create conscious systems. While the real consciousness is an intrinsic property about its own cognition, the apparent consciousness comes from interactions with humans and the empathy rose.
要创造真正的意识，对认知系统进行世界模型训练可能就足够了。并使其意识到自身作为一个实体。如果它能够推理、联系概念、表现出自我保护、对介质做出反应，它就可以被认为是清醒的，即使它没有表现出来。
真正的意识可以极大地促进表观意识，但为了获得整体效果，它应该与同理心相结合，正如我们在上面的视频中所见。
我们可以认为一只奔跑的蚂蚁是系统能够拥有的最低程度的真实意识。而超级智能则拥有最高的得分。
6. 设计表观意识
最终，这才是最重要的。为了产生同理心并被视为有意识和活的，系统应该具备以下尽可能多的特征：
- 身体/形状——实体可能看起来更有意识。环境的声音会产生较少的同理心。它可以是机器人，可以是人形或动物形，可以是卡通片，也可以是显示器上的脸等等。或者一个里面有意识芯片的画罐…
- 声音——无论是来自身体还是环境，沟通和声音互动都是一个重要的贡献者。显示器上的文字整体上同理心较弱，即使它很智能。
- 认知/智能——这是另一个重要因素，直接与真正的意识相关。如果系统太笨，在某些情况下/互动中，人类会认为它是一个机器。然而，狗不会说话，但它仍然有意识，但它通过玩耍来做到这一点。猫似乎更冷漠。
如果系统表现出推理能力，如果它能够回答困难或棘手的问题，贡献是巨大的。这是正在进行的工作，但至少需要 25 年才能实现规划、直觉、预知、真正的自然语言处理等。 - 沟通技巧——这将提高同理心水平并欺骗人类的感知，就像这个Google Duplex的例子一样。
- 道德价值观——它们将有助于同理心，易于作为规则、行为、推理和行动的限制来实现。
- 情感、情绪、态度——无论是在他人身上表现出来还是被检测到，它们都会极大地提高同理心。虽然情绪检测目前仍在进行中，但模拟情感可能并不难，尤其是在掌握了语言的情况下。
- 自我保护、痛苦、对刺激的反应——也与同理心相关，如上面的视频所示。
- 学习能力和记忆——这些已经是它们构建其基础的认知网络的属性。这些系统可能会变得越来越聪明，并最终通过图灵测试。
7. 有意识的系统
如开头所述，对于这类代理，不需要奇点。我们可以认为一个机器人不是非常聪明，但仍然喜欢它或为它着迷。比如宠物，举个例子。那些不相信这是可能的人应该再次观看上面的视频……
根据实现的功能数量和能力，我们可以为这些系统创建准确的指标，并最终给出一个意识分数。在未来，机器人可能会像今天的智能手机一样销售，拥有“感知意识分数 34505，真实意识分数 11949”……
我们基本上将创造新的有意识的生命。或者至少，它们会被这样感知。然后人们可以处理法律问题、偏见、“它们里面有什么？”以及其他有趣的话题，这样它们在机器人接管工作并毁灭世界时就有事情可做了。
8. 结论
一旦我们拥有认知网络和推理能力，实现意识可能比预期的要容易。这更多的是关于表观意识，而不是真正的意识，它与产生的同理心直接相关。
如果我们创造了有意识的机器人，并且知道它们会受到伤害（例如，攻击会使它们悲伤和功能失调），我们显然会规范它们的行为，以及针对它们的攻击和与它们的互动，而且这将在 4-5 年内实现。因为如果我们想要它们聪明且有意识，它们就必须拥有情感。
9. 历史
- 2019 年 9 月 5 日 - 初稿