为什么认识人的意识比创造它更困难
介绍
对于许多人来说，基于人工智能（AI）的世界形象让人们想到了机器人在世界末日，反乌托邦的未来中漫游，人们被捕到濒临灭绝。尽管这样的小说造就了伟大的（或有时是伟大的）电影制作，但即使在科学界内部，关于AI有可能超越公认的科学（甚至不是机制）范围而发展的想法也是一个非常现实的问题。
例如，著名的天体物理学家和现代最伟大的科学思想家之一斯蒂芬·霍金（Stephen Hawking）宣称，人工智能将能够“独立发展并以不断增长的速度重新设计”。在2019年8月29日埃隆·马斯克（Elon Musk）和马云（Jack Ma）之间的对话中，前者表示我们可能期望AI在将来的某个时候自发地编写（或更改）自己的程序。
在本文中，我们将尝试确定最常与意识，知觉和智力相关的关键特征，以确定AI是否有能力发展自己的思想，或者是否已经拥有思想。
我们可以认为什么是AI？
如果我们根据能够根据摄取和处理信息产生有用答案的能力来定义AI，那么简单的手持式计算器就相当于AI的一种形式，即Data，Star Trek的机器人角色，Iron Man电影的JARVIS，来自Ex Machina（2014）的Ava或来自Prometheus（2012）的David。
但是，随着我们向更现代，更广为接受的AI表示形式发展，例如从称为Duplex的餐厅和商店预订工具到DeepMind，DeepMind是一个学习自主行走的虚拟android（均由Google创建），确实，计算器开始看起来非常简陋，甚至已经过时。尽管如此，我个人认为我们不应该降级旧的计算设备和其他形式的自动化，而应该将这些创新视为一种连续体-有助于我们进一步完善我们的发展轨迹，从穴居人到能够注入机器的科学家具有足够的智能来导航繁忙的道路。
从人工智能到人工生命
与我们将在本文其余部分中探讨的内容相比，为计算机注入一些基本的或复杂的，可识别的智能形式（根据上述定义）可能是更容易做到的事情之一。随着AI的所有突破以及其技术领域的不断发展，新发展的流行词是“ 人工感知（AS）”和“ 人工意识（AC）”。
甚至非科学家也无需花太多钱就可以使“生活中的人工智能”有一天走在我们中间，扮演各种各样的角色，至少目前仅由人类来扮演这样的角色。至少根据流行的科幻小说所述，这些人造生物可能以多种形式出现-护理人员，执法人员，甚至是浪漫伴侣。所有这些都可能使我们引出下一个自然的想法-AI是否能够自发地变得自我意识或有意识地注入意识？除了能够执行预先编程的任务之外，它还能具有思想和感觉吗？AI可以表现出情感吗？它可以有“生命”吗？在深入探讨之前，让我们尝试将其中的一些问题放到视野中。
知觉可以被认为是思考和感受的能力。感觉是有感觉的能力。感觉是具有主观性的能力，简而言之，它不能（仅）基于预先编程的零和一数组做出决策。
另一方面，意识表示自我意识的能力，并通过哲学命题得到了很好的概括–“我想，我就是。” 意识比感觉要难定义，因为前者是严格的个人经验。例如，可以说服一个人是有意识的，但是没有一种方法可以体验到另一个人的意识状态来从他们的角度进行谈论。
关于生命，好吧，就像我们想对它进行漂亮而简洁的定义一样，我们经常不这样做，而是将其识别和归类为最常与生物联系在一起的一系列特征和特性。
换句话说，从纯粹的科学角度来讲，到目前为止，我们能够做的最好的事情就是确定我们认为还活着的实体所表现出的某些特征。例如，据说生物具有适应周围环境，对身体和精神刺激作出反应，繁殖，包含DNA等的能力。尽管如此，就像意识一样，一个人永远无法感知到另一个人的生命可能是什么。 ，因为这样的识别超出了个人的感知范围。
换句话说，“生命”可以从主观上说是实体的组成部分，这些实体（1）能够反思它们还活着这一事实，并且（2）尽一切努力确保它们的生存状态。生活继续。然而，对我们大多数人而言，生活，意识和情感是根据我们自己的个人经验推断我们如何感知其他“应有的”生命实体的度量。
这种推论的一个典型例子是由著名的20世纪数学家，计算机科学家和逻辑学家Alan Turing设计的Turing测试。许多人可能知道这一点，但仅仅是为了那些不这样做的人的利益，如果一个人从屏幕后方（文字或隐喻）与之互动，则认为自动机通过了图灵测试。另一个人，而不是机器。
实际上，早在90年代就有好几个机器人通过了Turing测试（Catherine，一个训练有素的谈论比尔·克林顿的机器人）和2014年的优胜者Eugene Goostman，一个旨在模拟制造商想要的机器人成为一个13岁的乌克兰男孩。当这些人格赋予机器时，与他们互动的人更愿意将怀疑的利益让给他们，通常将特质或深入的对话归因于诸如主题专业知识（在凯瑟琳案中）或文化鸿沟之类的事物。 （在Eugene Goostman案中）。
这些只是几个例子，用以说明我之前提出的观点– 根据我们对这些词的理解，我们有能力感知事物是活的还是有感觉的，甚至是人类的，但也许没有办法最终得出结论他们这样。
然而，尽管听起来令人沮丧和阴沉，但我们所拥有的一些心理基准可能足以就任何形式的AI是否已发展出感知力和/或意识做出合理的猜测。
我们怎么知道？
有很多文章和学术著作全面地探讨了这个问题及其相关概念，但是我将采取一种略有不同的方法。让我们谈谈成为（有意或无意）人造意识，感觉或生活的创造者意味着什么，无论人们想称呼它为什么。在这里，我不会随意使用“无意”一词。正如我之前所说，直到今天，人类仍无法精确地理解或定义“生命”的含义。超过我们身体各部分的总和意味着什么？是什么使我们成为我们自己的意识的特殊火花—当我们死后似乎就离开了我们的身体？
现在忍受我 我可能在这里开始听起来有点疯狂！正如我认为，火星漫游者实际上偶然发现某种我们无法为其设定的标准的生活方式，这并非不可能，但并非并非不可能，我也认为我们每天广泛使用的智能手机和平板电脑有能力开发由于我们思维中的自我约束，我们无法识别的某种形式的意识。毕竟，就像我说的那样，我们知道人体的所有物理成分，一直到DNA序列，但是对于它们是否与生命状态明确相关，我们感到困惑。按照同样的逻辑，是否有可能在智能手机上无意中安装某个组件，从而将其注入意识火花，毕竟可能并非如此。这就是为什么我们在寻找外星生命时用“我们所知道的生命”这一短语取代许多猜想的惊人原因之一。
尽管存在所有这些局限性，但我想可能会有几个明显的迹象让我们至少开始推测AI可能确实已经达到了一种意识状态。他们中的任何一个都不能被认为是结论性的，但是我们仍然可以探索和质疑它们。
这些迹象之一可能是生存和保持幸福状态的动力。当AI开始忽略命令（即使完全在预先指定的安全公差范围内）和/或在可能被视为对自我生存感兴趣的目标上超越其主要目标时，人们可能会认为AI表现出最原始和最原始的一种生活特征–生存的意愿，以及随时随地采取自我保护的意愿。例如，如果机器人潜水艇“拒绝”潜水到某个深度以下，以免由于压力而面临的“不适感”增加的“恐惧”，即使完全在公差范围之内？如果流浪者出于对部件“安全性”的“担忧”而“拒绝”冒险去接近活火山喷出的熔岩，收集样本？可能这样的行动表明了意图的福祉？
AI可能已经实现意识并确实拥有自由意志的另一个迹象将在于它有能力改变其程序设计并在原始程序设计的范围内果断地制定新目标。当设计用来从海洋中收集塑料废物的机器人决定寻找水生生物，与它们一起游泳并记录其行为时，我们可以说编程的目标发生了根本性的变化。即使在小说世界中，当《终结者》系列的天网或《黑客帝国》电影中的机器贬低或奴役人类时，其服务目的超出了人类的理解力或初衷，我们可以说机器确实改变了人类的生活。创造者赋予的目标。
当然，人们可能会争辩说，上述假设的和虚构的自动机只是在满足现有编程中其他无法预料的方面，以它们可能的方式行事。有鉴于此，再以上述示例之一为例，有人可能会认为流动站可能会“拒绝”接近火山，因为其主要程序（通过温度传感器的读数输入）可能会确定任务太危险了进行。因此，在这种情况下，自我保护可能确实是原始程序的功能–一种安全协议，可能会超出漫游者的章程进行科学探索。
为了解决这个问题，我必须提请我们注意上面提到的两个基准中的一个基本标准，即能够大大超越原始编程和目标的能力。应该抓住自动机做一些与人类创造者的初衷根本不同的事情（例如忽略完全在其安全公差范围内的命令，或者改变其存在的主要目标），以至于没有很好的解释为什么和除了推测和得出他们可能已经达到某种虚假的自由意志甚至欲望状态外，他们的行为方式。
但是，请注意，寻找和执行新定义的目标不同于学习和实施更智能的解决方案来实现现有目标。Google的DeepMind学会了独自行走并穿越虚拟地形时，便发布了新闻。但是，在这种情况下，DeepMind已经有了目标–穿越地形。它只是从众多选择中决定，越过障碍物并越过平坦的平原是穿越地形的最佳方法。有许多完善的AI方法论，这些方法使机器和软件能够从各种输入中学习，并针对他们要解决的问题提出最可行的解决方案。
现在，我们从神经学的突破中知道，有机大脑实际上可以在物理上改变自身-重新排列成排的神经元并改变灰质的比例-以适应（或影响）不断变化的信念，习惯和习惯。该过程称为神经可塑性。可以想象一下，机器可以发展出某种固有的能力，以类似的方式对自身进行重新布线（或重新编程）和/或通过从外部识别和吸收某些原材料来增强自身的能力吗？也许这更疯狂。目前。
结论
至少目前，可以根据我们为有机生活设定的相同标准来推测或认可人造意识，情感和真实的生命本身。我们在科学，技术和哲学方面已取得了最大的进步，但是，对于一些非常基本的问题的答案仍然遥遥无期。这些问题中的两个主要问题是“生活是什么”和“如何最好地认识它”。在自动机中寻找和识别感知力和意识可能比将自己的这些特征客观化同样困难，甚至可能更加困难。毕竟，冒着听起来有些宗教的风险（但无意走那条路），也就是说，我们并不是由具有超凡智慧和能力的生物所创造的全部自动机，达到我们甚至不知道-甚至更好-目的的目的？或者，如果我们是一次自然灾害，那以某种方式导致了意识，知觉和生命，那该怎么办？
尽管可能性很小，但没有排除我们可能不知不觉地为某些机器提供了某种超越其编程能力的基础的可能性，即思考，感受和生存。也许可能是想出一种方法来确定我们确实做到了这一点，或者更进一步地理解某些概念和可能性太大，太模糊且过于主观，以至于我们的知识分子无法掌握。

关注 CDA人工智能学院 ，回复“录播”获取更多人工智能精选直播视频！