终有一天AI会有意识吗?
时间:2020-06-14 08:31

  人工智能阿法狗打败了人类围棋冠军,IBM的人工智能在智力竞赛节目 Jeopardy! 中击败人类……放眼未来,人类可能不再是地球上最具智能的生物了。随着人工智能的快速发展,许多人预测在未来几十年内,AI的智能可能会与人类并肩,甚至超越人类智能。

  意识是对体验的。当你在海滩上看到浪花,闻到鲜烤面包的香气,或是感觉到脚趾被刺痛时,你就有了的体验。意识无处不在。它就在你醒着的每一刻,甚至在你做梦的时候。从内心来说,意识就是你之为你的感觉。

  科学界仍在试图体验背后的神经基础。人类大脑是已知的整个中最复杂的器官。它有大约1000亿个神经元,大约是中恒星的数量。它比整个中的恒星有更多的神经联结。我们是极其复杂的生物,无论出于什么原因,我们体内都有意识的火花。

  但是,即使我们对大脑的运作有了完整的神经科学的描述,许多哲学家认为仍然会有一个难题,他们称之为“意识的难题”。这就是:为什么我们需要有意识?也就是说,大脑是一个信息处理系统,当我们处理某些信息时,为什么它需要从内部感受到什么?

  世界是由基本粒子组成的,在某些特定的结构中,当这些粒子以某种高度复杂的方式组织起来时(比如大脑),对经验的(也就是意识)就会突然出现。这样想来,意识的出现是很惊人的。

  现在去判断人类是否会建立有意识的人工智能,或是科幻小说是否会成为科学事实,还为时过早。当今最令人印象深刻的人工智能系统,如能击败世界围棋、国际象棋和智力竞赛冠军的系统,并不像大脑运作那样进行计算。

  例如,AlphaGo程序用来击败世界围棋冠军的技术与人类使用的技术不同,人类的竞争对手,甚至程序员,有时都会对这些技术感到非常惊讶。此外,运行这些程序的计算机硬件并不像生物大脑。

  即使是今天的“神经形态”人工智能——模拟大脑的人工智能——也不是很像大脑。首先,我们对大脑的了解还不足以对其进行逆向工程。另一方面,我们甚至还没有能力在机器上精确地运行人类大脑中只有海马体大小的一部分。也许我们终将实现人类级别的人工智能——能够完成我们所做的所有任务的人工智能——但完成任务的方式不是大脑完成任务的方式。也许意识只起源于神经元。我们尚不知道。

  或者,也许人工智能设计者会发现有可能建立有意识的人工智能,但却决定不这样做,因为创造有意识的生物来做一些事情,比如为我们做家务,为我们去战争,为我们去拆除核反应堆,似乎类似于。

  程序员对人工智能的计算结果感到惊讶。这意味着我们并不完全理解自己创造了什么。这个问题在深度学习系统中尤其严重。像AlphaGo这样的深度学习系统,它的运作依赖从大量的数据中学习。信息先到最底层并向上,从通常只是简单的感官特征向越来越抽象的处理转移,然后在最后一层完成输出。并非所有的机器学习都涉及深度学习,但这是很常见的,而深度学习系统之所以常见,是因为它们的令人印象深刻。

  在研发阶段,AlphaGo通过玩大量的围棋游戏来学习,并在游戏中获得成败反馈。AlphaGo的程序员不需要用明确的代码行来告诉机器当对手做出某个动作时该怎么做。相反,进入系统的数据形成了算法本身。像AlphaGo这样的深度学习系统,能够以不同于我们的方式解决问题,并且有助于我们得到对一个问题的新看法,但是我们需要知道机器为什么会提供这样的结果。

  如何窥视程序黑匣子的这个普遍问题被称为“黑匣子问题”,人工智能专家非常重视这个问题,因为能够理解人工智能的处理过程对于理解系统是否可信至关重要。

  与此相关的是,机器需要对用户进行解释——系统的处理不应该如此不透明,不应该让用户或程序员无解其行为缘由。想象这样一个场景,一个机器人在战场上平民,我们不知道为什么。谁应该对此负责?这个问题对人工智能的各种使用来说都是一个挑战。又例如,使用算法也可能使社会中的结构性不平等永久化,包括种族主义,性别歧视等等。数据来们,我们是不完美的人。数据集合本身可以包含隐藏的。我们需要了解机器在做什么,以判断它是否公平。

  人工智能越来越复杂,黑匣子问题可能会变得更加严重。理解他们,就像试图理解一个高度智能的机器的认知结构,并且这个机器可以重写自己的代码。也许人工智能会有他们自己的心理,我们将不得不对他们进行测试,看看他们是否会闲聊,是否友好或是。

  创造了Alpha Go的Google Deep Mind 已经在对机器进行心理测试了。人类以各种方式为自己的行为,有些是准确的,有些是性的。如果我们建立了拥有复杂心理状态的人工智能,我们最好培养一批人工智能心理学家!这听起来像是电影 I, Robot 和了电影灵感的阿西莫夫的机器人小说,但这真的有可能实现。

  我们需要赋予有意识的人工智能实体吗?到目前为止,我们开发的机械和应用程序所消耗的能量,刚好能够执行它们预期的功能。但一个有意识的实体可能需要更多的能量——休闲、追求审美体验、爱好。“我们的”人工智能可以在周六下午能坐在泳池边看书吗?如果能,它还会是“我们的”吗?

  从某种意义上说,我们的孩子是“我们的”:他们显然不是我们的财产,但我们对他们负有特殊的义务。这是因为他们是有感觉的,亲子关系产生了特殊的和法律义务。如果我们创造了有能力的人工智能儿童(如果你愿意的话),那么来看,我们有义务以和尊重的态度对待他们,甚至可能为他们的经济需求做出贡献。这个问题在电影《人工智能》中得到了很好的解决,电影讲述了一个家庭收养了一个有感情的机器人男孩。

  不过,我们可能不需要为人工智能的生命提供资金。他们可能比我们富裕得多。如果专家们对技术失业的预测是正确的,那么人工智能将在未来几十年取代劳动力中的人类。我们已经看到,正在开发的自动驾驶汽车最终将取代滴滴司机、卡车司机这些职业。

  无论如何,Artificial You 认为我们可能永远不会发展出那种具备意识的特殊机器人(就像《银翼杀手》中的瑞秋)。即使人工智能变得“超级智能”,在每个领域都超越了我们的智力,我们在一个关键的维度上可能仍然是独一无二的。我们之所以为我们,感觉是不同的。

  虽然我们很想见到一个有情感的机器人,但我们应该扪心自问,当我们甚至不能对地球上已有的有情生物履行应尽的义务时,我们是否还应该继续创造有情的人工智能生物。如果人工智能对人类的繁荣有利,那我们是想创造出我们对其有义务的人,还是想创造出能让我们的生活更轻松的无意识人工智能?

  当然,未来的人类也可能与人工智能融合。也许他们会在自己的大脑中添加人工智能组件,让自己变工智能。这是否可行就要取决于集成电片是否是能产生意识的“那个材料”了。

  以上内容编译自Susan Schneider接受Library of Congress的采访,转载已获授权。

  在 Artificial You 中,Susan Schneider 指出人工智能将不可避免地朝着新的方向发展,但她敦促由我们来开辟一条明智的前进道。

  当人工智能技术转向向内重塑大脑,以及向外创造机器大脑时,我们应该小心。智人,设计着这些思维,但却不懂他们所把玩的“工具”:、思维和意识。Schneider认为,对这些实体的本质把握不足,可能会破工智能和大脑强化技术的使用,导致有意识生物的死亡或痛苦。为了人类的繁荣延续,我们必须抓住算法背后的哲学问题。

  Susan Schneider,美国康涅狄格大学人工智能、思维与社会项目主管。她的作品曾在纽约时报、科学美国人、史密森协会、福克斯、历史频道等多家。她在美国宇航局两年的项目中探索了超智能人工智能。此前,她在普林斯顿高等研究院设计人工智能意识测试。著有The Language of Thought, The Blackwell Companion to Consciousness, and Science Fiction and Philosophy.

  “充满了人们思考热门话题的新方法的材料。一个具有现实世界意义的哲学之旅,它将吸引大多数喜欢玩情节的读者。学习人工智能的好处之一是更好地理解人类的思维,本书在挑战性的同时为两者提供了一个容易理解、令人愉快的介绍。”

  “拥有一颗心,成为一个有意识的人需要什么?我能有主意吗?它能有意识吗?我们最好的计划是和人工智能合体吗?本书写得聪明,是一次哲学和科学的融合。在你决定做大脑增强项目之前,请阅读本书。”

      大红鹰娱乐