品德问题，现已成为近两年国内外人工智能范畴的热门话题。
欧盟委员会于本年4月8日发布了人工智能品德准则，以提高人们对人工智能工业的信赖。而联合国教科文组织自2018年12月12日至今，现已在国际各地举办了多场人工智能论坛，专门研讨人工智能开展的首要品德准则。我国的人工智能管理专业委员会也于本年头打开了相关谈论。
但是，正如联合国教科文组织总干事阿祖莱所说——“由人工智能所引起的问题并非技能问题，而是关于人类本身的人道，触及科学、政治、哲学和品德方面的关心。”——人类重视AI或机器人范畴的品德问题，究其根源，仍是这种灵长类动物本身可悲而又可怕的天分。
“I'm afraid I can't do that”
你知道机器人，即“Robot”这个词是怎样来的吗？
1920年，捷克作家卡雷尔·恰佩克写下了剧本《R.U.R.》，这是个关于科技或许使人失去人道的警示故事。其间，R.U.R.是“罗素姆通用机器人”（Rossum’s Universal Robots）的缩写，正是这个剧本将“Robot”一词引入了现代国际。
但是，Robot这个词本身来历于捷克语“Robota”，意为由农奴从事的逼迫劳作。它的斯拉夫语词根“Rab”的意思则愈加直白——“奴隶”。
正如你猜测的那样，在这部剧中，机器人被出产出来给人类当奴隶，但他们毕竟因受不了人类压榨而抵挡。机器人乃至成立了自治组织，正式向人类宣战，直至人类挨近消亡。
（“Robot”）而一起代另一部经典电影，1927年的《大都会》（豆瓣9.0分），则叙述了女机器人玛利亚充当了劳资纠纷催生物的故事：她用魅力引诱工人们，挑起了人类大暴乱。影片设想了机器人或许代替人类身份的状况，充沛展现了人类对机器人的惊骇。
无妨说，有关机器人或人工智能的影视作品自诞生之日起，就带着一种惊骇和警觉的心情——机器人会对其制作者“反叛”。
跟着时间推移，这种忧虑不只没有淡化，反而愈演愈烈。
在1968年库布里克导演的《2001：太空周游》中，一台因逻辑堕入悖论而暴走的超级电脑，让人类有幸才智到了荧幕上首个人工智能反派。
在那个经典的阶段中，彻底无伴奏的状况下，电影出现了一段平缓却潜藏杀机的对话：
“翻开舱门，哈尔。”
“抱愧，大卫，恐怕我不能那么做。”
“哈尔，我不会再和你争了，开门！”
“大卫，这次对话现已没有任何含义。再会。”
（HAL9000）“哈尔”，即HAL9000，一台被设定为肯定不会犯错的超级电脑。这台后来被美国电影学会评为影史百大反派第 13 位的计算机，由于内涵指令发作抵触而杀人。在他如上文所述清晰回绝宇航员的指令之前，他现已用闪着红光的摄像头阅读了人们的唇语，决议抢先举动阻挠“方案”失利，哪怕这意味着制作多起谋杀，比方用分离舱将宇航员撞向太空，让休眠仓程序犯错杀死其间的科学家，并把主角关在舱外。
那个严寒的红光摄像头，以及那句“I'm afraid I can't do that”，也成了日后人类对AI、超级电脑或机器人的象征性惊骇符号。
比方2018年，当人类的第一位宇航员交互式移动同伴(Crew Interactive Mobile Companion)机器人——选用IBM Watson AI技能的CIMON被送上国际空间站的时分。各家媒体都对这个具有一张拟人面孔，且能够倾听、了解人类言语并经过人类言语与人类沟通的机器人打开了报导，航天界更是等待这个人类宇航员的帮手，能够在太空中奉献自己的价值。
（CIMON）但是，在介绍CIMON的视频下方谈论区，最频频出现，也是被赞次数最多的谈论，却是这种风格的——
“CIMON, open the pod bay doors”（CIMON，翻开舱门）
“I'm afraid I can't do that, Dave”（抱愧，大卫，恐怕我不能那么做）
“HAL is alive and living on the ISS.”（一台活生生的HAL现已住进了国际空间站）
这类反应声响如此嘹亮，以至于被IBM官方用来解嘲。CIMON的特性规划师 Sophie Richter-Mendau 和它的言语练习师 Nina Fischer 让 CIMON 学会了一些科幻电影的经典台词，作为出现给宇航员的彩蛋。
假如像《2001太空周游》中宇航员在要害场景中对 HAL 所说的那样，要求 CIMON“翻开辅佐舱门”，CIMON 就会改动语调并恶作剧地答复说，“抱愧，我打不开。”
相同并不生疏的是，自波士顿动力机器人的视频在交际媒体疯传之后，那些能跑能空翻，乃至被人类测验员踢打之后还能正常执行任务的机器人，却反而激起了谈论区的一片哀嚎——
“我看到了人类的末日”
“那一天，机器人想起先人被人类控制的惊骇”
“审判到来之日，这一切都将是铁证”
“T-800快来救我”（电影《终结者》的机器人主角）
乃至，有恶搞团队专门制作了一支“机器人总算反击了”的视频，火爆全网。
（波士顿动力机器人的反击）从1920到2019，人类对AI及机器人的惊骇和警觉，不只一以贯之，乃至越来越焦虑——霍金、马斯克和盖茨们，均在 2015 年揭露提出了人工智能将为人类带来灭顶之灾的论调。现在关于 AI 的谈论更现已彻底渗透了大众日子。
这是为什么？
从发明亚当到奴隶造反
或许是照应《2001：太空周游》，2001年时，斯皮尔伯格交出了巨著《人工智能》。在这部谈论人类与AI品德情感问题的电影中，一开场就在不经意间甩出了劲爆观念：一位女士问AI规划师，人类是不是应该对那些被用来做情感陪同的机器人负责任？而规划师是这样回复的——
此话的确是鞭辟入里，由于自古至今，人类一向有成为天主的愿望——即发明人类。
在古希腊神话中，赛浦路斯国王皮格马利翁是一位有名的雕塑家，当他用心雕塑了一座美少女雕像后，居然爱上了这座雕像。其爱情之真诚，终究打动了爱神阿芙洛狄忒，并赐予了雕像生命，让他们结为夫妻。心理学闻名的“皮格马利翁效应”正源于此: 期望和赞许能发作奇观。
而在我国古代，相同有“偃师献技”的传说。神乎其技的偃师，用一个以各种资料打造而成的假人，竟到达了真人表演的效果，更是骗过了整个皇宫，终究令周穆王大为惊奇。
实在的前史中，相同发作过相似的作业。18世纪晚期时，奥地利的肯佩伦为了取悦贵族，做了一个看似土耳其人偶状的主动下棋设备。这个“土耳其行棋傀儡”能够和人类下棋，并且棋力不低，打败了一起代许多名人。更奇特的是，这个机器还能解数学题，以及用不同言语答复人类的问题。
据不彻底统计，与这个“土耳其行棋傀儡”下过棋的名人，包含法国皇帝拿破仑·波拿巴、美国开国元勋本杰明·富兰克林、奥地利大公、俄罗斯皇帝、以及闻名美国作家爱伦·坡。
但是，这个机器其实彻底是个圈套，本相是在机器中藏了一个下棋高手，再经过磁铁和杠杆等设备，假装成是人偶操作。这个圈套终究横行了大西洋两岸各国长达84年。
以上种种传说和圈套，究其根源，仍是在情感和智力两个需求层面，人类总企图制作仿人的机器人，总期望像天主相同，去发明与自己相似的才智生命，并心意相通。
这种引诱是如此的强壮，以至于许多研讨均标明：人类对机器人遭受的苦楚能够发作移情效果和同理心、机器人即使做得欠好人类也更倾向于忍受和鼓舞、人类更简单对AI吐露心声、乃至于当接触传神的机器人胴体时，人类会发作性冲动……
但是吊诡之处在于，就好像人类敬畏天主（或各种传说中的神）相同，人类一起却常常违背天主的组织，悄悄做着天主不允许的作业。假如将“天主”换成“国王”、“头目”乃至“老板”的话，咱们就更感同身受了。人类最清楚，天主一旦发明出人类，那可就底子不可控了。
如此阅历了数百至上万年的等级社会后，人类十分防范那些变节和两面三刀，这种高度警戒与惊骇基层造反是一体两面的作业。更别提，在发明之初就被界说为奴隶和苦力的Robot。令人类惊骇的HAL9000，正是替人类说出了长久以来三缄其口的崇奉问题：对造物主的质疑，人类是否能够抵挡天主。
所以，为了停息惊惧，阿西莫夫闻名的机器人永不叛人“三大规律”上台。但细究不难发现，所谓三大规律，仅仅人类单独面的限令，期望以此让机器人水到渠成、天经地义地做人类的役使。或许说，人类一方面期望具有人工智能的机器人能够十分聪明，并且协助、代替咱们完结一系列咱们本身难以完结的作业；别的一方面又期望这个机器人很“厚道”，永久无条件忠实于人类。
多么对立。
出路安在
回到文章的最初，人类热衷于谈论的AI品德问题，其实说穿了都是人类本身的品德问题——人类在交际媒体上，把微软的谈天机器人练习成了满嘴脏话、种族歧视的小流氓；人类把仿真机器人开发成了泄欲东西；人类把智能音箱和随身智能设备（包含手机），改造成了广告头绪搜集途径和广告播映途径；人类把相似于阿尔法狗的自我学习才能，用于在网上对别人进行人肉查找；更不要提许多程序现已被人类植入了自己的成见……这关AI什么事？
所以，一边是被规划出来做苦力，勤勤垦垦专心做好程序设定规模作业的AI，一边是满腹狐疑，且抓住机会就想使用AI满意本身私欲的人类。难怪见过越多AI和机器人，越觉得人类才是最不幸的那个。
解铃还需系铃人，处理人类对AI或机器人的惊骇与警戒，还要从人类下手。
首要，人类不应当彻底只将AI或Robot当成苦工和奴隶，或许说是满意自己私欲的东西。为什么波士顿动力的机器人道能越强、越凶猛，人们反而越惧怕？由于这些机器人给人的感觉，就好像几百年前肌肉十分兴旺的黑奴，人们惧怕这些黑奴哪天觉悟过来，自己是打不过的。
所以，选用IBM Watson AI技能的CIMON便是一次很好的测验。这个重约 11 磅、健身球巨细的机器人，不管从表面、声响、功能上来说，都不会发作任何“苦工感”，更没有攻击性。
专为航天而生的CIMON不只能够应对失重等更具应战的太空环境和科学实验需求，它的诞生本便是用来和宇航员交朋友的。其定位不再仅仅东西或途径，而是宇航员处理问题时的好搭档、倾吐心声的最佳目标。
并且技能人员还为CIMON精心选择了契合ISTJ类型的性格特征（内向、感知、考虑、判别），所以CIMON既不会像HAL9000那样无情无义，也不会像《星球大战》中的C-3PO那样话痨烦人。当作业时仔细乐于助人，当歇息期间又是个友爱的会话主义者——CIMON乃至会判别什么时分自己该知趣地走开，给宇航员一个私家空间。
这或许没有传统印象中的AI那么强壮劲爆，但却无疑是当下正确的测验途径，只要从一开端就不被人类作为单纯的东西，才或许防止强壮与惊骇的永久拉扯。
此外，即使未来AI真有经过图灵验证，到达挨近人类乃至逾越人类认知考虑表达水准的那天。人类也不应当仅仅猜疑惊骇，而是应当像前史上，人类社会一步步给女人、青年、贫民、异族们权力那样，认可机器人的权力，并与他们打开相等的人际沟通。
无妨想想，假如起先底子就没计划把AI当成人看的话，那还像天主相同发明亚当干什么呢？人类不便是由于感受到自己发明的物件，是相似人类而激动的吗？并且人类前史上很多的沉痛经历告知咱们，当人类相互不认为对方也是人类时，惨剧简直一定会发作。由于两个正常的人类个别间，即使发作了不合争论，也会首要考虑用商洽等机制处理。一上来就要求对方永久屈服，永久忠于自己，不然有必要消灭的话，那就等于把自己在AI心目中“人类”的定位删除了。
愿人类与AI永久共依共存。
