徐英瑾：也要给机器人做做“思想工作”

智能一词本身就有着模糊的范围，直到被誉为计算机之父的图灵提出了著名的图灵测试如果一台机器能与人类对话而不被辨别出其机器身份，这台机器就被视为具有智能。人类对于人工智能的想象由来已久，或许你会想到古代神话传说，神话故事里技艺高超的工匠可以制作人造人，并为其赋予智能或意识。而今天提到的人工智能不是故事，也非幻想，我们的身边到处都是人工智能的初级阶段，包括SIRI、智能手环、家里使用的扫地机器人……那么随着人工智能的发展，它会超过人类智能吗？我们能否看清人工智能的未来？机器人是金属体，可以像山一样高，也可以像昆虫一样小。大的我们打不过，小的我们可能看不见。如果真有对立，人类根本不是对手。那么，就应该把伦理植入机器人，形成内在倾向。这就类似做思想政治工作，要告诉它们该做什么不该做什么，这还需要心理诱导，光有伦理学也是不够的。也要给机器人做做思想工作徐英瑾与机器认识彼此在徐英瑾的《心智、语言和机器》一书中，他这样描述未来的场景：清晨的阳光刚刚透过窗帘，你就被智能手机的叫早铃声唤醒。传统手机的叫早是相当机械的。比如，你设定闹钟为7点钟，它就不会在7：01发声；如果选择的音乐是《马刀舞曲》，它不会自动换成《东方红》。但新式手机却会通过历史记录，计算叫醒你的合适时间，以及音乐强度和类型。譬如，系统会发现歌曲《发如雪》难以叫醒你后，自动改为交响乐《命运》，或至少自动提高音量，并延长音乐播放时间。起床梳洗之后，你钻入了智能汽车，它已经装备了自动驾驶系统。你可以安心坐在汽车的后座上，通过语音来告诉汽车你的目的地。进入了办公室，你直接和计算机讲话，告诉它现在需要半年前的一份报告。可惜，你忘记了报告的确切文件名，仅仅记得一些关键词，但没有关系，计算机会进行灵活而高效的搜索。你又发现这篇报告是用中文写的，而你恰恰需要一份英文报告随即，这篇文章瞬间被相应地转成英语，而且毫无语法问题。过去，这一翻译工作需要消耗你半个工作日。这时，智能手机的重大新闻播报功能自动开启了，显示在人类将宇航员送上火星之前，第一批机器人探险家今天成功了！这些机器人的任务，是在火星上建立几个由核电站驱动的四氟化碳生产间，以便向火星大气层大量传输四氟化碳，由此造成温室效应，升高火星温度，最终使其适合地球人生存。问：您描述了我们未来的生活，您觉得这样的生活离我们远吗？徐英瑾：上个月，谷歌公司研制成功全新人工智能系统，号称是迄今为止最精确的人脸识别技术，会在不久的将来正式推出使用。而关于人脸识别技术，马云已经在淘宝的支付系统中试验了，成功率是99%。如果说SIRI是让我们和手机进行对话，那么这些技术就是让我们和机器认识彼此，这样的人工智能化生活，你觉得离我们远吗？问：苹果手机的SIRI，打开了很多人认识人工智能的大门，您怎么看？徐英瑾：现在大家对SIRI的技术更多的是猜测，这是人工智能最好玩的东西，你能读到的都不是最重要的，核心技术一般人家不会告诉你。凭我的猜测，SIRI的很多东西是存储在云端，并在云端处理的。比如你问哪里的牛排味道最好，云端可以根据千千万万用户对各家店的评价进行讨论，给出最合适的答案。这里面有很多前提，如果你把手机信号屏蔽了，连接不上云端，你就被封死了。但不能否认的是，SIRI虽然算是一种弱人工智能，但却让更多的人开始关注这个领域。当人工智能遇上哲学人工智能一词是约翰麦卡锡在1956年达特茅斯学院暑期会议上的一次创造，此后几经沉浮：人们曾对它充满热望，也因为看不到它的发展前景，给予冷遇。在过去的近60年里，人工智能经历了多次冷暖交替。智能一词本身就有着模糊的范围，直到被誉为计算机之父的图灵提出了著名的图灵测试如果一台机器能与人类对话而不被辨别出其机器身份，这台机器就被视为具有智能。从学科来看，很多业内人士仍旧传统地把人工智能视作计算机科学的一个分支，但是越来越多的人把人工智能视为一门融合了哲学、遗传学、生物学和计算机学等诸多内容交叉的学科。在徐英瑾看来，人工智能科学从其诞生伊始，就和哲学结下了不解之缘。问：您的研究方向是人工智能哲学，您是如何开启这个研究方向的？徐英瑾：如果人工智能要把人的方方面面做出来，就要在哲学和心理学上都健全，那就需要对人是怎么回事有个更高层面的看法。现在主流搞人工智能的最大的问题是急功近利，我觉得搞人工智能也要有些人文的味道。就像是研究高端武器，不是你质量好人家就买你的，难在人文方面，这里面还涉及政治因素和伦理问题。问：有人不禁会问，为什么一定要将人工智能的研究升级为对于伦理的研究呢？徐英瑾：我们是生物体，由生物进化而来，而机器人是金属体，可以像山一样高，也可以像昆虫一样小。大的我们打不过，小的我们可能看不见。如果真有对立，人类根本不是对手。那么，就应该把伦理植入机器人，形成内在倾向。这就类似做思想政治工作，要告诉它们该做什么不该做什么，这还需要心理诱导，光有伦理学也是不够的。对人类社会也是一样，伦理意识一旦缺失，即使法制体系以及管理规章非常严密，行事者也可以从中找到漏洞，把法规异化为给自身牟利的工具。任何技术都会威胁我们电影《终结者》的剧情，很多人并不陌生。20世纪末期，美国军方研制了一种高级人工智能防御系统天网，控制着导弹防御系统。最初仅是为了发展军事，但不久后，天网产生了自我意识，觉醒的天网认定人类是其发展的威胁，于是便转向攻击其创造者，决定采用各种大规模杀伤性武器来灭亡人类。现实中，这样的预测不绝于耳，甚至来自一群被公认的最聪明的人，其中包括科学家史蒂芬霍金、特斯拉公司首席执行官埃伦马斯克，以及美国的科技狂人埃隆马斯克。这一切真的会发生吗？还是正在发生之中？问：特斯拉公司首席执行官埃伦马斯克曾说人工智能比核武器更危险。在您看来，人工智能的威胁真的会发生吗？徐英瑾：机器人对人类当然会有威胁，机器人也会有叛逆期，就像小孩一样。但是任何技术都会威胁我们，你无法论证机器人的威胁会比我们现在遇到的所有的威胁来得大。我觉得人工智能的产品不会像原子弹爆炸一样，造成不可修复的灾难。机器人可能会出问题，对个别人造成伤害，这是我能想到的最可怕的事，但这比福岛核泄漏要好处理多了。问：您指的伤害会是一种怎样程度的伤害？徐英瑾：比如说，将来，机器人肯定会代替人类成为驾驶员，而出交通事故也在所难免，但是我敢打赌，事故率肯定会低于人类。我们可以容忍人类犯错，却无法容忍机器人犯错，其实只要保险制度跟上，这种情况就和现在发生交通事故基本是同样的。引起失业才是挑战目前，执行着简单任务的人工智能早已进驻工厂。以劳动密集型企业集中的东莞为例，已有6成工业企业陆续开展机器换人。无独有偶，去年，富士康也提出通过引入机器人来进一步优化组装产线。工厂中大量使用机器人已成趋势，这一趋势会不会导致大批人群失业？正如徐英瑾所说，人工智能不会毁灭人类，但却可能抢掉很多人的饭碗。牛津大学教授卡尔弗雷所做的一项研究清楚地表明了情况。他对超过700份工作进行了分析，其中几乎一半工作在未来都能由电脑来完成。这一波由电脑来取而代之的浪潮不仅能摧毁那些低薪酬、低技能的工作，还能摧毁某些白领工作和服务业工作，此前这些工作机会一直被认为是安全无虞的。问：现在有很多这样的讨论，人工智能会让人类未来的生活变得更加便利，但也让有些人失去思考的能力，我们应该要如何解决这样的问题？徐英瑾：人工智能会导致智力分层急速扩大，一部分很聪明的人可以集中精力思考最难的或是终极的问题；没有这方面需求的人就会完全依赖它，不动脑筋了，现在已经有这种趋势了。有了电脑之后，有些人变得更聪明，有些人则开始变得依赖电脑。思考是个人的事情，我想应该不会也不该被替代，这确实是我们面临的挑战。问：除了思考能力减弱，可能引发的失业潮也是一个很大的挑战。徐英瑾：这个技术我们到底是否跟进呢，如果不跟进，技术上就落后了；跟进的话，我们不缺人啊。机器人把活儿都干了，人怎么办，美国已经开始计算某某技术开始运行后会消灭多少个工作岗位，对GDP有什么影响，已经做出很多数学公式了。无疑，这对劳动力充沛的第三世界国家是一个重大的战略挑战。

教育培训海报
卫生医疗海报