巅峰对话：AI，突然有一天把人灭了
发布时间：2018-10-12 00:00
当我们在思考职业生涯的时候，大家可能会想：自己还很年轻，还能生活很长的时间。
但其实，我们应该将一部分精力用来关注一些遥远的未来。站在未来的视角，当下会显得如此奇妙。
你的未来是灾难剧还是科幻大片，听听未来生命研究所创始人、麻省理工学院物理学终身教授，《生命3.0》、《穿越平行宇宙》作者迈克斯•泰格马克教授怎么说，看看他与DBA四期班同学郑卫锋、DBA五期班同学江涛又将碰撞出怎样的火花。
来源 | 笔记侠授权整理，长江商学院略有编辑
以下内容整理自迈克斯•泰格马克教授在长江商学院与湛庐文化合作举办的第23期“长江大讲堂·生命3.0，重新定义AI的未来”上的演讲、以及与长江商学院DBA同学的观点碰撞
迈克斯·泰格马克（Max Tegmark）
未来生命研究所（Future of Life Institute）创始人
麻省理工学院物理学终身教授
《生命3.0》作者
自从宇宙诞生，大约已经超过了38亿年历史，我们从地球这个蓝色星球上通过望远镜看宇宙，可以发现，宇宙比我们想象的大很多，而且基本上死气沉沉。因此，我们感受到，生命简直是一个奇迹。
那么，我们如何看待生命？如何看待我们的未来呢？
一、生命的形态
生命1.0
我们称最初的生命为：生命1.0阶段。
那个时候像细菌一样，没有办法在整个生命过程中学习任何东西。
生命2.0
我们称人类为生命2.0，因为学习东西，就像在我们的大脑中安装软件一样。
我们比老虎、狮子强大，并不是因为我们的身体很强大，而是因为我们有智能，我们很聪明。
你出生的时候，什么话都不会说，爸爸、妈妈及其他人在你大脑当中安装了一个个软件，让你学会说中文、英文、了解商业等等。
所以，这种学习的能力（设计自己软件的能力）使我们的种族成为了地球上的霸主。
生命3.0
生命3.0现在还不存在。在设想中，3.0阶段能够设计的不仅仅是软件，还包括硬件。
现阶段，我们的技术可以说已经进入到2.1时代，我们有人工关节、心脏起搏器、人工耳蜗等应用面世。
那么我们和技术之间的关系是怎样的呢？
现在有很多人以盲目的方式在使用科技，我觉得我们应该有一份雄心——我们必须要能够操控它、引导它，让火箭带我们去往将来要去的方向。
于是，如果我们的技术还不足，就需要我们变得非常强大。
在这样的精神下，我们谈一谈AI的这三点：
1、能量
2、控制
3、最终我们要去往哪里
二、问题的三要素
1.能量
简单地说，智能就是能够完成复杂目标的能力。
解决的问题越复杂，我们就越智能。
很多人认为智能是一个非常神秘的东西，只存在于生物器官中，比如人的大脑。
这样的观点非常普遍，但我认为这其实是不对的。
智能并不复杂、神秘，也不必须通过一个生物器官才能做出来。
我们可以自己做出来人工智能的东西，智能应该可以进行计算、处理、学习等等。它还像是我们的孩子，不断在学习、成长。
2.控制
为什么智能不需要任何物体的器官就能处理信息呢？
所有的功能其实非常简单：
首先需要有一些记忆，然后需要用一些功能、处理方法把这种记忆调出来，最终得出一个结论。
现在在技术当中有两个非常重要的应用方法：
方法一：
我们需要有一个非常小的记忆单元，然后把它们进行复杂连接，通过这种连接、计算的方式可以出现一个非常复杂的结论。
我想在这里和大家强调：
计算的方法并不需要用一个实体存在的器官才能完成，我们只需要用非常抽象的方法让它进入到一些逻辑编辑当中，就可以把数以十亿计的单元加到一起，最终呈现出来的设备就是我们的手提电脑或者手机。
很多人认为我们可以把这样的想法直接借鉴过来，放到我们的手机和电脑上面，就可以实现AI了，至于我们的实体到底是什么，并不是重要。
因此，在过去几年当中，很多科学家全部都希望用更加高效、更加便宜的设备取代原有的计算单位，相当于用小于1的人民币价格买下北京所有的建筑物，使得我们的成本下降速率之快。
方法二：
关于学习。在过去的一段时间当中，我们看到人工智能的发展非常令人难以置信。
过去，机器人不能走路，现在它们却可以做后空翻。
几年之前，我们没有想象会有自动驾驶的汽车，现在火箭都可以自己进行降落了。
不久之前，人工智能还没有办法进行面部识别的工作，现在不仅可以进行面部识别，甚至可以给我们模拟出虚假的面孔并且可以用模拟的方式讲出我们自己从来没有说过的一些话。
之前人工智能还没有办法在围棋上打败人类，现在大家也都知道了AlphaGo Zero不仅可以打败围棋方面人类最好的选手，同时也在国际象棋上打败了人类最好的棋手。
它用了仅仅4小时的时间，就可以进行自动培训、机器学习，直接打败了国际象棋选手，这样的记录是人类之前难以想象的。
AI取得的这些成就让我们想到一个问题：
到底AI最终的目标在哪，它可以走到哪一步？
3.最终我们要去往哪里
我们可以想到多种多样的未来。
现在AI给我们带来的影响，在商务领域方面已经有了很大的意义。中国在支付宝、微信支付当中，已经非常领先了，这让我感到兴奋。
AI让全球的人们生活更加方便，首先是在医疗方面做出的努力。有一个研究显示，AI和人工的医生来比，它在肺癌、前列腺癌症诊断方面做的更好。
那么我们将会走多远呢？
同时，在这里还有一个更大的问题：
AI的发展速度有多快呢？
在所有任务上都能达到人的智能水平吗？
我们把这个称为AGI（通用人工智能），这个概念可能让人们认为很多工作我们不用做了，可以通过AGI来完成。
如果我们觉得这个AGI看起来有一点像科幻，其实还有更疯狂的想法，就是超级人工智能。
因为如果我们能够成功构建AGI的话，从定义上来讲，AI在很多工作上比人做得好。
包括AI本身的开发，像百度、Google、腾讯等等公司，可以把它们的人工智能工程师替换成AI本身。
这意味着AI进一步的发展基本上是随着时间的推移而发生，因为它比人的开发速度快很多。
这就提出了一个重要问题——技术的爆炸。
因为如果AI可以自我提升的话，它的发展速度会加速，产生超级人工智能，远远超过人的智能水平。
我们看一下事实，看起来的确有一点像科幻，实际上我们是否能够实现AGI呢？我们是否能够有超级人工智能呢？
有一些著名AI研究专家，如Rabeling Bluks说可能几百年之内都不会发生；还有Agael也说过“我不担心这个问题”，基本上是担心人口过多，太早了。
但是，还有其他一些同样非常著名的AI研究专家，如Habys先生，他也是Google Deepmind的开发者，他就很乐观，并且非常努力使这个愿景加速发生。
最近的一些调查发现，绝大部分的AI开发人员的想法和Habys先生的乐观情绪是一样的，并且有40年、50年这样的一个时间线。
三、未来计划
作为商学院的学生，作为商人，如果我们知道有一件事情有很大的可能性会发生的话，我们一定要在我们的计划当中考虑到它，要做一个计划。
同样我们也问一个问题：
如果我们的确实现了AGI，下一步怎么样呢？
人会扮演什么样的角色呢？
如果机器什么都能做得好，比我们做得好，比我们的成本还低，那么人的角色呢？
我的观点是：
“我们面临着一个选择，就是我们可以大胆地说我们来构建机器吧，来做所有该做的事情，不要担心后果。”
但是，我在开始的时候和大家讲过了，我觉得我们应该有雄心壮志，这是人作为这个种族最厉害的一点。
我们应该想象一个真正的高科技的未来，找到实现它的方法。
我是一个非常乐观的人，我特别喜欢技术，我非常积极，我觉得我们能够创造一个高科技的未来。
一个非常重要的警示：
如果我们能够赢得一场战争，那就是技术的不断发展和我们能够管理我们技术的能力。
如果我们想赢得这一场战争，传统策略是从错误当中学习：最初人们发现了火，用了之后，发明了灭火器，然后发明了汽车，发生了很多悲惨的事故，然后就发明了气囊、红绿灯、安全带等等。
结果是什么呢？火和汽车这样的技术，我们限制了它的伤害（伤害降到最低）。
但是，科技一直在不断地增长，它们的能力变得越来越强，在某个时间节点，技术会变得非常的强大，以至于我们没有办法从错误当中学习。
比如说核武器，如果俄罗斯、美国不小心开始了核战争，那我们的这个星球就完蛋了。
这种时候，我们从错误当中进行学习，下次小心一点，是不行的。
像这样的重大问题最好提前计划，避免一开始就犯错，这样的做法也适用于其他的很多厉害的技术。
所以AGI现在已经超过了这样一个门槛，即必须要防止错误。
当我讲这样的内容时有人会说你别散布这样的恐怖情绪，但是我把这称之为小心谨慎。
在阿波罗11号发射之前，基本上考虑了一切可能性，然后把一个人放在发射装置上，并且把它发送到外太空，这个过程风险很大。
这是我现在所推崇的想法，那就是对于AGI，想清楚人类会犯怎样的错误，来保证我们正确行事。
我们都意识到了气候变化是一个全球性的挑战。
这个挑战规模很大，并且补救措施必须是全球行动，必须要有全球的协调，没有哪个国家能够独善其身。
中国实际上有着一个独特的优势，能够有这样一个领导地位，有两个原因：
原因一：
中国有大量的科学家储备。
在中国我们不仅仅可以让AI变得更加强大，同样还可以让它变得更加可信赖。
原因二：
中国是世界上最古老的现存文明之一，持续了几千年。和西方相比，中国有着很多的长期思维的计划传统，这是西方世界所缺乏的。
大家也知道，在西方世界非常难去设定一些长期的计划，持续到下次选举。
当我还是一个学生的时候，有很多人说要修高铁，现在20多年了还没有开工。与此同时，中国已经做完了。
在这方面中国可以扮演一个非常重要的角色，把中国在技术方面的实力和长期规划的智慧结合起来，希望中国在AI方面采取一个领先者的地位。
我们组织了很多会议，让很多AI研究员聚集到一起来讨论怎么样增加AI的智慧。
上一次会议有23个原则，被世界各地的AI研究员签署。
我在这里给大家复述其中两三点。
第一个原则：
我们应该避免武器和军备竞赛，应该把技术应用到可以帮助人们的方面。
比如说生物、化学，更多的应该有助于人们找到一些疾病的治疗方法，而不是引起致命的损伤。
我们希望在生物和化学武器方面有一些国际化的禁用，这样就可以不用担心生化武器落入恐怖组织手中。
我也非常高兴看到中国做为一个大国，在3月时第一次站出来说要反对自动致命性武器的发明。中国做出的这一个努力非常重要。
我们看到中国的影响力变得越来越大，同时也看到了联合国付出的努力，希望可以使这一切变为可能。
第二个原则：
希望可以通过AI以及自动化创造出来更多的财富，使得所有人都可以从中受益。
我认为我们全球GDP可以通过用机器替代人类的方法进行一个大爆炸，但是如果我们没有办法通过这个方法让人人受益的话，那就是我们的错误。
在科技和道德方面，我们希望可以确定的是，能够让整个社会变得更加和谐、更加一致、更加团结。
中国的经济发展非常快，一些研究显示，技术本身使得这种不平等性变得越来越糟糕，加之税收政策也使得收入不平等变得越来越明显，使得穷的人越来越穷，富的人越来越富。
之后看到了为了改变这样的税务政策，美国那边选举了特朗普作为他们的总统，希望中国可以从中吸取一些经验和教训，得到更好的发展。
最终，我认为在AI的安全性研究方面，我们需要有更大的投资。
既然我们希望AI可以控制我们更多设备，AI可以对于我们的生命产生更大、更重要的影响，就必须要保证现在计算机系统中不能有那么多的黑客、Bug。
因为如果黑客能够随便黑进来的话，可能使得AI对自己产生非常负面的影响，我们要保证AI的目标和我们的目标是一致的。
这意味着如果我们最终达成了AGI的话，我们会面临一个很大的风险，如同在好莱坞的一些电影中看到的情况：
AI会变成一个魔鬼一样的东西，更可怕的是AI的复杂程度非常高，而它的目标与我们完全不同。
黑犀牛这个种族完全灭绝的原因仅仅在于，我们比它们聪明很多，而且我们的目标跟它们也不同。
所以，如果AGI比起我们要智慧很多的话，我们不想让自己成为黑犀牛这样的一个角色，我们希望AGI能够与我们的目标保持一致，将我们的目标作为它们的最终目标进行发展。
最终我们要讨论的是AI的目标到底怎样，我们使得AI变得更加有能力，我们也在试图去控制它，那么最终它的目标应该是怎样呢？
之前我们做了一些调查，有大概5万西方国家人参与了这个调查。
我们可以看到，大多数人都希望我们可以得到超级智能的结果。同时，大多数人也认为我们应该变得越来越有整体的愿景，使得所有人能够从中受益。
与此同时，我们做了另外一个调查，谁应该成为整个过程的控制人？
我们可以看到只有很少一部分人选择了未来由机器控制。
所以，我们应该进一步想想，未来我们的目标到底应该是怎样的，终极目标是什么。
虽然现在我们看到的一些问题非常复杂，我们技术现状也非常复杂，但是我们研究非常简单——希望最终能够达成AGI这个成果，有可能是50年，或者更长的时间。
我们应该更多的关注最终成果，而不是只是面对明天、后天的选择。
如果我们没有办法做到这一点，保持一个非常远大的目标，有可能我们会达到人类历史上能够得到的最差的结果。
我们应该更多的着眼于我们整个星球，如何通过技术控制发展方向，最终达到我们最想期待的未来，所有的人都能够从中受益。不仅仅是好一点，而是好的非常多。
现在我们可以想一下，2018年比起明朝或者说石器时代的时候都变得更好，为什么？
是因为技术的发展，之所以我非常感谢文明，也是因为用这种智能的方式我们得到了更好的生活。
通过人类、人工智能两者的结合，我们可以很好的解决现在我们面临的问题。
总而言之，我们现在所面临的就是一个选择，我们可以完全无动于衷，并且不去进行长远的思考，只是非常盲目地开发，相信所有的技术发展都是对我们有利，不断地来重复现在我们所做的工作，我们总是相信所有的技术都会让一切变得更好，根本不去进行技术发展的控制，不去进行任何目标的制定。
或者我们另外一个选择，我们有非常宏伟的目标，并且不断地向着这个目标来进行推进，使得人人可以从中受益。
所以，我们希望最终达成的AI不仅仅取代我们，而是使得我们变得更好。
- 巅峰对话 -
在与迈克斯·泰格马克（Max Tegmark）的交流互动环节中，长江DBA同学郑卫锋、江涛站在各自的角度，就目前的AI技术与AI未来展开了激烈思想碰撞。
中间为迈克斯·泰格马克（Max Tegmark），未来生命研究所（Future of Life Institute）创始人、麻省理工学院物理学终身教授；左一为沈晓卫，IBM中国研究院院长、IBM大中华区首席技术官；左二为郑卫锋，臻迪集团创始人兼CEO， 北京前沿国际人工智能研究院副院长、臻云创投创始合伙人、长江DBA四期班同学；右二为江涛，科大讯飞联合创始人及高级副总裁、长江DBA五期班同学；右一为主持人牟丹，前澳门卫视播音主持人组组长、首席新闻主播、长江MBA校友。
Q1：人工智能会颠覆所有行业吗？什么行业是人工智能无法替代和颠覆的？
从AI的演进路线看，人工智能目前只能替代对智商和情商要求都不高的工作。对人与人之间心灵沟通要求高的工作，比如说护理人员，即使重复性较高，短时间内我看不到被人工智能替代的可能性。
——江涛
人工智能是慢慢渗透到各行各业的应用里的，先在一两个痛点上开始突破，到后来形成超级通用人工智能。现在已经在图像识别、语音识别和自动驾驶几个方向有所突破，未来20到30年，在很多具有重复性和智能性的领域，一定能看到突破。
——郑卫锋
沈晓卫，IBM中国研究院院长、IBM大中华区首席技术官
人工智能是一个工具，它在改变行业的时候，也带来了巨大的机遇。互联网是赢者通吃的时代，但是人工智能时代，任何一家企业都可能被颠覆，但也可能成为行业的颠覆者。
——沈晓卫
我们会有一些技术可能取代人类，但这并不意味着我们一定会去选择它。我们依然会去选择人作为教师、护士，即使我们可以让机器人来做，因为人是需要目标感的，是需要生活的。
——迈克斯·泰格马克
Q2：中国人工智能发展现在在一个什么样的位置上？中美两国的差距在哪里？对于创业者来说，中国人工智能发展最大的潜力在哪？应该在哪一些领域进行深入布局？
中国的创新目前大多数是在技术应用和商业模式方面。中国最大的优势就是平台的力量，人工智能要从2C（面向消费者人工智能）发展到2B（企业级的人工智能），中国品牌要发挥应用的优势、商业模式的创新、平台的力量，从而构建不同行业、企业的平台。
——沈晓卫
从全球排名的人工智能科学家来讲，其实中国和美国还是有一定的差距，但是中国现在的优势首先是在新技术的应用上越来越超前，其次是拥有大量的数据，数据对人工智能的发展是非常关键的。
——郑卫锋
江涛，DBA五期班同学
科大讯飞联合创始人及高级副总裁
在人工智能从零到一的基础理论方面，中国整个高等教育体系跟美国还有巨大的差距。中国拥有的一个重要优势是我们有很多优秀的工程师，人工智能要进入到每一个行业并且真正落地，需要大量优秀的工程师。
——江涛
你们可能并没有意识到自己有多么幸运，中国不仅拥有数量最多的工程师，同时，我们看到在政府对于工程方面的投入也是最大的，这一点西方国家是没有办法相比的。
——迈克斯·泰格马克
Q3：如果选择人工智能项目进行投资的话，标准是什么样的？未来看好的投资赛道有哪些？不看好的是哪些？
人工智能真正的成功是真正进入到行业来改变我们的生活，如果让我来选，我觉得医疗、金融、零售、制造业可能会首先会被影响到。今天的人工智能最大的挑战宏观上来讲就是人工智能技术的实现。
——沈晓卫
郑卫锋，DBA四期班同学
臻迪集团创始人兼CEO
我们需要有两个眼睛来看，一个眼睛是你要学会发现用户的需求，第二个眼睛是你必须要了解哪项技术已经接近成熟。我觉得在未来20年到30年，无人化是比较典型的趋势。
——郑卫锋
过去20年、30年，信息技术解决的是连接的问题，人与人的连接、人与商品的连接、人与信息的连接。现在连接完之后都是靠人脑来处理，未来这些重复性工作交给机器，大大的降低连接之后的信息处理成本，这带来的劳动生产率是很多个数量级的提高。
——江涛
我觉得腾讯是一个非常好的平台，实际上如果和Facebook这样的一些平台比起来，腾讯的微信其实要强大很多。
——迈克斯·泰格马克
