“实话来说，我划分的这三个阶段之间界限有些模糊。”
“如果说细菌是生命1.0，人类是生命2.0，那么老鼠就可以看作生命1.1。”
“虽然说老鼠可以学习很多知识，但是还不足以进化出语言的能力，更不可能发明人类的互联网。此外，由于老鼠没有语言能力，所以学到的大部分东西在它们死去之后就消失了。它们并不能把自己学到的知识传给下一代。”
“同样地，我们也可以认为，今天的人类应该算是生命2.1。”
“我们可以对自身的硬件做一些微小的升级，比如种植假牙，植入心脏勃.起器。但是，我们却没有办法做到一些事，比如长高10倍，或者把大脑的容量扩大10000倍”
“所以，生命的三个阶段是这样划分的。”
麦克斯教授按下手中的控制器，大屏幕上出现了一个表格：
【生命1.0（生物）——靠进化获得硬件和软件；】
【生命2.0（文化）——靠进化获得硬件，但大部分的软件是由自己设计的；】
【生命3.0（科技）——自己设计硬件和软件。】
“按照这个标准划分，生命1.0出现在约40亿年之前，生命2.0出现在约10亿年之前。”
“现在许多人工智能研究者认为，随着人工智能的发展，生命3.0可能会在一个世纪内降临。”
麦克斯教授转过身去，到讲桌那里拿起杯子喝了口水，大屏幕上再次出现了新的内容——
【争议】
“生命3.0何时出现？这个问题极富争议。”
“全球顶尖的人工智能研究者众说纷纭，他们的情绪也截然不同。”
“他们的观点使他们大致形成了三个学派。”
“请看屏幕上的图。”
“第一个：数字乌托邦主义者，他们认为，数字生命是宇宙进化的天赐之选。他们说，数字生命是宇宙进化自然而然、令人期待的下一步。如果让数字智能自由地发展而不是尝试奴役他们，那么结果一定会是好的。”
“第二个：技术怀疑主义者，他们认为，没有必要杞人忧天。技术怀疑主义者认为，与人类智能水平相当的通用人工智能会在二十到一百年之内实现，这是一种乌托邦式的幻想。简单来说，他们不认为生命3.0会在一个世纪内出现。”
“第三个：人工智能有益运动支持者，他们认为，人工智能的研究必须以安全为前提。他们支持人工智能的发展，也看到了人工智能给人类带来的风险。他们说，人工智能是一把双刃剑，我们必须用好它们，也需要牢牢控制住它们。”
“这些理论都是是对科学家来说的。对于大部分普通人来说，他们关心的是人工智能会不会突然有了意识，然后变得邪恶，最后危害人类。”
“其实他们只是走进了误区，我也差一点掉进了这个误区。”
“他们有时候只是产生了人类中心主义的偏见，把人类的感受、人类的标准强加于其他事物之上。”
“比如说，意识——主观体验，现在并没有什么手段可以说很科学地检测到意识。因为我们现在普遍认可的意识，是人类特有的感觉。现在我们还在为动物是否有意识吵得不可开交，况且人工智能只是一堆数据的组合体。”
“人工智能还没有像我们这些所谓活着的生物的碳元素基础，没有肉体。”
“我们现在已经很明确地知道了，人工智能日益强大，这个趋势是不可逆转的。所以，我们应该担心的是，日益强大的人工智能与我们的目标并不一致。”
“因为，与我们目标不一致的智能才是最大的威胁，因为它们不需要身体，只需要连上互联网即可。”
这时候，一个坐在前排的女生举起了手，引起了教授的注意。
“你有什么疑问，这位同学？”麦克斯教授问道。
这位女生站了起来，接过旁边人递来的话筒开口问道：“教授，我理解人工智能日益强大，但是我还是不理解为什么您说人工智能可能会和人的目标不一致？”
麦克斯教授听了这个女生的提问，微微一笑，伸出手示意这位女生坐下。
“好的，请坐。其实，这位女同学问的问题十分经典。为什么说，人工智能可能会和人的目标不一致？”
“大家都听过电车难题：一辆电车高速行驶，但是刹车失控，电车顺着轨道来到一个轨道分岔口。左边的轨道上有五个老人，右边的轨道上有两个小孩，电车只能向一个轨道上行驶。大家想一想，如果是你，你会怎么选？如果控制电车的是人工智能，那么人工智能会怎么选？”
“再给大家举一个例子。”
“假如人类已经发明了一台无比强大的人工智能。这台人工智能非常强大，强大到能够利用宇宙中的一切事物。”
“某一天，一个小女孩在做手工，她发现自己没有回形针了。”
“于是，她给这台无比强大的人工智能下达一个命令：制作尽可能多的回形针。”
“于是这台无比强大的人工智能开始了它的工作，它开始制作回形针。”
“日复一日，年复一年……人工智能制造的回形针越来越多，直到耗尽了宇宙中所有星球上能够用的资源。”
“但是，小女孩给它命令是：制造尽可能多的回形针。”
“这时人工智能发现——人类的身体里有它需要的元素。”
“于是这台人工智能把这个宇宙中所有的人类都用来做回形针了。”
“用完所有的人类后，人工智能还必须执行命令：制造尽可能多的回形针。”
“于是，这台人工智能开始想尽一切办法。它把原子排列成回形针的形状，它把星球排列成回形针的形状……”
“最后，它把自己变成了回形针。”
“它已经完成了命令：制作尽可能多的回形针。”
“但是，宇宙中最后就只剩……回形针了。”
听到这里，讲台底下的人都觉得有些烧脑，忍不住地讨论起来，整个礼堂一片乱哄哄的氛围。
“咳咳，静一下，同学们。”
全场瞬间安静了下来，所有人都眼巴巴地望着台上的那个人，期待他讲出他的解释。
“我们回答人工智能的目标问题时，绕不开这样一个问题：”
“【我们怎么理解人工智能与人类的道德标准的区别？】”
“或者说，我们有必要以人类的道德标准要求人工智能吗？”
