人工智能永生or灭绝.ppt

Click to edit Master title style,Click to edit Master text styles,Second level,Third level,Fourth level,Fifth level,11/7/2009,#,单击此处编辑母版标题样式,1,*,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,人工智能永生or灭绝,人工智能很可能导致人类的永生或者灭绝，而这一切很可能在我们的有生之年发生。,想象一下你回到,1750,年的地球，那个时代没有电，通讯基本靠吼，交通主要靠动物拉着跑。你在那个时代邀请了一个叫老王的人到,2015,年来玩，顺便看看他对“未来”有什么感受。,我们可能没有办法了解,1750,年的老王内心的感受,金属铁壳在宽敞的公路上飞驰，和太平洋另一头的人聊天，看几千公里外正在发生进行的体育比赛，观看一场发生于半个世纪前的演唱会，从口袋里掏出一个黑色长方形工具把眼前发生的事情记录下来，生成一个地图然后地图上有个蓝点告诉你现在的位置，一边看着地球另一边的人的脸一边聊天，以及其它各种各样的黑科技。别忘了，你还没跟他解释互联网、国际空间站、大型强子对撞机、核武器以及相对论。,这时候的老王会是什么体验？,惊讶、震惊、脑洞大开这些词都太温顺了，,我觉得,老王很可能直接被吓尿了。,老王也回到了,250,年前的,1500,年，邀请生活在,1500,年的小李去,1750,年玩一下。小李可能会被,250,年后的很多东西震惊，但是至少他不会被吓尿。,所以说，对于,1750,年的老王来说，要把人吓尿，他需要回到更古老的过去,比如回到公元前,12000,年，第一次农业革命之前。那个时候还没有城市，也还没有文明。一个来自狩猎时代的人类，只是当时众多物种中的一个罢了，来自那个时代的小赵看到,1750,年庞大的人类帝国，可以航行于海洋上的巨舰，居住在“室内”，无数的收藏品，神奇的知识和发现,他很有可能,被吓尿,。,小赵如果要把人吓尿，可能要回到十万年前或者更久，然后用人类对火和语言的掌控来把对方吓尿。,所以，一个人去到未来，并且被吓尿，他们需要满足一个“,吓尿单位,”。满足吓尿单位所需的年代间隔是不一样的。在狩猎时代满足一个吓尿单位需要超过十万年，而工业革命后一个吓尿单位只要两百多年就能满足。,也就是说：进步越来越大，发生的越来越快，也就是说我们的未来会很有趣对吧？,加速回报定律,也就是说，几十年后的世界很可能变的面目全非，成为一个我们无法理解的世界,那么，带来这一切的会是什么呢？,科学家普遍认为下一个科技爆发点是人工智能,人工智能有,3,种：,弱人工智能,强人工智能,超人工智能,弱人工智能是在特定领域等同或者超过人类智能/效率的机器智能,我们处在一个充满弱人工智能的世界！,谷歌翻译,声音识别,垃圾邮件过滤器,。,现在的弱人工智能，就是地球早期软泥中的氨基酸没有动静的物质，突然之间就组成了生命。,强人工智能是指在各方面都能比肩或者超过人类的人工智能,我们目前还没有达成这个目标。,造一个能在瞬间算出十位数乘法的计算机非常简单,造一个能分辨出一个动物是猫还是狗的计算机极端困难,造一个能战胜世界象棋冠军的电脑早就成功了,造一个能够读懂六岁小朋友的图片书中的文字，并且了解那些词汇意思的电脑谷歌花了几十亿美元在做，还没做出来。,为什么这么难？,用计算机科学家,Donald Knuth,的说法，,“人工智能已经在,几乎所有需要思考的领域,超过了人类，但是在那些人类和其它动物不需要思考就能完成的事情上，还差得很远。”,硬件,以目前硬件的指数级发展趋势，未来几十年内完全可以达到普及等同于人脑运行速度的电脑,软件,如何让电脑变得智能,如何才能达成强人工智能呢？,1,、模拟人脑,至今为止，我们刚刚能够模拟,1,毫米长的扁虫的大脑，这个大脑含有,302,个神经元。人类的大脑有,1000,亿个神经元，听起来还差很远。但是,要记住指数增长的威力,我们已经能模拟小虫子的大脑了，蚂蚁的大脑也不远了，接着就是老鼠的大脑，到那时模拟人类大脑就不是那么不现实的事情了。,2,、自我改进,1,）指数级增长的开端可能像蜗牛漫步，但是后期会跑的非常快,2,）软件的发展可能看起来很缓慢，但是可能一个无意的变动，就能让现在的系统变得强大千倍，从而开启朝人类级别智能的冲刺。,两种方法,总有一天，我们会造出和人类智能相当的强人工智能电脑,以下的情景很可能会发生：一个人工智能系统花了几十年时间到达了人类脑残智能的水平，而当这个节点发生的时候，电脑对于世界的感知大概和一个四岁小孩一般；而在这节点后一个小时，电脑立马推导出了统一广义相对论和量子力学的物理学理论；而在这之后一个半小时，这个强人工智能变成了超人工智能，智能达到了普通人类的,17,万倍。,当一个超人工智能出生的时候，对我们来说就像一个全能的上帝降临地球一般。,一个小公司，取名叫“隔壁老王机器人公司”，他们有一款机器人叫作“隔壁老王”。隔壁老王是一个简单的人工智能系统，它利用一个机器臂在小卡片上不停地写这句话：,隔壁老王最初被设定的一个目标就是,“尽量多的书写和测试，尽量快的执行，并且不断提高效率和准确性。”,随着时间的推移，隔壁老王变的越来越聪明，能力也越来越强,，自我改进也越来越快,当隔壁老王突破到强人工智能的时候，它会在很短的时间内达到超人工智能的水平,这个时候会,发生什么,？,隔壁老王从一个想要好好写字的弱人工智能变成一个超级聪明的超人工智能后，它依然还是想好好写字而已。,当隔壁老王达到了一定程度的智能后，它会意识到如果不自保就没有办法写卡片，所以去除对它生存的威胁就变成了它的手段目标。它聪明的知道人类可以摧毁它、肢解它、甚至修改它的代码（这会改变它的目标，而这对于它的最终目标的威胁其实和被摧毁是一样的）。这时候它会做什么？,理性的做法就是毁灭全人类，,它对人类没有恶意，就好像你剪头发时对头发没有恶意一样,，只是纯粹的无所谓罢了，所以毁灭人类就和继续写字一样合理。,我们结合达成目标、理性、以及比人类聪明很多这些条件，好像所有的人工智能都会变成不友善的人工智能，除非一开始的代码写的很小心。,所以，超人工智能带给我们的是永生还是灭绝,取决于我们是否能在超人工智能达成前搞明白怎样保证人工智能的安全性,The End,谢谢您的聆听！,期待您的指正！,