SexInSex! Board - Powered by Discuz! Board

标题: [其它] 为什么Elon Musk和我们都“害怕”人工智能？[2P] [打印本页]

作者: 天下_逍遥 时间: 2014-10-28 09:51 标题: 为什么Elon Musk和我们都“害怕”人工智能？[2P]

在针对一个话题开始写作之前，我一般都会查查资料、列列提纲。而当提笔准备写写人工智能这个最近因为大量相关领域创业公司拿到融资而被再度炒热的概念的时候，我却想到了一些有趣的事。

人工智能（Artificial Intelligence，AI）是个古老的，且在过去的 50 年里并没有得到太多人的太多关注的概念。翻阅维基百科，你甚至能找到「AI 寒冬」这一词条。事实上，人们对于人工智能知识的浅薄，并不能对人们在这个话题框架下进行讨论的希望产生任何阻拦——我就是最好的例子：在「AI 寒冬」的时候（几乎持续了上个世纪整个后半叶）的普罗大众和现在的普罗大众对于人工智能的了解并没有增进多少，只不过从前人们更愿意提「机器学习」（Machine Learning），而最近几年 AI 更加吃香罢了。

如果你不是算法工程师，那么你不需要了解人工智能究竟是怎样产生的，只需要知道它就在那里，就那么好用……等等。

我的逻辑在这里被打断，然后被轰然推倒。

在「AI 寒冬」的那段时间里，人工智能研究因为数次技术革新尝试的失败而停滞，而改名换姓的机器学习却更容易受到投资人的青睐。机器学习和人工智能的研究方式方法相通，但目标却截然不同：机器学习希望模仿人类，而人工智能希望替代人类。就像自动驾驶和无人驾驶一样，这是两种自动化程度和智能程度高度相当，但仍有根本性不同的汽车控制技术。在我的逻辑被自己击垮之后，逻辑重建将围绕着自动驾驶、无人驾驶来展开：

一个月之前，世界上最热门的电动车公司特斯拉以「D」字为发布会的主题，吸引了全世界科技迷、汽车爱好者的眼球。半个月之后人们终于知道了「D」代表着什么，可期待中无人驾驶这种富含未来奇幻色彩的功能，还是没有来到特斯拉新车当中，令人们不免有些失望。而在这之前，另一家硅谷科技公司 Google 刚刚发布了旗下 Google[x] 团队研发五年之久的无人驾驶汽车，没有方向盘，没有油门和刹车等人为的制动装置。

特斯拉是汽车公司，Google 是……搜索公司。为什么我们要依靠一家搜索公司，而不是汽车公司，来引领无人驾驶的未来？是什么在阻挡着坐落在全球高科技人才最密集的硅谷地区，拥有全球最优秀汽车相关技术，手握几乎用不完的资金可以投入研发的特斯拉，去做无人驾驶汽车？特斯拉创始人兼 CEO Elon Musk 近期在多个场合公开发表的见解或许能够回答我们的疑虑：

1. Musk 此前接受了中国媒体《博客天下》专访，只身一人带采访团队三人试驾自家研制的电动车。在震惊于特斯拉新车超强的性能之于，采访者希望了解 Musk 对于开自家的车有什么感觉。Musk 的回答调性一如往常的高：

我们努力让这部车的操作界面对驾驶者更直观，就好像车是自己的一部分，控制车就像控制自己的身体一样——不需要思考，车就在那里，随时准备好感应你的想法，做到你想要做的事。

2. 早在今年 8 月，Musk 就曾在 Twitter 上表达过对于人工智能的疑虑：

Nick Bostrom 的著作《超级智能》（Superintellegence）值得一看。我们需要对人工智能非常谨慎，否则其在未来的危害性将不亚于核武器。

不是每一位科技公司领军人物的每一条推文都值得推敲，Musk 的这一条在当时也一样。但没过太久，Musk 用一场演讲再度表明了自己并不是说着玩。

3. 在美国时间 10 月 26 日麻省理工大的一场公开访谈上，Musk 称人工智能就像「召唤恶魔」这种神话中远古的术士才会研习的恐怖技法一样，将会为研究它、使用它的人带来无法预估的恶果：

研究人工智能就像召唤恶魔一样。就像所有的神话中画着法阵捧着圣水的邪恶巫师一样，每个巫师都声称自己可以控制恶魔，但没有一个最终成功的。

人们惊讶于这样一位具有优秀的技术背景、丰富的项目经验的科技界高层人士居然会发表这样「反创新」的言论，更何况他今年三月刚刚跟投了一家人工智能领域研究图像识别技术的创业公司。

但换个角度的话这些言论可能更好理解：Musk对Tesla电动车的理解是“控制车就像控制自己的身体一样——不需要思考，车就在那里，随时准备好感应你的想法，做到你想要做的事”，这精准地体现了Musk认为人性应该对车占有控制权，而不是反过来。也正因为 Musk 是技术出身，他才对于现在以及可预见的未来里，人工智能的研究成果取代/奴役人类的程度的理解，比普通人有更多的数据支撑。原来，被他人吹捧为现实版钢铁侠的他，恰好是最担心人工智能技术过度发展的人。

人工智能现在都可以做什么？一家名为 Darktrace 的公司正在使用贝叶斯理论来开发出一套安全系统，试图学习什么是「正常」的情况和「不正常」的情况，从而为部署该系统的 IT 架构提供事故发生时，甚至是发生前的报警服务；另一家名为 Celaton 的公司已经可以为用户提供虚拟客服软件，通过不断地学习，帮助用户在客服工作这一劳动密集型工作上，降低劳动力成本，提高客服沟通成效。

由人类研发的深蓝，在国际象棋上击败了人类自己

一边是特斯拉作为一家创新型电动车公司，在自动驾驶系统上面的「没追求」，另一边则是优秀的人工智能创业公司希望通过自己的技术，用机器替代人类，给生产效率带来大变革。为什么特斯拉的新车没有给机器系统开放更多权限，而只赋予了其类似于过去汽油汽车定速巡航的升级版功能：智能加减速、变道等等？为什么不试着让新车完全替代人的操控？从现实的条件限制上来说，未经机器扫描和绘制过的道路无法支持无人驾驶是一个原因。而担心机器系统有一天会走到「信息的奇点」，整合了人类心理模式之后背弃人类设定的三大定律，选择背叛人类主人，或许是更重要的原因。

自动驾驶希望优化驾驶者的驾驶体验，而无人驾驶的目标则是替代驾驶者；机器学习希望的终极目的是整合数据以及计算能力，制造成一个位于云端的计算器——仍为人所用，而人工智能的研究者恐怕自己也无法确认自己研究的系统，在达到高智巅峰的时候，会否选择完全替代情绪化、有生命周期、低效率的人类。当机器已经可以自行决定什么是「正常」和「不正常」的时候，可以让沟通的对象察觉不出来自己是机器的时候，面临机器很有可能抛弃「忠诚」这一极大影响机器系统自身效率的行为，已经变得越来越懒的人类还有多大的胜算？

无数优秀的文学、影视作品曾经演绎过上述情况的发生和兴盛。届时，机器已不是人类的计算器，而人类会成为机器的电池。我的几位朋友曾经有过这样的问题：人类对于人工智能的研究，真的到了值得担心的地步了么？可能 Elon Musk 希望传达给我们的观点并非如此。的确，适度的人工智能研究能够给人类生活带来进步，但恐怕目前还没有人能够研究明白这个「度」究竟是多少，并且说出来，让像我一样对于人工智能同时怀有憧憬、敬畏和恐惧之心的普通人信服。这正是人工智能最可怕的一点，就像本文逻辑重建中的自动驾驶和无人驾驶关系一样：如果没有方向盘、制动设备，这世界上有多少人愿意全身心地相信无人驾驶汽车不会让自己死于非命？

在人工智能研究合适的「度」被找到之前，无论多么情绪化、低效和落后，人性掌握控制权恐怕依然是唯一且最好的选择。

作者: ztmfei 时间: 2014-10-28 10:51

看电影和人的想象力给吓着了吧哎呵呵挺厉害的

作者: cevolver 时间: 2014-10-28 10:58

虽然很多电影和文献都讲述了人工智能可能带来的危害,但是就目前来说,电脑还不具备学习能力,只要把握好尺度,没什么可怕的.

欢迎光临 SexInSex! Board (http://174.127.195.101:80/bbs/)