为什么我们应该考虑人工智能的威胁

所属分类 :技术

如果要相信“纽约时报”的最新文章,人工智能的发展速度如此之快,有时看起来几乎是“神奇的”自动驾驶汽车已经到来; Siri可以听你的声音,找到最近的电影院; IBM刚刚将“Jeopardy”征服Watson设置为医学专业,最初培训医学生,也许最终帮助诊断一个月过去没有宣布新的AI产品或技术然而,一些热情可能是不成熟的:正如我之前所说,我们仍然没有生产具有常识,视觉,自然语言处理或创建其他机器的能力的机器我们直接模拟人类大脑的努力仍然是原始的仍然,在某种程度上,唯一的真实爱好者和怀疑者之间的区别是一个时间框架未来主义者和发明家Ray Kurzweil认为真实的,人类级人工智能将在不到二十年的时间里到来我的估计至少是这一倍,特别是考虑到计算常识的进展甚微;建立人工智能的挑战,尤其是软件层面的挑战,要比库兹威尔更难实现

但是从现在开始的一个世纪,没有人会关心它需要多长时间,只有接下来发生的事情才有可能机器会比我们之前更智能

本世纪末 - 不只是国际象棋或琐事问题,而是几乎所有问题,从数学和工程到科学和医学可能会有一些工作留给艺人,作家和其他创意类型,但计算机最终将能够对自己进行编程,吸收大量新信息,以及我们以碳为基础的单位只能模仿的方式推理他们每天每天都能做到这一点,没有睡觉或喝咖啡休息对于某些人来说,未来是Kurzweil写了一篇很棒的文章,讲述了一种狂热的奇点,我们将它与机器合并,并将我们的灵魂上传为永生;彼得迪亚曼迪斯认为人工智能的进步将成为开启“丰富”新时代的关键,为所有怀疑者提供足够的食物,水和消费品,如Eric Brynjolfsson,我担心人工智能和机器人的后果就业但即使你把对超级人工智能可能对劳动力市场做出的担忧放在一边,也有另一个问题:强大的人工智能可能会更直接地威胁我们,通过与我们争夺资源大多数人都看到那种恐惧是愚蠢的科幻小说 - “终结者”和“黑客帝国”的东西在我们计划中期未来的程度上,我们担心小行星,化石燃料的衰退和全球变暖,而不是机器人但詹姆斯·巴拉特的一本黑暗的新书,“我们的最终发明:人工智能和人类时代的终结”,为我们为什么至少应该担心巴拉特的核心论点提出了一个强有力的理由,他从人工智能借鉴researc她的Steve Omohundro认为,自我保护和资源获取的动力可能是一定程度智能的所有目标驱动系统所固有的

在Omohundro的话中,“如果足够智能,一个设计用于下棋的机器人可能也希望建立一艘宇宙飞船,“为了获得更多的资源,无论它可能拥有多少目标纯粹理性的人工智能,Barrat写道,可能会扩展”自我保护的想法......包括对未来威胁的主动攻击,“包括可能是那些可能不愿将资源交给机器的人Barrat担心“没有细致的,反补贴的指示,一种自我意识,自我完善,追求目标的系统,我们认为实现其目标是荒谬的

目标,“甚至,或许,可以征服世界上所有的能量,以便最大化它碰巧感兴趣的任何计算当然,人们可以尝试禁止超级智能计算机altog但是,“自动化的每一个进步的竞争优势 - 经济,军事,甚至艺术 - 都是如此引人注目”,数学家和科幻小说作家维尔诺·维格写道,“通过法律,或者有习俗,禁止这样的事情只是确保别人会“如果机器最终会超过我们,就像AI领域的每个人都认为的那样,真正的问题是关于价值观:我们如何在机器中灌输它们,以及我们如何在这些机器上与它们的价值进行协商可能与我们自己有很大不同 正如牛津大学哲学家尼克博斯特罗姆所说的那样:我们不能轻易地认为超级智能必然会分享与人类智慧和智力发展刻板相关的任何最终价值 - 科学的好奇心,对他人的仁慈关怀,精神启蒙和沉思,放弃对物质的贪得无厌,品味精致的文化或生活中的简单快乐,谦卑和无私等等有可能通过刻意的努力来构建一种重视这些事物的超级智能,或建立一种重视人类福祉,道德善良的超级智能,或者它的设计者可能希望它服务的任何其他复杂目的但是,建立一个超级智能,除了计算pi的小数点之外,最终只能计算其中的小数值,并且可能在技术上更容易 - 英国控制论家Kevin Warwick曾经问过,“如何你有理由说,你怎么讨价还价,怎么能理解那台机器怎么样

正在考虑什么时候你想不到它的尺寸

“如果巴拉特的黑暗论证中有一个漏洞,那就是他的滑稽假设,即如果一个机器人足够聪明下棋,它也可能”想要建立一个宇宙飞船“ - 自我保护和资源获取的趋势是任何足够复杂,目标驱动系统所固有的

现在,大多数足以下棋的机器,如IBM的Deep Blue,都没有显示出丝毫对获取资源的兴趣但是在我们自满并决定没有什么可担心的之前,重要的是要意识到机器的目标可以随着它们变得更聪明而改变一旦计算机能够有效地重新编程,并且相继改进自己,导致一种所谓的“技术奇点”或“情报爆炸”,机器在资源和自我保护的斗争中战胜人类的风险不能简单地被解雇巴拉特的书中最尖锐的引语属于传奇的连续人工智能企业家丹尼希利斯,他将即将到来的转变比作生物进化史上最伟大的转变之一:“我们在这一点类似于单细胞生物的时代变成多细胞生物我们是变形虫,我们无法弄清楚这是什么东西我们正在创造“人工智能的进步已经创造了我们从未梦想过的风险随着互联网时代的到来及其大数据爆炸,“正在收集关于我们的大量数据,然后被提供给算法进行预测,”德雷塞尔大学计算机风险专家Vaibhav Garg告诉我“我们没有能力知道何时正在收集数据,确保所收集的数据是正确的,更新信息,或提供必要的背景“即使是二十年前,很少有人甚至梦想过这种风险

未来有哪些风险

没有人真的知道,但Barrat对John Vink / Magnum提出的照片是正确的

作者:房溺