我的财讯iPhone客户端 | 财经股票网址大全 | 添加到收藏夹

“AI的25种可能”的集中表达

19-11-26 11:00    作者:一只花蛤    相关股票:

文/姚斌

导语

当25位顶尖思想家们将话题聚焦到了人工智能的时候,他们的思想就迅速集结成了《AI的25种可能》。在他们当中,包括了史蒂芬·平克、朱迪亚·珀尔、丹尼尔·丹尼特、迈克斯·泰格马克等25位当今杰出的计算机科学家、心理学家、物理学家、科技史学家。他们产生的前沿洞见,让我们看到了人类未来的25种“可能”。这个功劳要归功于Edge网站创始人约翰·布罗克曼。

1948年,诺伯特·维纳出版了《控制论》,这本书奠定了他的“控制论”创立者的崇高地位。但是,这本书因为技术性太强,所以晦涩难懂。为了使“控制论”思想能够深入人心,维纳又于1950年出版了《人有人的用处:控制论与社会》。其目的在于希望通过他的努力使得人类在技术世界的环绕中更有尊严、更有人性,而不是相反。该书从技术谈起,然后逐渐将视角扩大到文化、社会等各个领域:包括人类与动物不同的学习机制、语言机制、历史和信息的组织方式、法律和传播过程的关系以及传播和社会。

有意思的是,在这本书发表了60多年后,思想家云集的Edge网(其前身即是“现实俱乐部”)创始人、“第三种文化”领军人约翰·布罗克曼发起了对《人有人用处》的讨论。Edge呈现出来的观点都是经过推敲的,它代表着当今最前沿的科学。在那些参与者的观点中,不断涌现出新的自然哲学:一系列理解物理系统的新方法,以及我们很多基本假设的新思维。布罗克曼的第三种文化是一把巨大的“伞”,它把计算机专家、行动者、思想家和史学家聚集于“伞”下,在围绕互联网掀起的传播革命中,产生了巨大的影响。

Edge鼓励那些能够在艺术、文学和科学论著中撷取文化素材,并以各自的方式将这些素材融于一体的人。Edge由一些与众不同的人组成,他们会创造属于自己的真实,不接受虚假的或盗用的真实。在我看来,这种做法与圣塔菲研究所十分相似。用小说家伊恩·麦克尤恩的话来说:“Edge心态开放、自由散漫,并且博识有趣。它是一份好奇中不加修饰的乐趣,是这个或生命或单调的世界的集体表达,它是一场持续的、令人兴奋的讨论。”

Edge每年都有一本合集,为此,湛庐文化出版了不少中文版合集,比如《心智》、《生命》、《世界因何美妙而优雅地运行》 等等。《AI的25种可能》这本合集诞生于2016年。那时,“Edge年度问题”是基于一个叫做“可能的心智”的研究项目,正式开始于2016年9月在康乃狄克州华盛顿的5月花格瑞斯酒店召开的一次会议。当时有25人参加了这次会议,他们对诺伯特·维纳的《控制论》展开热烈的讨论。在他们当中,对人工智能有持赞同意见的,也有持反对意见的,以此来审视人工智能历史的演变。

一本具有很大争议的书

《人有人的用处》是一本具有很大争议的书。虽然大部分人认为它充满了“先见之明”,但同时也充满了无限“谬误”。之前,维纳就提出了“控制论”的思想。在维纳看来,控制论是经由反馈实现的控制过程,世界是一组复杂的、互锁的反馈回路,其中传感器、信号和发动机之类的驱动器通过复杂的信号和信息交换而相互作用。控制论在工程领域的应用影响力极大且非常有效,使我们有了火箭、机器人、自动装配线,以及一系列精密工程技术,它构成了现代工业社会的基础。

而在《人有人的用处》中,维纳引入了大量关于人类与机器相互作用的主题,这些主题至今仍然非常重要。但是这本书基调灰暗,它预测了在20世纪后半叶即将发生的几种灾难,其中许多与今天人们对21世纪后半叶的预测非常相似。维纳甚至预见到在距离1950年不远的将来,人类会将社会的控制权交给一种控制论的人工智能,这将导致对人类的严重破坏。维纳还预言,生产自动化会带来产量的大幅增长,但同时也将使大批工人下岗。维纳警告说,除非社会能合理安置这些失去工作的工人们,否则叛乱将随之而来。

维纳的预言有的已经实现,有的尚未实现。只是,维纳确实没有预见到技术的重大发展,就像20世纪50年代的许多技术专家一样,他没有预见到计算机革命。他以为,计算机价格会从50年代的几十万美元降到几万美元。无论是他还是那个时代的人,都没有预料到随着晶体管和集成电路的发展,计算机的能力会爆发性地提高。最后,由于维纳过度强调控制,他没有预见一个技术世界的到来,在这个技术世界里,创新和自组织是从底部一点点发展而来而不是从顶部强加下来。维纳的错误就在于他把控制论的理念用到了人类身上。维纳和几乎所有生活在那个时代的人一样,极大地低估了数字计算的潜力。

维纳提出许多问题,其中之一就是,人类将自己的命运交给机器掌握的可能性。他认为,机器和像机器一样的控制系统将掌握在人类精英手里,绝大数多数人类将沦为“齿轮、杠杆和棍子”,其危险性显而易见。“AI的25种可能”基本上就是围绕这个问题展开的。这些来自不同领域的专家、学者、企业家、艺术家以及史学家在评论维纳的“危险性”时妙趣横生。他们都从各自的思考角度展开,使得每个观点都有可能变成“可能”。

“可能”真的可能变成“可能”

要全面展现所有的“AI的25种可能”显然不可能,只要知道其中的几个“可能”就可能让脑洞大开。

1、科技史学家乔治·戴森始终都对阿留申皮艇的发展过程、数字计算和电信的进化、数字宇宙的起源以及一条未实现的太空之路感兴趣。他认为,拥有从数字基础上发展而来的模拟控制系统的真正的人工智能,就像数字计算机在第二次世界大战后从模拟组件中发展起来一样,可能并不像我们想象的那样遥远。当谈论维纳的危险论时,他对模拟计算和数字计算之间的区别进行思考,发现模拟计算依然盛行。人类企图通过机器编程来控制万物,大自然对此可能回应以未被编程的机器,而没有人能控制它们。

戴森指出,人工智能有三条定律:第一定律是阿什比定律,该定律认为任何有效的控制系统必须与它控制的系统一样复杂;第二定律由冯·诺伊曼提出,一个复杂系统的定义特征一定包含对其行为的最简单的描述。生物体最简单的完整模型是生物体本身。试图减少系统行为,达到任何形式化描述的程度,只会使事情变得更复杂,而不是变得更简单。第三定律指出,任何一个简单到可以理解的系统都不会复杂到可以智能化行事,而任何一个复杂到足以智能化形式的系统都会太过于复杂而无法理解。基于第三定律,我们不用担心机器会产生超人类智能的人带来安慰。“好”的人工智能是个神话。我们与真正的人工智能之间的关系将永远是一个信仰问题,而不是证据问题。

2、计算机科学家罗德尼·布鲁克斯早在2002年就认为,我们今天的处境比维纳预想的要复杂得多,他担心这比维纳预想的最糟糕的情况还要糟糕得多。由于工程软件的快速发展,我们越来越依赖无处不在的那些系统。它们不但具有剥削性,而且还容易受到攻击。人类对这些系统如此依赖令他感到震惊。他说,软件工程的发展速度已经超过了实施可靠有效的保障措施的速度。

在参与讨论“AI的25种可能”中,他依然延续他的立场。他说,数学家和科学家们常常受限于他们工作中使用的工具和隐喻,无法看清他们特定领域之外的大局。维纳是这样,他也是这样,艾伦·图灵和冯·诺依曼也是这样。他们既没有预见到摩尔定律会带来计算能力的指数增长,也没有预见到计算机器会变得如此普及。他们没有预见到计算模型的两个发展,每一个都对人类社会构成巨大的威胁:一是计算机病毒,一是人类对计算机的高度依赖性。他们显然无法预见其中的复杂性。这就使得人类陷入困境:我们正被一些公司剥削,这些公司提供了我们渴望的服务,但与此同时,我们的生活却依赖于许多软件系统,这些软件系统极易受到攻击。因此,让人类摆脱困境将是一个长期的任务。

3、卡罗琳·琼斯是麻省理工学院建筑系的艺术史教授。她也关注控制论的历史。但是她把控制论分为“左右”。“右控制论”是人工智能的顽固和傲慢,这使得我们有了当前的自动化武器系统,使得优步对人类工人充满敌意,也使得谷歌做着资本主义美梦。而“左控制论”则是理论生物学家和人类学家致力于对智能系统的跨物种理解。

琼斯观察到,从20世纪70年代的蔡文颖到20世纪90年代的赫什曼·利森,再到2014年的菲利普·帕雷诺,艺术家们一直在批判右控制论,一直在致力于寻求“人工”智能的替代、具身和环境体验。比如,蔡文颖的“控制论雕塑”就模拟了一种情感而非理性的交互作用,让人类感觉到是有反应的生命体,其作品通常被归类于“植物”或“水生”。很显然,艺术家们对控制论生物的艺术运用为我们提供了共生智慧。在这个世界可以实现的各种诗学中,我们能体会到这种智慧:产生生命运动的信号的节奏和直觉行动与电机和磁技术领域合作。

未来的AI

维纳的危险性依然笼罩在我们的上空。实际上,对于AI的争议从未停止过。雷·库兹韦尔在他的《人工智能的未来》一书里就展示出那些“反对”的声音。比如,保罗·艾伦对“指数发展说”完全持否定态度;罗杰·彭杰斯认为,计算机无法像人脑那样进行量子计算;约翰·塞尔说,计算机即便能够通过图灵测试,它也不知道自己在做什么。于是,就形成了“奇点遥远”论、“量子计算能力缺失”论和“无意识”论。对于这些观点,库兹韦尔分别进行一一反驳。

库兹韦尔要做的就是拥抱“奇点”。“奇点”是库兹韦尔的一个“隐喻”。这个隐喻就是,当智能机器的能力跨越这一临界点之后,人类的知识单元、联接数目、思考能力,将旋即步入令人晕眩的加速喷发状态——一切传统的和是以为常的认知、理念、常识,将统统不复存在,所有的智能装置、新的人机复合体将进入“苏醒”状态。

库兹韦尔最惊人的预言是加速回报定律。加速回报定律认为,信息科技的发展按照指数规模爆炸,导致存储能力、计算能力、芯片规模、带宽的规模暴涨。基于加速回报定律,库兹韦尔做出了许多预言和结论。比如,2029年,新一代智能机将通过图灵测试;非生物意义上的人将在这一年出现。脑新皮质模型——思维的模式识别理论:人的大脑记忆是层级结构;有3亿多个“模式识别器”。大脑新皮质的主要作用,是“模式识别”,具备“分层学习能力”。大脑新皮质的能力,包括创造力、自信、组织能力、感染力,以及反对正统想法的勇气。仿真大脑(核心是仿生新皮质)在改变世界过程中的地位越来越重要等等。

斯蒂芬·沃尔夫拉姆既是一位科学家,又是一位发明家。他说,人们担心人工智能会接管这个世界,但在某种意义上,在人工智能接管这个世界之前,会先发生一些更有趣的事情。我期待着一些“更有趣的事情”,因为我们有智慧,而其他东西却没有智慧。


 
声明:本文内容由原作者博客的RSS输出至本站,文中观点和内容版权均归原作者所有,与本站无关。点此查看原文...

我要评论

(200字以内)