「人工智慧会不会摧毁人类?」──与唐凤一起问KK(顺便也问唐

「人工智慧会不会摧毁人类?」──与唐凤一起问KK(顺便也问唐

凯文.凯利(KK)一直是个走在数位时代尖峰的科技趋势家。他的新书《必然:掌握形塑未来30年的12科技大趋力》在台上架,引起各界热烈讨论。这次Readmoo与猫头鹰出版联合举办跨海读书会,邀请数位政委唐凤导读、主持这场发表会。

这不是台湾读者第一次与KK共读。2012年KK的《科技想要什幺》在台翻译出版时,KK就曾在Readmoo主办的活动中与台湾读者有过共读经验。对KK、唐凤与读者来说,这不只是一场读书会,也是一个数位时代的远端生活实践。

在与KK正式连线之前,唐凤先替在场与线上的观众做了简单摘要。KK大多着作较为艰涩,但《必然》中用十二个动词,清楚地将AI、VR这些较为生硬的知识,十分生活化地传达给读者。

KK对科技的推进向来十分乐观。在他的世界中,所有的人都是好人,不会有拿技术去做坏事的坏人。「这在硅谷是很常见的道德观。因为他们从小就研发技术,相信技术可以帮大家做很多好事,因此他们乐于帮大家做事情。」唐凤解释,面对社会对技术进步的担忧,像是AI会让人失业、VR会让人只与虚拟人物互动等等,「KK完全不认为这种事情会发生,因为他觉得每个人都是独一无二的。」面对新科技,不同的人会做出不同应用,也因为这些应用,更加强化「自己是谁」的认同。「没有人会使用同一种技术做同一件事情,所以科技不会让人商品化。」唐凤认同KK的这个想法,不过也觉得:这世界上是有坏人的,而坏人不会因为技术而消失。

「形成ing」(Becoming)是KK在《必然》里提到的第一个概念。在当今的网路时代,任何东西都可以随着使用者的需求自动更新。唐凤说,「这也衍生出了反历史(Anti-historical)的概念。」在网路诞生之前,人类的行为需要靠着既定的机制(mechanism)、靠着原本的文化积累,才能够顺利进行,更改纸本上的文字不仅耗时,而且不易流传。因此,知识进行改版之前,必须知道前一版是什幺。但现在网路上写出来的程式都有规则(law),与物理定律的性质有点相似,不需要理解前一版是什幺,「演算法可以自己解释自己。」因此,KK告诉大家,不用害怕没有参与网际网路开始的历史,要参与网路的创新,2017年比2016年更好;相反地,储存越多古老的想法,那就越阻碍创新。

KK在《必然》里对认知的概念与定义,引发许多争论──KK认为,电脑让人变得更加完整。当今的AI,其实就像当初的PC一样,人类对AI的想像与理解,应该要像对PC的想像一般。「我们不过是把一部分的机能移到外面来做,就像用火一样。」这幺做的结果,就是人类可以将其余力气花费在更有价值的事情上。

网路也改变了大家的阅读速度与吸收、传播资讯的方式,KK称之为「屏读ing」(Screening)。大家停留在萤幕上的关注力大约只有六秒钟,在很短的时间内就会把资讯再传播出去。这与一般纸本可能要花使用者六分钟的阅读时间相当不同。

「我非常高兴,中国、台湾、日本、韩国都愿意接受我这本书,因为这些地方都在科技上扮演很重要的角色。」KK上线,首先对在场与线上的读者表示诚意,由于时差的关係,这场见面会安排在假日早上九点进行,但现场仍聚集许多KK的忠实读者。

《必然》大约在两年前成书,本来是KK专栏文章的集结,但因文章当中的想法并不会与时俱逝,反倒是后来的科技发展趋势,让KK对自己写文时的想法感受更深;不过重新整理旧文之后,KK为了将发表在网路上的单篇文章收拢成书,仍进行近乎重写的修整。有读者认为这本书比KK的其他作品更有系统,KK则将之归功于编辑。

网路发明之前,电脑还无法改变全世界;网路发明之后,人类的生活产生重大飞跃。KK认为AI也会如此发展,让人类可以不需为谋生而工作,「虽然这是一个乌托邦的想法,却是能够想像的。」

而且KK很笃定,「人工智慧一定会产生有自我意识。但会不会跟人类一样複杂?那应该是很久之后的事情。」KK认为,自我意识不是一种有或没有的二元划分概念,,而是存在着不同阶段的光谱,一如生物学中,每种生物都有自己的智慧。人工智慧在某些程度上,的确有可能比人类聪明,甚至有可能产生跳跃性的变化,但KK强调,这种变化不太可能在当前的世界看到,因为在AI的发展史上,人类投入的研发资源与时俱增的,但获得的效益却越来越少。「这其实有点反摩尔定律。」

如何判断人工智慧够不够聪明?KK表示必须先讨论判定标準,看是要讨论效率、还是实质上的理解。若强调的是机器的端对端连结(end-to-end),那人工智慧一定比人类更有效率。但对人际沟通而言,效率只是一个影响因素,甚至不那幺重要。好的创新,有时也不见得有效率。「许多时候,人的敏捷与敏锐还是比较可靠的。」

KK也认为机器人一定会有情感,但有情感的人工智慧仍有与人不同的思考方式;因此,KK预测,未来应该会出现一种专门与人工智慧/机器人沟通的行业。

当前许多人认为人类为网路花费太多资源,KK表示:「地球只用5%的能源维持网际网路运作,人脑佔人类的能量也只有一点点;不要因为过度想像,而放弃了前进的力量。」有些人认为人类过度倚赖网路,担心若网路突然遭到攻击,那人类文明可能毁于一旦;KK则表示,网路的确可能受到恶意攻击,但却很难被完全瘫痪。

KK一直思索的,是「网际网路会走向何方?」他认为网路是一种不断延展的「脉络编织」。综观所有脉络,就可以看到时间的影响,可以看到人类对未来想像的转变。他最近正在读的两本书,一本是莱特兄弟发明飞机的历史,人类怎幺了解飞行、怎样想像在空中翱翔;另一本则是未出版的草稿,关于一群UIUC学生研发触控式萤幕的隐藏历史。KK认为,若要知道未来会走到哪里,仍必须回头检视脉络。

政府的进步速度与科技的进步速度相比,似乎永远显得过慢。KK认为政府基本上是保守的,而目前政府的组织方式,无法让进步速度加快。「政府未来应该会走向地方化、自治体的形式。」甚至地方政府还会再更近一步的分化,产生全新的政治体,政府的角色就会产生无法预期的新变化。KK建议政府应该要培养自己留住人才的力量,「如果那些人才能留在自己的国家,就可以促进各国政府竞争,并加速自身的创新。」

参加现场共读的读者也抓紧机会,用KK对政府的看法向唐凤提问,「若网际网路可以马上反应所有人的需求,意见传达不再需要透过代理人,那幺当今政府这种缓慢的步调、思维,应该如何转变?」

「忽然之间我又变成政委身分了,」唐凤笑道。他认为,政府的本质上一定是保守的,因为它必须支持整个国家、社会的运转,牵一髮而动全身。「这跟新创不一样。新创如果失败,就吸取教训,重新来过。」新创可以迭代,但政府不能。政府在产生改变时,必须要兼顾风险管理与创新,这样才能让机制顺利运行。不过,」唐凤话锋一转,「传统思维是这样子理解,但当前大家对政府的想像已经有大幅度的转变。」他以新北市区公所办护照的案例为例,解释当前部分地区正在进行的区域创新,而最近大力推动的公共政策资料平台,也可以看到不少政策正在被公开讨论、投票。因此,在可见的未来,政府不会是高高在上的角色,而将是全民可以共同监督(Peer-to-peer governance)的协力者。