当前位置:主页 > B地生活 >哈拉瑞:为何资讯科技有利于暴政 >正文

哈拉瑞:为何资讯科技有利于暴政

哈拉瑞:为何资讯科技有利于暴政

  耶路撒冷希伯来大学历史学家哈拉瑞(Yuval Noah Harari)回应杂誌专题《民主正在凋零?》(Is democracy dying?)的文章指出,他认为包含人工智慧在内的资讯科技有利于极权暴政,人们不该担心人工智慧拥有自己的意识,而是先担心它被人类拿来破坏民主。

  哈拉瑞在文章提到,民主并非历史的必然,儘管民主国家在过去一个多世纪取得成功,但它仍算是历史上罕见的「特例」,君主制、寡头政治与其他类型的独裁专制是更普遍的人类治理模式。他写道:「民主理念其实比我们想像的还要脆弱,它在二十世纪的成功取决于得天独厚的技术革新条件,这些短暂的条件很容易就会消失。支撑民主的条件正在转变,随着人工智慧的发展,它或许会进一步产生变化。」

  资讯科技每年都有突破性的发展,生物科技也开始探索人类的内心世界:我们的情绪、思想和选择。哈拉瑞提到,资讯和生物科技将联手对人类社会造成前所未有的动荡、侵蚀人类组织,乃至颠覆人类慾望。在这种情况下,自由民主与自由市场经济则显得陈旧过时。

哈拉瑞:为何资讯科技有利于暴政

  他指出,现代社会的「一般人」越来越害怕自己变得无关紧要,许多神秘术语——全球化、区块链、基因工程、人工智慧、机器学习——在政府智库、科技研讨会、TED或其他会议演讲上是热门议题,但一般人(无论男女)意识到所有的术语都太过遥远,好像与自己没有任何关联。由于惧怕自己变成「无关紧要者」,民众便疯狂利用所剩无几的政治权力试图挽救一切。

  哈拉瑞以英国脱欧和川普崛起为例,提到两者变革的轨迹与传统社会主义式的革命完全相反。从前俄罗斯、中国和古巴革命皆由具经济价值但缺乏政治权力的人所发起;川普与英国脱欧得到了多数支持,其支持者虽享有政治权力,但他们害怕失去自己的经济价值。他写道:「或许在21世纪,民众反抗不再是针对剥削人民的经济菁英,而是针对不再需要他们的经济菁英。这可能是一场注定失败的抗争,毕竟与反抗剥削相比,反抗变成无关紧要者似乎难得多。」

  哈拉瑞预测,世界可能会出现新的「无用阶级」。因为无论自由民主的哲学诉求为何,很大程度是得益于现实优势:在政治和经济学中,自由主义的「分散决策」特色让自由民主国家胜过其他政体,为人民带来越来越多的财富。他说:「自由主义藉由对所有人承诺一块大饼来消弭彼此矛盾:无产阶级与资产阶级、信徒与无神论者、移民与原住民、亚洲人与欧洲人。只要大饼不断增长,和解便能延续下去。大饼也许会一直增长,但经济繁荣并不能解决突破性创新造成的社会问题,而社会也越来越仰赖突破性科技。」

  当然,人们对于被就业市场淘汰的恐惧并非新鲜事,过去已经证明这种担忧毫无根据。但人工智慧与旧时代的机器不同,工业革命时期的机器主要是以劳力技能与人类竞争,但它们现在开始在认知方面与我们竞争。对人类而言,我们没有第三种技能确保人类永远保有优势。

哈拉瑞:为何资讯科技有利于暴政

  当人们失去经济价值后,随之而来的是失去政治权力。新科技令数十亿人的经济价值变得无足轻重,而使他们变得更容易被监控。哈拉瑞写道:「人工智慧让许多人害怕,因为他们不相信人工智慧会一直听话服从。科幻小说经常描写电脑或机器人产生意识,并在不久之后试图杀死所有人类。但是,我们没有理由相信人工智慧会随着科技进步发展出意识。相反地,我们更应该害怕人工智慧会永远服从人类,而且永远不会反抗。人工智慧可能成为人类史上最强大的工具和武器,促使强大的国家更进一步巩固权力。」

  世界上许多国家(包括民主国家)已经着手建立前所未有的监控系统,以色列是监控科技领域的领导者,他们在佔领的约旦河西岸地区建立了一套全面监控体系。今天,每当巴勒斯坦人打电话、在Facebook发文或旅行移动,都受到以色列政府装设的麦克风、相机、无人机或间谍软体监控,以色列维安部队透过演算法分析蒐集来的资讯情报,以找到并消灭他们认为的潜在威胁。今天巴勒斯坦人所面临的处境,可能是全球数十亿人往后将经历的预演。

  想像一下,如果北韩的金氏政权某天取得更高科技的监控技术,强迫国民配戴生物识别手环,监视其日常言行、血压和大脑活动。藉由日渐熟悉人类大脑的运作模式,结合机器学习的强大力量,最终北韩可能发展出能衡量每个国民思想和情绪的技术。当民众看着领袖的照片时,如果生物识别感应器侦测到愤怒的迹象(血压升高与杏仁核活跃),他们很可能明天就会被抓进劳改营。

哈拉瑞:为何资讯科技有利于暴政

  然而,很多时候根本不需要用到这种「强硬」的科技手段。哈拉瑞表明,儘管多数国家对公民的实际控制看似变少,并赋予他们自由意志选择与投票权利,但操纵选民情感影响投票结果向来都不是难事。一旦未来某个统治者得到有效、廉价能大规模运用的情感操纵技术,民主政治将沦为一场木偶戏。

  未来几十年,我们或许不会遇到拥有情绪的机器人,但可能不得不面对那些比亲人更擅于操控我们情绪的机器人,而且它们在这方面驾轻就熟。菁英忙着向群众推销东西,无论是汽车、政治明星还是整套意识形态;而机器人则负责识别人们内心深处的恐惧、仇恨与渴望,并利用它们来对付我们。即使某些社会维持着表面上的民主,效率越来越高的演算法仍会改变我们,促使个体将越来越多的权力交付给网路机器。人们依赖和信任演算法,便心甘情愿地放弃生活中的更多权力,最终失去了为自己做决定的能力。

  举例来说,在短短二十年间,数十亿人就将「寻找答案」这件事交由Google搜寻的演算法。我们越来越依赖Google找到答案,而独立处理资讯的能力也变得越来越差。今天的「真相」是由Google搜寻得出的最佳结果所定义,这种过程同样影响了人类的身体机能,例如导航系统和未来的自动驾驶汽车与AI医生。

  哈拉瑞写道:「虽然这些创新会让卡车司机和人类医生失业,但更重要的是它加剧了人类把权力和责任转移给机器的过程。当人类仰赖人工智慧为我们做决定时,我们的生活会变成什幺样子?现在我们相信Netflix所推荐的电影,还有Spotify为我们选择音乐,你怎幺会觉得AI帮我们做的选择只有这些?」

哈拉瑞:为何资讯科技有利于暴政

  有朝一日,人工智慧或许会像《黑镜》的剧情般,为我们做出比职涯规划更好的决定,甚至替你决定该跟谁当朋友。哈拉瑞说:「当我们开始依靠AI决定学什幺、做什幺工作、与谁约会甚至结婚时,人类的生活不再是一齣关于抉择的连续剧,我们对生活的概念也会随之改变。不但民主选举和自由市场不再具有意义,多数的宗教和艺术也是如此。」

  他指出,人们需要更加重视人类思想的运作方式,特别是如何培养自己的智慧与同情心。如果我们过度投入在人工智慧而疏于发展人类思维,那幺越来越複杂的人工智慧只会让人类变得更加愚蠢,并培养出人类最糟糕的(也可能是最强大的)原始冲动,其中包含贪婪与仇恨。为了避免这样的后果,人们应该在投入改善人工智慧的同时,以同等精力探索和发展人类意识。

  此外,如果我们想防止所有财富和权力集中在一小群菁英手中,更现实而直接的方法是规範资料所有权。哈拉瑞说:「在古代,土地是最重要的资产,因此政治成为控制土地的斗争方式;在近代,机器和工厂变得比土地更重要,因此政治斗争焦点变成控制这些重要的生产模式;到了21世纪,资讯数据成为比土地和机器都更重要的资产,因此政治势必沦为掌控资讯的斗争工具。我们能做的是找到防止数据集中在少数人手中的做法,并找出让分散数据比集中数据能更有效率的方法。这都不是简单的事,但追求并实现这些目标是民主的最佳保障。」

参考报导:Atlantic

文章标题: 哈拉瑞:为何资讯科技有利于暴政

推荐文章