在里德·霍夫曼的新书《superagency》里,出现了不少新造的词,相信也给译者陆坚老师带来了不少伴随挑战的乐趣。对这些词做个刨根问底,对于分析AI的未来发展趋势和治理策略走向,也许会有些帮助。
首先是书名本身,superagency这个词,词典里没有,中文正文里译作了“超级能动性”。搞懂这个词,以及为什么用这个词当书名,就要去了解里德·霍夫曼这个人和他写这本书的动机。其中的agency,放在2025年,谁看谁都会去从“智能体”有关的角度去联想,这也就构成了作者在书中从哲学、社会学和心理学角度解读agency的一个由头——甚至,关于agent的中文译名“智能体”,读完后感觉可以斟酌一下是不是该叫“能动体”更恰当些。
里德·霍夫曼1990年从斯坦福符号系统与认知科学本科毕业后,以“马歇尔学者”的身份在牛津读了个哲学硕士。马歇尔学者项目是个鼓励美国优秀学生去英国念研究生的奖学金项目,耶鲁校长2025年毕业典礼上夸奖这一届本科生多优秀的时候,专门用毕业生中有多人入选了罗德学者、马歇尔学者、苏世民学者等来佐证。从读中学时,哲学思辨就一直是他的兴趣,父母是律师,他也爱读书,爱跟人讨论大问题(big question)。创业、投资这走来的一路,他一直有当学者和思想家的念头,也就一直不断(合作)写书,系统分享自己对大问题的思考。
里德·霍夫曼
《superagency》关注的大问题是:AI究竟会给人类带来怎样的未来?
围绕这个问题的回答,霍夫曼将持有四种治理立场的四个群体,用一组“-oomer”为后缀的角色进行设定:doomer,zoomer,gloomer,bloomer。实话说,我的输入法和写作软件都在提醒我,这些词我是不是敲错了。对很多读者来说,也是新词,更是新意思。
doomer出自doom这个常用的词,doom看未来全是厄运,毁灭,末日。游戏DOOM有三十多年了,够经典。doomer是一类人,认为站在人类角度看AI会走向最糟糕的一种结局,超级人工智能、完全自主的AI不再与人类价值观保持一致,甚至可能“决定”彻底毁灭人类。译者陆坚老师用了“末日”一词,“末日派”认为AI注定成为人类最严重的生存威胁,带来人类的末日,再怎么未雨绸缪也无济于事,也不必谈什么治理。说真的,doomer的态度让我不由想起《疯狂的外星人》里沈腾说出“毁灭吧!赶紧的,累了”的那一幕。
zoomer这个群体笃定地认为AI带来的好处远远超过其负面影响,对任何预防性监管的做法都不以为然,主张给AI开发以尽可能大的空间,按其认为合适的方式来构建AI,并利用AI,在最短的时间内最快速度产生最大效果。zoomer其实有一个从boomer(婴儿潮世代)对比衍生而来的描述Z世代的含义,但在里德·霍夫曼的这本书中,zoomer却更多是从zoom而生发出的含义。“zoom”描述物体快速移动的状态(如飞机疾驰、摩托车呼啸而过),这种速度感自然让人联想到“全速”“快进”。而在摄影术语中,“zoom in/out”(推近/拉远镜头)通过快速调整焦距,也有模拟视觉上的“时间压缩”效果。他们不仅是乐观,而且还急见其成,追求未来快点儿到来,“急进派”也许才能代表zoomer的那种不管不顾、着急快进的劲儿。“急进派”的治理主张是:不要政府监管,也不用政府支持,就只要一条自由的快速跑道和完全的自由创新权。zoomer唱着“以后的路不再会有痛苦,我们的未来该有多酷”,翘首“新世界来得像梦一样”。
gloomer群体,是悲观的担忧一族,如gloom的本意一样,郁闷,灰暗,忧心忡忡。他们只是不像末日派(doomer)那么对未来绝望,而是从两个方向上质疑末日派的武断:既质疑末日派那么草率地认为AI强大到会毁灭人类的未来,只能等着投降;也质疑末日派放着眼前的AI挑战不管却操心末日那么远。“悲观派”强调已经就有很多AI带来的挑战影响着接下来的工作和生活——大规模失业风险、深度伪造的虚假信息、系统性偏见被放大、秩序与规范被打破,以及人的能动性被削弱,等等。“悲观派”在治理上的主张是要以约束性的方式、自上而下地来规范AI的发展,AI的开发和部署要由专门的监管机制和官方机构来严格监测和控制。因为悲观,力求防患,寄托监管。gloomer也许应该想想“命运如果都按人们认为的样子去安排,那它也就不能被称为命运了。”
里德·霍夫曼新书《superagency》
bloomer群体,是积极的耕耘一族,虽然bloom的含义有繁荣,有开花、绽放,bloomer本质上也很相信如果按照兼顾机遇与风险的路线走,会走出一个繁荣的未来,但这种结果非常强烈地依赖于培育过程,比如书中后面所提到的技术人文主义指南和迭代部署、广泛参与,等等,因为AI对人类方方面面的影响太广泛太深远。“耕耘派”的治理立场是允执其中的,他们不太认同单由政府主导的强监管,认为一旦政府监管就会过度干预,杀死宝贵的发展可能;也不认同在监管缺位的状态下由厂商单方面地去开发部署。“耕耘派”主张对多元广泛的参与主体进行适度监管,像农业种植,不同的土壤播撒不同的种子,根据不同的发展情况,适时地解决出现的问题,适时地调整和干预——当然,过程本身肯定是有风险的,但是,在广泛参与、小步快跑、迭代部署、透明公开的原则指引下,开发者与治理者都在博弈中学习和成长,也更能控制风险,促进发展。
里德·霍夫曼把自己归为耕耘派(bloomer),这一派回答前头那个大问题的时候,会做些修改,不是“AI会给人类带来如何的未来”,而是“人类会如何耕耘AI以带来更好的未来”。这当中的差别,就是书名里包含的那个最重要的关键词——agency(能动性)。里德·霍夫曼认为,大多数人对AI的担忧,其实是对人类能动性是否会因为AI而削弱乃至丧失的担忧。因为越是强大的技术摆在面前,人们越是会怀疑地问:人类还能继续规划自己的人生,并自主掌控自己的命运吗?AI也不是头一回这样,从印刷术,汽车到计算机、互联网和智能手机,人们都曾经经过类似的大怀疑阶段——当然,在他看来,AI远比之前的更超级(书名和正文都强调其super),所要应对的怀疑也更猛烈(暂抛开人类的不可挽救的忘性,就让我们认为这次的怀疑更猛吧)。
结论呢?里德·霍夫曼用了一整本书,给出来一个非常“耕耘派”的结论——如果人类对AI的发展治理得当,那么不仅不会剥夺人的能动性,反而会给人类带来“超级能动性”,就是说个体和集体能够突破限制,实现潜能的最大化发挥。书中也讲到很多实际已经显现巨大效力的应用,尤其是在社会层面上的累积效应,个体就像是插上了隐形的翅膀而得力受益。
末日派和悲观派都消极,末日派更绝望;耕耘派和急进派都乐观,急进派更极端。末日派和急进派从不同方向无视人的能动性,都站AI一边。耕耘派和悲观派更实际而不那么“科幻”,都强调关注近忧,从眼下着手,但悲观派更寄希望于监管,注重防患,耕耘派则立足市场主体,得在干中学习怎么才能管好善用。不同派,不同的AI观、AI治理观,有不同的行为理性。
从这四种立场对照着看,书的副标题就有点儿意思了——What could possibly go right with our AI future。这possibly不仅代表一种不确定性,整体品味一下这句话的基本面,并不是明亮的,而有着尽管底色负面仍要正向积极思考的意思在其中——你们怎么都这么悲观,能否让我们积极点,看看一旦我们走对了路,能走出怎样光明的未来?!这么起副标题,我想作者一定是从汹涌在脑海里那许多声量巨大的反对与质疑中突出重围,破浪而出。“耕耘派”坚信事在人为,不能也不该静态地揣度未来,而是要躬身入局、手粘油泥,边行动边改善地去创造未来,让未来走对路的可能性大起来。
杨斌博士,清华大学经济管理学院教授,领导力研究中心主任,可持续社会价值研究院院长;开发并主讲清华大学《批判性思维与道德推理》、《领导与团队》等精品课程;著有《企业猝死》、合著有《战略节奏》《在明明德》,译有《大学的窘境与革新》《变革正道》《要领》《教导》《沉静领导》等。 插画:邵忠
我跟里德·霍夫曼交流时,调侃说,这本书很多劝说的话像是专门写给欧洲领导人的,因为大篇幅都是在说服“悲观派”,认为太看重“预防性原则”(precautionary principle)并不能真正防止技术失控,作壁上观无异于集体失去能动性。如果真要等待“准备成熟”“风险排查清楚”“完全可控”,恐怕永远都无法启动。技术安全的正确做法,不该是让创新停下来(事实上连暂停都不可行),而是在动态的迭代探索中试错、发现和化解风险、校正。
当然,无许可创新(permissionless innovation),恐怕在面对AI这么巨大的技术威力和全局影响时,是不会被政府、社会和业界所接受的,即使在之前的科技转化为生产力的过程中曾多次证明有着相当不错的表现。里德·霍夫曼认为,人类不仅仅是智人(homo sapiens),还是技人(homo techne)——创造新工具突破自己的能力边界的同时,技术工具本身也重塑着人类。我想,更特别地,发展AI之后的人类,也许可以称为homo digitAI(中文翻译不好想,智人已经被占了,机智人?),人创造了AI,人与AI共生,AI重塑人类,人的个体和集体能力边界都在超级扩延。
做这一些功课,讨论人与AI未来的这四种群体分类,也有着从meme(模因、迷因)角度上的启发意义。代际群体通常划分的婴儿潮一代(boomer)、Gen X、Millennial、Gen Z(也称为zoomer),从文化群体而论其实已经发生了变化。在一些场景中如社交媒体上,boomer已经脱离了年龄域而成为落后于时代和落伍于技术的某种指代,“ok,boomer”从反抗爹味说教演变成一种文化现象。doomer(末日感、丧、无力无欲)成为不同年龄和国家所共有的一个社会问题焦点,也成为音乐风格上的一类。就像梁启超先生在《少年中国说》中所说的“有三岁之翁,有百岁之童”,文化和心理的自我认知认同比年龄本身的影响要大得多,这很值得认真研究对待。
同时,这些-oomer式的概念也越来越为文化学者或智库所关注。就像是“如何呢,又能怎”,或是“别墅里面唱K”的“大展宏图”,抑或是“喜单”中的“牛马”,没有无缘无故的爱和表达,火爆与不胫而走的背后,嵌着的是社会心理机理,潜移默化、日久弥深。这当中有价值(观)显现,却不是靠强行上价值来实现。表情包也好,段子也罢,不同的文化基因或模因迷因,不同的立场、出发点和行为方式,远比我们想象更有“超级能动性”的网络亚文化,走上了影响社会走向、公众表达也自证人生选择的前台。
doomer、zoomer、gloomer、bloomer这些meme不只是“梗”,不只是用以界定对AI或者是新技术发展所持态度的分野,更是理解文化演化、分化、迁移的眼,是群体认知不知不觉戴上的透镜。你是哪种-oomer?工作和生活中的人又是哪种?这些底色又会怎么影响着他们的知信行?可以试着一察究竟。