鉴往知来:历史经验与前瞻视野下的人工智能治理
创始人
2025-04-20 03:22:07
0

导语:为应对 人工智能治理的复杂挑战, 兰德公司RAND)与长期发展研究所(The Long Run Institute,LRI)于2024年6月联合举办主题研讨会,并于2025年4月2日出版会议论文集《鉴往知来:历史经验与前瞻视野下的人工智能治理》(Applying History to Inform Anticipatory AIGovernance:Using Foresight and Hindsight to Inform Policymaking),针对人工智能技术的社会影响展开跨学科探讨。研讨会采用回溯预测与历史分析方法,通过构建2045年的两种技术情景,结合19至20世纪三次重大技术变革案例,揭示 人工智能治理的深层规律。启元洞见摘录整理论文集的核心内容,系统梳理其研究框架、核心发现与政策启示,为技术治理研究提供参考。

一 总述

人工智能预示着社会变革,其影响力可与冶金术蒸汽机、电力和互联网等过去的变革性通用技术相媲美。这些技术为人类福祉带来了巨大机遇,同时也可能破坏社会、治理、经济和关键基础设施系统,并削弱许多人的能力。

本研讨会由兰德公司与长期发展研究所组织,旨在探索一种将回溯预测与历史分析视角相结合的新方法,以应对人工智能发展带来的挑战。

回溯预测(Backcasting)是一种规范性未来研究方法,要求参与者设想一个理想的未来状态(如2045年人工智能赋能的人类繁荣社会),并逆向推演和描述实现该目标的路径。其优势在于突破当前认知局限,激发对颠覆性变革的想象。

尽管人们对理想的人工智能乌托邦存在分歧,但构想这些乌托邦是有用的,因为这一过程有助于识别与这些设想未来相容的近期政策。然而,人工智能可能引发的社会变革远超现有想象,单纯依赖回溯预测易陷入“乌托邦假设”的陷阱。为此,研讨会引入历史案例研究,通过分析19至20世纪通用技术(如电力、铁路)的社会影响,为未来推演注入现实性。

本研讨会首次探索应用历史学方法,为聚焦人工智能治理近期政策挑战的前瞻推演提供学理支撑。区别于对通用人工智能存在性风险的末日推演,研究重点在于推演广泛部署的强大人工智能如何构建普遍受益的未来图景。

会议成果既揭示了历史认知在反向预测中的实践路径,也提出了近端政策假设与长期研究议程。作为政策实验的方法论试点,该框架旨在为决策者提供可扩展的历史认知工具,其模块化设计适用于多维治理场景的技术适配。

二 研讨会实施

(一)研讨会方法论

研讨会采用回溯预测这一未来学研究方法,以构建理想未来情景为起点,要求12位参与者置身于预设的未来时点,逆向推演实现该愿景的可能路径。尽管人工智能可能带来毁灭性情景或通用人工智能引发的生存风险,研讨会聚焦于探讨强大而普及的人工智能技术如何创造普惠性的人类繁荣未来。

参与者获得设定于2045年的两个情景描述,随后通过系列问题构建实现路径的叙事框架:2025—2030年间发生哪些关键行动?后续事件如何展开?哪些意外因素促进或阻碍了这一进程?参与者需综合考量技术科学、价值社群、经济制度等多维度的演化路径。

回溯预测法通过将参与者锚定于特定未来节点,有效限制路径分叉的无限可能性。而传统预测方法往往受限于现实条件而难以突破思维定式,该方法则鼓励参与者突破当下约束,聚焦主动性问题:“我们期望实现何种未来?如何构建实现路径?”

(二)研讨会流程设计

研讨会于2024年6月12日在兰德华盛顿办公室举行,持续7小时,12位参与者涵盖商界领袖、前国会议员(民主党共和党各1名)、技术专家、行政官员及政策分析师,多数成员曾担任兰德或长期发展研究所顾问职务。

研讨会设置两个未来情景:“崛起之声”(Rising Choir)与“奇点共生”(The Singularis)前者改编自“存在希望组织(Existential Hope)”的获奖方案,描绘先进人工智能工具“开源信息与社区参与之声(V.O.I.C.E)”推动的去中心化直接民主社会;后者由兰德团队构建,呈现生物人类与增强人类和谐共生的平衡型社会。会前材料包含研讨会说明(1页)、情景描述(各2页)及历史案例研究(30页)。

(三)情景构建说明

1. 情景一:崛起之声

2045年的技术社会呈现双重变革:人均配备2台人工智能人形机器人,承担95%日常任务,全球经济规模扩张20倍。太阳能储能技术突破实现能源盈余,支撑碳捕集等生态工程。全民基本算力(UBC)与全民基本收入(UBI)保障社会参与和经济安全。

V.O.I.C.E平台通过聚合民意实现多层级直接民主,从地方治理到国际条约均实现数十亿人参与决策。其开源特性确保透明度与持续优化,显著降低文化冲突并提升生活水平。教育、交通、医疗等领域全面AI化,但投票匿名性、机器人干预防御与技术普惠性等挑战依然存在。

2. 情景二:奇点共生

该情景构建了两位角色:生物人类Nedd与人工智能增强人类Aidhan,通过他们的日常互动构建展现了这一未来共生文明。人工智能系统优化资源分配与液态民主治理,每周10小时社区贡献制重构工作定义,闲暇时间转向自我实现。全民基本收入与人工智能生产系统保障经济公平,生物工程与个性化医疗延长寿命至150岁。超人类运动联盟与生物技术艺术重塑休闲方式。

但这一情景中面临增强/非增强人群的分化风险及后人类伦理框架构建等核心挑战。但社会依然坚守可持续发展、跨意识统一体与变革机会均等三大原则。

(四)历史案例研究

研讨会还融入三大19至20世纪关于几项通用技术对社会产生影响的案例。

1. 案例一:美丽新世界(Brave New World)

案例聚焦工业革命时期(1760-1914)技术变革对劳动市场的冲击。在此期间,蒸汽机与电力技术推动经济增长,同时引发“恩格斯停滞期”、技术性失业与劳资矛盾激化。案例还提供历史实例,说明这些趋势如何推动了追求截然不同经济再分配方法的社会和政治运动。

启示性问题包括:人工智能的广泛应用是否会引发大规模的劳动力替代?这些岗位替代是否会进一步集中经济权力?技术变革的社会和政治后果又是什么?公众对这种变革的反应有哪些历史先例?政府在确保技术进步带来的利益更公平分配中可以发挥什么作用?

2. 案例二:繁荣与萧条(Boom and Bust)

案例分析了电力等通用技术对生产率、创新和经济增长的影响。案例表明,技术成熟需配套投资(如电网建设)与组织变革,政府/私人研发投入比例变化影响创新速度。

其中关于人工智能的关键议题是:人工智能是否将成为具有变革性影响的通用技术?如何确保对人工智能的研发投资足以推动持续经济增长与创新?如何避免投机泡沫?

3. 案例三:垄断时刻与思想市场(Monopoly's Moment and Markets of the Mind)

案例探讨了19世纪末至20世纪初垄断与托拉斯对市场、产业及政府政策的深远影响,强调了技术创新与监管之间的内在张力,以及垄断掌控关键产业与市场所带来的风险,同时突显了人工智能对治理和社会秩序可能产生的影响。

核心问题在于:人工智能对市场结构及数字平台崛起为“云端帝国”(即私营企业作为虚拟国家运作)有何潜在影响?如何平衡创新激励与反垄断?

三 研讨分析

(一)分组讨论

12位参与者分为两组展开情景推演,上午聚焦情景假设批判,下午融入历史案例后转向制度重构与政策设计。

1. “崛起之声”组

与会者对去中心化人工智能治理工具的可行性提出质疑,指出现有平台(如TikTok)虽具备舆论塑造能力,但其中心化运营模式与场景设想的激进去中心化存在本质差异。讨论强调国家间人工智能治理范式差异对全球技术整合的制约,特别是美国政策滞后与科技巨头的市场垄断现象。针对场景中“2045年全球经济扩张20倍”的假设,学者指出技术向生产力的转化需依赖劳动力重构机制,并关注人口结构变迁对地缘格局的潜在影响。

讨论面向制度创新需求,以铁路、电报技术革命引发的历史治理转型为参照,提出人工智能可能催化新型全球公域治理框架。奥斯特罗姆的自主协调理论被援引,质疑威斯特伐利亚体系(Westphalian System)的适应性。技术意外后果(如寿命延长)与价值体系重构的关联性成为焦点,强调乌托邦愿景可能隐含非预期社会风险。

2. “奇点共生”组

围绕人工智能增强人类的“技术—伦理”边界展开,设想医疗场景可能成为增强技术的社会切入点。核心争议集中于增强服务分配机制(如慢性病患者优先权)与能力增强的伦理审查(如犯罪能力提升)。场景中“十小时工作制”假设引发对劳动价值重构的讨论,强调经济剩余分配需平衡个人成就感与社会福利体系。

讨论还聚焦监管滞后问题,以铁路监管历史为例,揭示政策响应速度与技术创新节奏的匹配难题。讨论剖析科技巨头通过“监管俘获”巩固市场地位的策略,强调动态监管体系建设的紧迫性。美国研发投入的“公私失衡”现象(私部门占比76%)被指削弱政府技术评估能力,形成监管依赖企业的结构性缺陷。

(二)全体会议

集中讨论呈现三大政策议题:

1. 垄断风险治理:人工智能基础设施(云计算、数据存储)可能形成自然垄断,需参照公共事业监管经验。现行反垄断工具对网络效应型垄断效力不足,需发展协同治理框架。

2. 研发投入结构:美国研发支出私营化趋势显著(企业占比75%),政府技术能力萎缩加剧监管滞后风险。大学研究体系与产业实验室的技术代差可能形成“监管认知鸿沟”。

3. 全球治理架构:多边主义机制缺位可能引发规则碎片化,需构建兼容威斯特伐利亚体系与全球公域的新型治理。气候治理等跨国议题或成为制度创新的催化剂

四 历史在回溯预测中的作用启示

将历史案例研究嵌入回溯预测流程,显著改变了研讨会的讨论形态。讨论一方面聚焦于场景假设的可行性验证与技术路径推演,另一方面,在历史案例启发下转向更宏观的社会制度重构与政策创新。这种转变印证了历史情境的注入能够突破当前认知框架的局限,促使参与者以“历史差异即未来可能”的视角重新审视技术变革的社会影响。

讨论中反复出现的核心命题是:尽管每次技术革命的具体形态各异,但快速变革期后的监管挑战、市场调节机制失效等宏观规律具有历史复现性。例如,人工智能技术初期红利是否会被垄断控制、监管俘获与社会断裂等后续问题所抵消?这种历史透镜下的追问,显著提升了政策讨论的纵深感。

与会者的专业背景多样性强化了历史经验的多元解读。技术政治经济学视角下的讨论尤其凸显分歧:国家角色边界、创新激励与市场集中缓解机制、社会效益优化路径等议题的辩论,反映出不同历史案例对当代政策制定的差异化启示。

相关内容

热门资讯

广东水利应急响应升至Ⅱ级 科学... 受今年第6号台风“韦帕”影响,广东省水利厅于19日11时将水利防汛防台风Ⅳ级应急响应提升为Ⅱ级。截至...
培育人工智能领域技能人才,12... 7月19日,东莞市2025首届人工智能训练师大赛决赛举办。大赛以“技术赋能产业,创新引领未来”为主题...
AI超级联赛,何以落户广西? 中新网南宁7月18日电(记者 杨陈)近期全国各地高温热浪持续。在广西南宁,即将于7月19日启动的AI...
王俊凯黄子弘凡助阵《英雄联盟手... 搜狐娱乐讯(马蓉玲/文 孟莎/图、视频)7月20日,《英雄联盟手游》3周年庆典暨超级联赛第一赛段总决...
浙江卓展科技取得双袋包装设备专... 金融界2025年7月19日消息,国家知识产权局信息显示,浙江卓展科技有限公司取得一项名为“一种双袋包...
原创 华... 目前市面上折叠屏手机越来越多了,三星和华为的折叠屏价格比较贵,华为作为十分注重品质的厂商,得到了很多...
《GTA6》PS5版或锁定30... 《GTA6》自公布以来便引发了玩家们的高度期待,任何官方消息或泄露情报都能迅速成为焦点。 Rocks...
外媒独家爆料《黑暗之魂3:复刻... 7月18日时,外媒报道称FromSoftware还有一款未公布的多平台游戏,代号为FMC,可能是《装...
蜂巢能源取得电池包和动力装置专... 金融界2025年7月19日消息,国家知识产权局信息显示,蜂巢能源科技股份有限公司取得一项名为“电池包...
“浙BA”台州赛区,冠军队伍诞... 60:57 “浙BA”台州赛区巅峰对决 台州湾新区代表队战胜玉环代表队 成为台州赛区冠军 台州湾新...
点点互动又出爆款,抖音小游戏用... 随着这些年国内游戏厂商声量壮大,中国游戏全球化/区域化新品布局、中国厂商于宣发联动、投资并购等业态频...
我国科学家发现大豆种子油蛋比调... 记者从安徽农业大学获悉,该校王晓波教授团队联合中国农业科学院作物科学研究所邱丽娟、李英慧研究员团队,...
“墨子”又有新突破!实现对银河... 记者7月18日从中国科学技术大学了解到,我国墨子巡天望远镜(WFST)于近期实现了对银河系的分钟级高...
【东图名师讲坛】农业机器人的核... 2024年 与366位名师相约 每天30分钟一讲座 把你的思维带到未曾去过的地方 第272期 农业机...
数字孪生赋予船舶设计新思路 近日,新加坡推出其首个海事数字孪生项目,该项目由新加坡港务局与新加坡政府技术局合作开发,包括实时船舶...
联影医疗获得发明专利授权:“射... 证券之星消息,根据天眼查APP数据显示联影医疗(688271)新获得一项发明专利授权,专利名为“射线...
周口市图书馆“绘创作”创意手工... 绘创作·创意手工专场 7月19日—20日活动回顾 暑假里的创意时光总是格外珍贵!7月19日至20日...
高效链条牵引科技与产业融合 科技成果从“实验室”走向“生产线”,是推动科技创新迈向纵深的关键一跃,也是赋能产业升级、助力新质生产...
Manus“撤退”,智能体“退... 文 | 伯虎财经,作者 | 楷楷 近两年,以大模型为代表的AI行业,其迭代速度之快,已经远超我们想...
原创 高... 大家好我是指尖,任何热门英雄都可能经历版本变革后变成冷门,当然了,挑战和机遇并存,那些常年下水道的英...