鉴往知来:历史经验与前瞻视野下的人工智能治理
创始人
2025-04-20 03:22:07
0

导语:为应对 人工智能治理的复杂挑战, 兰德公司RAND)与长期发展研究所(The Long Run Institute,LRI)于2024年6月联合举办主题研讨会,并于2025年4月2日出版会议论文集《鉴往知来:历史经验与前瞻视野下的人工智能治理》(Applying History to Inform Anticipatory AIGovernance:Using Foresight and Hindsight to Inform Policymaking),针对人工智能技术的社会影响展开跨学科探讨。研讨会采用回溯预测与历史分析方法,通过构建2045年的两种技术情景,结合19至20世纪三次重大技术变革案例,揭示 人工智能治理的深层规律。启元洞见摘录整理论文集的核心内容,系统梳理其研究框架、核心发现与政策启示,为技术治理研究提供参考。

一 总述

人工智能预示着社会变革,其影响力可与冶金术蒸汽机、电力和互联网等过去的变革性通用技术相媲美。这些技术为人类福祉带来了巨大机遇,同时也可能破坏社会、治理、经济和关键基础设施系统,并削弱许多人的能力。

本研讨会由兰德公司与长期发展研究所组织,旨在探索一种将回溯预测与历史分析视角相结合的新方法,以应对人工智能发展带来的挑战。

回溯预测(Backcasting)是一种规范性未来研究方法,要求参与者设想一个理想的未来状态(如2045年人工智能赋能的人类繁荣社会),并逆向推演和描述实现该目标的路径。其优势在于突破当前认知局限,激发对颠覆性变革的想象。

尽管人们对理想的人工智能乌托邦存在分歧,但构想这些乌托邦是有用的,因为这一过程有助于识别与这些设想未来相容的近期政策。然而,人工智能可能引发的社会变革远超现有想象,单纯依赖回溯预测易陷入“乌托邦假设”的陷阱。为此,研讨会引入历史案例研究,通过分析19至20世纪通用技术(如电力、铁路)的社会影响,为未来推演注入现实性。

本研讨会首次探索应用历史学方法,为聚焦人工智能治理近期政策挑战的前瞻推演提供学理支撑。区别于对通用人工智能存在性风险的末日推演,研究重点在于推演广泛部署的强大人工智能如何构建普遍受益的未来图景。

会议成果既揭示了历史认知在反向预测中的实践路径,也提出了近端政策假设与长期研究议程。作为政策实验的方法论试点,该框架旨在为决策者提供可扩展的历史认知工具,其模块化设计适用于多维治理场景的技术适配。

二 研讨会实施

(一)研讨会方法论

研讨会采用回溯预测这一未来学研究方法,以构建理想未来情景为起点,要求12位参与者置身于预设的未来时点,逆向推演实现该愿景的可能路径。尽管人工智能可能带来毁灭性情景或通用人工智能引发的生存风险,研讨会聚焦于探讨强大而普及的人工智能技术如何创造普惠性的人类繁荣未来。

参与者获得设定于2045年的两个情景描述,随后通过系列问题构建实现路径的叙事框架:2025—2030年间发生哪些关键行动?后续事件如何展开?哪些意外因素促进或阻碍了这一进程?参与者需综合考量技术科学、价值社群、经济制度等多维度的演化路径。

回溯预测法通过将参与者锚定于特定未来节点,有效限制路径分叉的无限可能性。而传统预测方法往往受限于现实条件而难以突破思维定式,该方法则鼓励参与者突破当下约束,聚焦主动性问题:“我们期望实现何种未来?如何构建实现路径?”

(二)研讨会流程设计

研讨会于2024年6月12日在兰德华盛顿办公室举行,持续7小时,12位参与者涵盖商界领袖、前国会议员(民主党共和党各1名)、技术专家、行政官员及政策分析师,多数成员曾担任兰德或长期发展研究所顾问职务。

研讨会设置两个未来情景:“崛起之声”(Rising Choir)与“奇点共生”(The Singularis)前者改编自“存在希望组织(Existential Hope)”的获奖方案,描绘先进人工智能工具“开源信息与社区参与之声(V.O.I.C.E)”推动的去中心化直接民主社会;后者由兰德团队构建,呈现生物人类与增强人类和谐共生的平衡型社会。会前材料包含研讨会说明(1页)、情景描述(各2页)及历史案例研究(30页)。

(三)情景构建说明

1. 情景一:崛起之声

2045年的技术社会呈现双重变革:人均配备2台人工智能人形机器人,承担95%日常任务,全球经济规模扩张20倍。太阳能储能技术突破实现能源盈余,支撑碳捕集等生态工程。全民基本算力(UBC)与全民基本收入(UBI)保障社会参与和经济安全。

V.O.I.C.E平台通过聚合民意实现多层级直接民主,从地方治理到国际条约均实现数十亿人参与决策。其开源特性确保透明度与持续优化,显著降低文化冲突并提升生活水平。教育、交通、医疗等领域全面AI化,但投票匿名性、机器人干预防御与技术普惠性等挑战依然存在。

2. 情景二:奇点共生

该情景构建了两位角色:生物人类Nedd与人工智能增强人类Aidhan,通过他们的日常互动构建展现了这一未来共生文明。人工智能系统优化资源分配与液态民主治理,每周10小时社区贡献制重构工作定义,闲暇时间转向自我实现。全民基本收入与人工智能生产系统保障经济公平,生物工程与个性化医疗延长寿命至150岁。超人类运动联盟与生物技术艺术重塑休闲方式。

但这一情景中面临增强/非增强人群的分化风险及后人类伦理框架构建等核心挑战。但社会依然坚守可持续发展、跨意识统一体与变革机会均等三大原则。

(四)历史案例研究

研讨会还融入三大19至20世纪关于几项通用技术对社会产生影响的案例。

1. 案例一:美丽新世界(Brave New World)

案例聚焦工业革命时期(1760-1914)技术变革对劳动市场的冲击。在此期间,蒸汽机与电力技术推动经济增长,同时引发“恩格斯停滞期”、技术性失业与劳资矛盾激化。案例还提供历史实例,说明这些趋势如何推动了追求截然不同经济再分配方法的社会和政治运动。

启示性问题包括:人工智能的广泛应用是否会引发大规模的劳动力替代?这些岗位替代是否会进一步集中经济权力?技术变革的社会和政治后果又是什么?公众对这种变革的反应有哪些历史先例?政府在确保技术进步带来的利益更公平分配中可以发挥什么作用?

2. 案例二:繁荣与萧条(Boom and Bust)

案例分析了电力等通用技术对生产率、创新和经济增长的影响。案例表明,技术成熟需配套投资(如电网建设)与组织变革,政府/私人研发投入比例变化影响创新速度。

其中关于人工智能的关键议题是:人工智能是否将成为具有变革性影响的通用技术?如何确保对人工智能的研发投资足以推动持续经济增长与创新?如何避免投机泡沫?

3. 案例三:垄断时刻与思想市场(Monopoly's Moment and Markets of the Mind)

案例探讨了19世纪末至20世纪初垄断与托拉斯对市场、产业及政府政策的深远影响,强调了技术创新与监管之间的内在张力,以及垄断掌控关键产业与市场所带来的风险,同时突显了人工智能对治理和社会秩序可能产生的影响。

核心问题在于:人工智能对市场结构及数字平台崛起为“云端帝国”(即私营企业作为虚拟国家运作)有何潜在影响?如何平衡创新激励与反垄断?

三 研讨分析

(一)分组讨论

12位参与者分为两组展开情景推演,上午聚焦情景假设批判,下午融入历史案例后转向制度重构与政策设计。

1. “崛起之声”组

与会者对去中心化人工智能治理工具的可行性提出质疑,指出现有平台(如TikTok)虽具备舆论塑造能力,但其中心化运营模式与场景设想的激进去中心化存在本质差异。讨论强调国家间人工智能治理范式差异对全球技术整合的制约,特别是美国政策滞后与科技巨头的市场垄断现象。针对场景中“2045年全球经济扩张20倍”的假设,学者指出技术向生产力的转化需依赖劳动力重构机制,并关注人口结构变迁对地缘格局的潜在影响。

讨论面向制度创新需求,以铁路、电报技术革命引发的历史治理转型为参照,提出人工智能可能催化新型全球公域治理框架。奥斯特罗姆的自主协调理论被援引,质疑威斯特伐利亚体系(Westphalian System)的适应性。技术意外后果(如寿命延长)与价值体系重构的关联性成为焦点,强调乌托邦愿景可能隐含非预期社会风险。

2. “奇点共生”组

围绕人工智能增强人类的“技术—伦理”边界展开,设想医疗场景可能成为增强技术的社会切入点。核心争议集中于增强服务分配机制(如慢性病患者优先权)与能力增强的伦理审查(如犯罪能力提升)。场景中“十小时工作制”假设引发对劳动价值重构的讨论,强调经济剩余分配需平衡个人成就感与社会福利体系。

讨论还聚焦监管滞后问题,以铁路监管历史为例,揭示政策响应速度与技术创新节奏的匹配难题。讨论剖析科技巨头通过“监管俘获”巩固市场地位的策略,强调动态监管体系建设的紧迫性。美国研发投入的“公私失衡”现象(私部门占比76%)被指削弱政府技术评估能力,形成监管依赖企业的结构性缺陷。

(二)全体会议

集中讨论呈现三大政策议题:

1. 垄断风险治理:人工智能基础设施(云计算、数据存储)可能形成自然垄断,需参照公共事业监管经验。现行反垄断工具对网络效应型垄断效力不足,需发展协同治理框架。

2. 研发投入结构:美国研发支出私营化趋势显著(企业占比75%),政府技术能力萎缩加剧监管滞后风险。大学研究体系与产业实验室的技术代差可能形成“监管认知鸿沟”。

3. 全球治理架构:多边主义机制缺位可能引发规则碎片化,需构建兼容威斯特伐利亚体系与全球公域的新型治理。气候治理等跨国议题或成为制度创新的催化剂

四 历史在回溯预测中的作用启示

将历史案例研究嵌入回溯预测流程,显著改变了研讨会的讨论形态。讨论一方面聚焦于场景假设的可行性验证与技术路径推演,另一方面,在历史案例启发下转向更宏观的社会制度重构与政策创新。这种转变印证了历史情境的注入能够突破当前认知框架的局限,促使参与者以“历史差异即未来可能”的视角重新审视技术变革的社会影响。

讨论中反复出现的核心命题是:尽管每次技术革命的具体形态各异,但快速变革期后的监管挑战、市场调节机制失效等宏观规律具有历史复现性。例如,人工智能技术初期红利是否会被垄断控制、监管俘获与社会断裂等后续问题所抵消?这种历史透镜下的追问,显著提升了政策讨论的纵深感。

与会者的专业背景多样性强化了历史经验的多元解读。技术政治经济学视角下的讨论尤其凸显分歧:国家角色边界、创新激励与市场集中缓解机制、社会效益优化路径等议题的辩论,反映出不同历史案例对当代政策制定的差异化启示。

相关内容

热门资讯

“昆山造”无人机高原地区物流航... 本报讯 (记者 范昕怡) 1月14日凌晨,昆山花桥经济开发区时代飞鹏科技有限公司自主研发的FP-98...
【西街观察】千问点外卖,AI入... 来源:滚动播报 (来源:北京商报) 1月15日,千问App宣布全面接入淘宝、支付宝、淘宝闪购、飞猪、...
原创 阿... 如今走在马路上,新能源汽车早就不是稀罕物了——小区楼下的充电桩排起长队,通勤路上总能撞见搭载智能座舱...
信用报告“三大跃升”助力营商环... 来源:滚动播报 (来源:中国消费者报) 本报成都讯(记者刘铭)近日,“信用中国(四川成都)”网站完成...
卫龙前CEO孙亦农入职大窑,曾... 红星资本局1月15日消息,红星资本局从大窑处了解到,卫龙(09985.HK)前CEO孙亦农已加入大窑...
原创 微... 在经过一段时间的内测之后,微信官方在今天推出了苹果iOS 微信 8.0.68 正式版,尽管在更新日志...
抖音公告治理畸形吃播,有账号生... 1月15日,抖音发布关于持续治理畸形吃播内容的公告: 抖音始终倡导合理饮食,健康生活的理念,严厉打击...
原创 今... 对于2026年家电市场蛋糕抢夺,有一件事情,所有家电厂商都应该搞明白方向、搞清楚逻辑。那就是家电厂商...
原创 一... 1月15日,苹果宣布向中国大陆用户开放Apple Pay跨境支付权限,用户使用本地银行发布的VISA...
ChatGPT发了个“谷歌翻译... 智东西 作者 | 陈骏达 编辑 | 心缘 OpenAI要革谷歌翻译的命了? 智东西1月15日报道,今...
千问接入阿里生态,全球首个真实... 1月15日,阿里旗下AI应用千问App宣布全面接入淘宝、支付宝、淘宝闪购、飞猪、高德等阿里生态业务。...
事关3800多万主播权益,直播... 来源:滚动播报 (来源:工人日报) 就业选择多样化的当下,不少务工者正投身网络主播赛道。在实际操作中...
资讯:TES被JDG零封小天谈... 雷竞技LPL春季赛的揭幕战以JDG对TES的碾压式胜利告终,在缺少核心选手JackeyLove的情况...
无锡市数据局AI实训夜校首讲,... 在数字化转型加速推进的背景下,人工智能正成为提升政务运行效能、优化协同机制的重要技术支撑,也为青年干...
巴菲特将AI失控风险比作核武器 来源:新浪科技 【#巴菲特警告AI技术失控风险#】当地时间 1 月 14 日,据雅虎财经报道,刚刚卸...
2026了,影视行业该怎么面对... “当下的AI是不是被过度神话了?”在知乎的这一提问下,有人这样回答:“直到今天,AI依然没有实现我最...
基建狂魔不是空穴来风!53位创... 2025年末,抖音联合中国上市公司协会推出《燃起来了!大国重器》专项,邀约53位优质内容创作者,探访...
53位抖音创作者独家探访12项... 2025年末,抖音联合中国上市公司协会推出《燃起来了!大国重器》专项,邀约@小Lin说 @直男财经 ...
东富龙:提升产品智能化水平 证券之星消息,东富龙(300171)01月15日在投资者关系平台上答复投资者关心的问题。 投资者:面...
微软承诺解决AI数据中心社区争... 微软公司今日宣布了一项名为"社区优先AI基础设施"的五点计划,旨在平息围绕其新建AI数据中心引发的社...