人类如何与AI智能体共处

编者按

新质策源导刊的第二期，我们聚焦AI智能体（AI Agent），不仅仅因为它当下的热度，更因为我们看到了它对未来的影响。我们深度访谈行业顶级专家、资深研究人员、国内外知名企业，尽力描绘当下AI时代的真实图景，展望未来的各种可能性，在不确定性中寻找确定性。

这个领域创新不断，犹如科幻即将照入现实。我们想知道的不只是近在咫尺的明天会怎样，更想知道今天我们做的一切，会对不远的未来产生什么样的影响，诚邀您和我们一起，探索新AI时代。敬请关注本期策划——“人类如何与AI智能体共处”。

——访中国政法大学法学院教授、中国法学会法理学研究会理事郑玉双

■中国经济时报见习记者 姚俊臣

作为人工智能（AI）技术迭代的最新产物，AI智能体正实现从理解能力向行动能力的关键突破。这一突破也带来了深刻的治理挑战：如何理解AI智能体的主体性？如何界定其法律责任？如何优化治理能力？中国经济时报记者日前就上述问题专访了中国政法大学法学院教授、中国法学会法理学研究会理事郑玉双。

AI智能体引发主体性的跃升

中国经济时报：从目前来看，您认为AI智能体是否具有主体性？

郑玉双：这是一个比较难的问题，关键在于我们如何理解“主体性”。在哲学意义上，主体性通常以“人”为参考，具有理性判断、自主决策与独立意志等特征。无论是生成式人工智能还是AI智能体，虽然在技术层面已经具备了一定程度的理解、决策和执行能力，但从法律层面来说，还是很难将其认定为真正的权利主体。

不过，AI确实引发了主体性的跃升。在AI出现之前，人类之外并不存在真正意义上的智能主体。但随着算法能力和算力规模的提升，AI智能体也呈现出类似主体的功能和外观，不能仅仅视为简单的“工具”，否则可能会低估其在现实场景中产生的复杂影响。

尤其是在责任分配的问题上，AI智能体的决策链条往往涉及算法开发者、系统部署者、数据提供方以及实际使用者等多方主体，其运行结果又可能在一定程度上脱离具体个人的直接控制。在这种情况下，传统以“工具使用者”为核心的责任框架，是很难完全覆盖新的风险结构的。

图片来源/新华社

现有法律框架对于AI智能体还相对滞后

中国经济时报：从法律层面来说，不同类型的AI智能体是不是也有不同的主体责任？

郑玉双：从当前的技术实践来看，AI智能体确实出现了分化的趋势，既有以移动端应用为代表的“软件型智能体”，如嵌入手机或各类智能设备的应用程序，也有与实体设备深度结合的“硬件型智能体”，如各类医疗机器人、养老机器人以及工业场景中的自动化系统等。

在法律适用上，这两者也存在明显差异。总体而言，现有法律制度仍将人工智能及各类AI智能体纳入“产品”范畴，主要适用产品责任相关规定。这一框架虽然可以在一定程度上覆盖软件类智能体的部分风险分配问题，但对于具备实体行动能力的智能体，责任究竟应由生产者、算法提供者、系统运营者还是使用者承担，现有法律仍然在不断完善之中，存在一定的滞后性。

一般来说，法律责任涉及两个层面：一是民事责任，主要与产品紧密相关；二是刑事责任，主要是在AI智能体造成严重危害时如何认定责任主体并确定刑责。但是目前民事责任和刑事责任的认定都还相对传统，也就是说针对AI智能体，尤其是可以在一定程度上脱离人类控制的AI智能体，还缺乏明确的法律依据。

在鼓励创新的同时要动态治理

中国经济时报：当前，法律相对滞后这个问题应该如何解决？

郑玉双：在我看来，人工智能治理面临的法律滞后性，并不是简单的制度失灵。新技术发展具有高度的不确定性和多样性，立法程序很难在前期就对所有可能情形作出详细的规定。而且，如果在技术没有成熟的时候就进行过度前瞻性的立法，反而可能导致规范失准，甚至抑制创新活力，破坏法律制度的稳定性。

因此，更行之有效的方式还是在发展中治理，在应用中完善，在鼓励创新的同时要动态治理。一方面，在问题出现时及时回应，进行制度性的修正；另一方面，可以更多地运用“多元参与、多元治理”的软法机制，通过部门协同以及政产学研之间的有效沟通，形成更加灵活的治理结构。

必须确立不可突破的治理底线

中国经济时报：AI智能体治理的底线应该如何确定？

郑玉双：人类社会发展至今，技术不断取得突破。我们从技术中受益，也不能让技术失控。因此，必须确立不可突破的底线，这个底线一般来说是“伦理的底线”。这可以从广义和狭义两个方面加以理解。

从广义来看，技术不能对人类的整体安全构成威胁，也不能突破人类社会的基本秩序，这是一种生存性、价值性的底线，就是要维护人的主体地位。从狭义来看，主要是一些与AI智能体的技术特性紧密相关的问题。一是AI智能体的运行高度依赖数据支撑，要划定数据收集和处理的边界，保障数据被合法、正当、必要地使用；二是AI智能体的运算过程具有不可控和不透明的特征，要尽可能实现决策过程的透明、可控。

总 监 制 丨王列军 车海刚

监 制 丨陈 波 王 彧 杨玉洋

主 编丨毛晶慧 编 辑丨蒋 帅