我与AI之间,存在“有限信任”
创始人
2025-06-20 15:21:46
0

“智能体”和AI有什么不同?

“智能体”其实是人工智能的一个分支,但它比传统AI要“能干”得多。

如果说传统AI是“你问它答”的被动工具,那智能体就是“你什么都还没说,它就开始行动”的主动伙伴。它有目标,有感知,有记忆,还能和别的智能体合作——简单说,它不仅“知道你要什么”,还“知道该怎么去做”,甚至“知道怎样和别人一起配合去完成”。

刘志毅解释道,智能体的特别之处在于三大能力:能动执行(比如自动调用工具完成任务)、长期记忆(能反思和学习)、跨领域协同(能和其他系统协作)。它已经不再只是“输入-输出”的线性思维,而是形成了目标驱动架构与环境交互的闭环。

想象一下:清晨醒来,健康管家智能体已经根据你的睡眠数据帮你定制好早餐建议;通勤时,交通协同智能体优化导航路径以避免突发拥堵;工作中,知识引擎智能体帮你自动生成会议纪要并追溯决策链。

这一切的背后,是各种传感器和行为模型在起作用,它们能预测你的需求、分析你的偏好,甚至提前行动。这种“无感渗透”,正是智能体技术发展的方向。

未来,越来越多的职业都会被智能体“重新定义”。

刘志毅说,举个例子,以前医生依靠多年经验来判断病情,而现在,智能体可以分析海量病例、辅助判断,医生的角色变成了“方案的仲裁者”;内容创作者也一样,AI能快速生成内容,人变成了“策展人”,去判断、挑选和优化这些内容。

4月10日,上海,中国国际医疗器械博览会(CMEF 2025)举行,展示患者服务智能体。图源:视觉中国

这种变化正在带来一种新型劳动模式,刘志毅称之为“算法租金经济”,即那些掌握智能体使用能力的人,会获得更高的效率和更高的回报,被称为“超级个体”;而另一些人则可能被困在低附加值的重复劳动中,沦为“算法无产阶级”。

信任,但有限

面对越来越聪明的智能体,刘志毅提出了一个关键词:“有限信任”。

“我会让AI帮我阅读摘要论文、重构日程、优化写作、分析数据,但始终是我设定目标,它去执行。”他特别强调人与智能体的协作原则——人类定义目标、Agent优化路径,同时加上“硬编码的伦理规则”和“人工复核机制”,防止技术越界。

3月4日,杭州,浙江省中医院专家在用大模型为患者进行辅助诊疗。图源:视觉中国

我们都知道,大模型有时会“张口就来”,一本正经地胡说八道,这就是“AI幻觉”。

刘志毅解释说,AI幻觉本质是概率模型对先验知识缺口的补偿性虚构。简单来说,就是因为大模型靠概率推理,一旦遇到它“没学过”的内容,就会开始自我“脑补”。如果这种“幻觉”出现在医学诊断、公共政策领域,或者是社交媒体上的谣言,那后果就不堪设想。如果不加甄别,会大幅拉高公众的“验证成本”。

他建议,技术层面,要引入“检索增强生成”(RAG)机制,让AI必须基于真实数据发言;社会层面,在基础教育阶段就要增加算法信息素养课程,提升公众的信息素养,用人类的理性和知识,对AI的输出进行系统化的检查和把关。

“定义问题的能力”是未来的核心竞争力

刘志毅指出,在智能体泛化时代,人类需以元问题定义权与伦理领导力构筑护城河。

所谓“元问题定义权”,即决定“何种问题值得解决”,而非“如何解决”。那么如何衡量一个好答案?这就需要“跨领域的联想力”和“理解复杂系统的能力”,更重要的是,要具备“伦理领导力”——知道什么能做、什么不该做。

在刘志毅看来,“人类存在的独特性,正藏匿于算法无法压缩的混沌边缘”。也就是说,人类的独特价值,恰恰就藏在“不确定性”中。那些AI搞不懂、不好归类、不容易量化的领域,才是我们最该坚守的领地。

感恩回馈

为了回馈广大粉丝

长安街知事准备了精美图书

赠送给大家!

将5本由中信出版集团提供的

《智能体时代》

赠予长安街知事的忠实粉丝

《智能体时代》

★内容简介

智能体作为当前人工智能的一个重要分支,推动了AI技术的深化和发展。在这个智能技术加速演进的时代,本书立足当下科技前沿,以其宏大而系统的视角,不仅帮助读者理解了从神经元到智能体的演化历程,还展现了一个人类与人工智能共同进化的未来图景。

★作者简介

刘志毅,福布斯中国AI影响力人物、中国人工智能领军科学、2024年度“华为云最有价值专家”。

十余年来,刘志毅一直在AI领域进行深入研究和实践,主要研究智能计算、空间智能以及超级人工智能对齐等方向。

相关内容

热门资讯

2025手机市场高开低走:苹果... 2025年,对于智能手机市场来说是动荡、瞬息万变的一年。上半年,既有国补带来的中国市场出货快速增长,...
2026,步履不停,勇毅前行 人民,永远是我们这支警察队伍的定语,我们的职责很光荣也很朴素,用平安稳定为时代的锦绣添上独有的一针一...
南乐县工商业联合会(总商会)2... 辞旧迎新 喜迎元旦 HAPPY NEW YEAR 时序更替,华章日新。值此辞旧迎新的美好时刻,南乐县...
“鹏城云脑Ⅲ”首期设备通电点亮... 深圳商报·读创客户端首席记者 王海荣 12月29日上午,“鹏城云脑Ⅲ”首期4500P计算板卡及周边辅...
广东潮州:政企同心破瓶颈 小马... 新华网广州12月30日电(李幸子 毛鑫)一个小小的马桶盖安装冲洗、烘干、杀菌等模块,即能实现感应开盖...
瑞沣集团取得光伏板快速检测装置... 国家知识产权局信息显示,瑞沣集团股份有限公司取得一项名为“一种光伏板快速检测装置”的专利,授权公告号...
嘉善宇达电子取得音膜装配工装专... 国家知识产权局信息显示,嘉善宇达电子有限公司取得一项名为“一种音膜装配工装”的专利,授权公告号CN2...
王者荣耀孙悟空无相无双限定皮肤... 大家好,王者荣耀在元旦假期期间中给玩家们提供了许多的全新福利和各种活动可以让你们来参与并获取,其中推...
科学与健康|中国“心”中国造 ... 新华社北京12月31日电 题:中国“心”中国造 这颗“心脏”不一般! 新华社记者宋晨、李力可 航空发...
原创 人... 如果明天人类突然从地球上消失,我们引以为傲的城市、公路、摩天大楼,会以怎样的速度被自然吞噬?这个问题...
蚌埠青年,2025存档! 蚌埠青年 你身边的蚌埠共青团 岁序焕新 征程又启 过去的一年 蚌埠共青团与广大青年并肩前行 共同执笔...
芬尼克兹申请热泵系统频率控制专... 国家知识产权局信息显示,广东芬尼克兹节能设备有限公司申请一项名为“热泵系统的频率控制方法、装置、设备...
科技赋能珍稀食用菌品种引进 智... 近日,略阳县农业技术推广中心在五龙洞镇五龙洞村开展金耳新品种引进及智能方舱出菇试验,金耳菌包正式入舱...
天奇股份:将为汽车制造场景提供... 证券日报网讯 12月31日,天奇股份在互动平台回答投资者提问时表示,公司机器人业务专注于提供领先的具...
2025最后一天,这家上海大厂... 全球独一款。 文/王丹 踩着2025年的尾巴,叠纸出手了。 今天(12月31日),《恋与深空》上线5...
出海占比五成、AI全面介入:2... 相比2024年的乱战,2025年的SLG赛道显得有些平静。一方面,和其他品类一样,这年上线的SLG新...
未来城市发展的新篇章——智慧园... 在智慧城市的建设浪潮中,智慧园区作为城市发展的重要单元,正以其独特的魅力和无限的潜力,引领着未来城市...
国家人工智能应用中试基地(合肥... 12月30日,“国家人工智能应用中试基地(合肥)启幕暨全球生态团队招募”大会在合肥顺利举办。该基地的...
奥川云台实测对比:性价比天花板... 一开始作为零基础新手,踩过不少低价云台“防抖虚标”“操作复杂”的坑如今做了大半年生活自媒体,这次专门...
逐梦星辰 2025年中国航天交... “新”在2025,中国航天同样令人瞩目,全年完成92次发射任务,刷新纪录。从深空探测到载人航天,再到...