我与AI之间,存在“有限信任”
创始人
2025-06-20 15:21:46
0

“智能体”和AI有什么不同?

“智能体”其实是人工智能的一个分支,但它比传统AI要“能干”得多。

如果说传统AI是“你问它答”的被动工具,那智能体就是“你什么都还没说,它就开始行动”的主动伙伴。它有目标,有感知,有记忆,还能和别的智能体合作——简单说,它不仅“知道你要什么”,还“知道该怎么去做”,甚至“知道怎样和别人一起配合去完成”。

刘志毅解释道,智能体的特别之处在于三大能力:能动执行(比如自动调用工具完成任务)、长期记忆(能反思和学习)、跨领域协同(能和其他系统协作)。它已经不再只是“输入-输出”的线性思维,而是形成了目标驱动架构与环境交互的闭环。

想象一下:清晨醒来,健康管家智能体已经根据你的睡眠数据帮你定制好早餐建议;通勤时,交通协同智能体优化导航路径以避免突发拥堵;工作中,知识引擎智能体帮你自动生成会议纪要并追溯决策链。

这一切的背后,是各种传感器和行为模型在起作用,它们能预测你的需求、分析你的偏好,甚至提前行动。这种“无感渗透”,正是智能体技术发展的方向。

未来,越来越多的职业都会被智能体“重新定义”。

刘志毅说,举个例子,以前医生依靠多年经验来判断病情,而现在,智能体可以分析海量病例、辅助判断,医生的角色变成了“方案的仲裁者”;内容创作者也一样,AI能快速生成内容,人变成了“策展人”,去判断、挑选和优化这些内容。

4月10日,上海,中国国际医疗器械博览会(CMEF 2025)举行,展示患者服务智能体。图源:视觉中国

这种变化正在带来一种新型劳动模式,刘志毅称之为“算法租金经济”,即那些掌握智能体使用能力的人,会获得更高的效率和更高的回报,被称为“超级个体”;而另一些人则可能被困在低附加值的重复劳动中,沦为“算法无产阶级”。

信任,但有限

面对越来越聪明的智能体,刘志毅提出了一个关键词:“有限信任”。

“我会让AI帮我阅读摘要论文、重构日程、优化写作、分析数据,但始终是我设定目标,它去执行。”他特别强调人与智能体的协作原则——人类定义目标、Agent优化路径,同时加上“硬编码的伦理规则”和“人工复核机制”,防止技术越界。

3月4日,杭州,浙江省中医院专家在用大模型为患者进行辅助诊疗。图源:视觉中国

我们都知道,大模型有时会“张口就来”,一本正经地胡说八道,这就是“AI幻觉”。

刘志毅解释说,AI幻觉本质是概率模型对先验知识缺口的补偿性虚构。简单来说,就是因为大模型靠概率推理,一旦遇到它“没学过”的内容,就会开始自我“脑补”。如果这种“幻觉”出现在医学诊断、公共政策领域,或者是社交媒体上的谣言,那后果就不堪设想。如果不加甄别,会大幅拉高公众的“验证成本”。

他建议,技术层面,要引入“检索增强生成”(RAG)机制,让AI必须基于真实数据发言;社会层面,在基础教育阶段就要增加算法信息素养课程,提升公众的信息素养,用人类的理性和知识,对AI的输出进行系统化的检查和把关。

“定义问题的能力”是未来的核心竞争力

刘志毅指出,在智能体泛化时代,人类需以元问题定义权与伦理领导力构筑护城河。

所谓“元问题定义权”,即决定“何种问题值得解决”,而非“如何解决”。那么如何衡量一个好答案?这就需要“跨领域的联想力”和“理解复杂系统的能力”,更重要的是,要具备“伦理领导力”——知道什么能做、什么不该做。

在刘志毅看来,“人类存在的独特性,正藏匿于算法无法压缩的混沌边缘”。也就是说,人类的独特价值,恰恰就藏在“不确定性”中。那些AI搞不懂、不好归类、不容易量化的领域,才是我们最该坚守的领地。

感恩回馈

为了回馈广大粉丝

长安街知事准备了精美图书

赠送给大家!

将5本由中信出版集团提供的

《智能体时代》

赠予长安街知事的忠实粉丝

《智能体时代》

★内容简介

智能体作为当前人工智能的一个重要分支,推动了AI技术的深化和发展。在这个智能技术加速演进的时代,本书立足当下科技前沿,以其宏大而系统的视角,不仅帮助读者理解了从神经元到智能体的演化历程,还展现了一个人类与人工智能共同进化的未来图景。

★作者简介

刘志毅,福布斯中国AI影响力人物、中国人工智能领军科学、2024年度“华为云最有价值专家”。

十余年来,刘志毅一直在AI领域进行深入研究和实践,主要研究智能计算、空间智能以及超级人工智能对齐等方向。

相关内容

热门资讯

宁波朗迪取得网布烫边切割装置专... 金融界2025年8月6日消息,国家知识产权局信息显示,宁波朗迪环境科技有限公司取得一项名为“网布烫边...
富兴塑膜取得PVC塑膜压纹成型... 金融界2025年8月6日消息,国家知识产权局信息显示,苍南县富兴塑膜有限公司取得一项名为“一种PVC...
美国拟2030年前在月球建成核... △艺术家描绘的月球上的电力系统。(图片来源:NASA) 当地时间8月5日,据多家美国媒体报道,美国交...
TTG3-1KSG,清清正反手... TTG3-1战胜KSG,终于结束了对KSG的连败。从EWC回来之后他们似乎变强了,清清证明了为什么萝...
中国电信视联网赋能基层治理 提... 近日,丰都县仁沙镇依托中国电信视联网技术,进一步提升基层治理智能化水平,推动乡村基层治理体系不断完善...
《上古OL》开发商被砍掉的《黑... 微软最近的大裁员砍掉了《上古卷轴OL》开发商备受期待的新IP(代号为黑鸟计划)以及Rare工作室的《...
山东科嘉电气:高效智能充电方案... 山东科嘉电气近日推出了两款创新充电设备,专为不同领域提供专业、高效、安全的充电解决方案。这些设备分别...
科技前沿丨普通家庭何时能用上保... 7月31日召开的国务院常务会议审议通过《关于深入实施“人工智能+”行动的意见》。会议指出,当前人工智...
泰科汽车取得油箱加油单向阀专利... 金融界2025年8月6日消息,国家知识产权局信息显示,芜湖泰科汽车科技有限公司取得一项名为“一种油箱...
当年吹爆Edge浏览器的我,现... 每位资深玩家,在对枪失败、团战暴毙后,都有一套神圣的仪式: “诶今天鼠标有点飘”、“这键盘键程不对”...
走出光伏同质化困境,BC生态圈... 来源:澎湃新闻 隆基绿能创始人、首席技术官李振国 同质化的红海厮杀,令光伏产业深陷恶性竞争泥潭。乘...
AL被打晕了?IG辅助抢大龙翻... ★游戏马蹄铁原创 AL对战IG第二局 IG无愧是现在LPL的人气王,流量王,他们的比赛不仅是明星选...
LOL:BLG被曝不是全华班,... Shadow护照是意大利的 在LPL赛区中,全华班自带流量和话题,像RNG、BLG这种主打全华班的...
紧盯AI人才,“鹅厂”招新,软... 8月6日,腾讯2026校园招聘正式启动。本次招聘面向2025年1月至2026年12月期间毕业的大学生...
DOTA2 7.39d 更新深... 当看到 7.39d 的更新日志时,我的第一反应是:这不是简单的数值微调,而是V社对当前版本生态的一次...
《仁王3》制作人访谈:保留硬核... 今年6月,《仁王3》发布了首支预告片,并宣布游戏将于明年年初正式发售,登陆PlayStation 5...
青春好市 | 以手抵心,对话千... 当棕榈叶在指尖翻飞成灵兽,当大漆在掌心打磨出光华,当破碎的古瓷片在你手中重获新生...这不是遥远的传...
IDC:Q2中国消费级游戏本市... IT之家 8 月 6 日消息,市场研究机构 IDC 今天发文,披露了中国消费级游戏 PC 市场的数据...
小米手机欧洲市场份额首超苹果,... 【太平洋科技快讯】8 月 6 日,小米集团合伙人、小米集团总裁、部总裁兼小米品牌总经理卢伟冰在社交媒...
王者荣耀:夏侯惇喜迎加强,亚连... 王者荣耀本赛季已经进入中期,还没有拿到王者印记的小伙伴确实该抓紧时间了,毕竟到了赛季后半段上分难度会...