中国信通院开启大模型幻觉测试，涵盖人文社科等五大维度
创始人
2025-03-19 17:40:56
0次
近日，中国信息通信研究院（中国信通院）通过其官方微信公众号发布了一项重要举措，旨在深入探索大型人工智能模型（大模型）的“幻觉”现象，并推动其在实际应用中的安全与可靠性。该举措基于前期AI Safety Benchmark的测评经验，正式启动了针对大模型的幻觉测试项目。
所谓大模型幻觉（AI Hallucination），是指当这些模型在生成文本或回答问题时，可能会创造出看似合理但实际上与用户输入不符（即忠实性幻觉）或违背事实（即事实性幻觉）的内容。随着大模型在医疗、金融等关键行业的广泛应用，这种幻觉现象所带来的潜在风险日益凸显，引起了业界的广泛关注。
本次幻觉测试主要针对的是大语言模型，测试内容涵盖了忠实性幻觉和事实性幻觉两大类型。为了全面评估这些模型，测试数据包含了超过7000条中文测试样本，测试形式则分为信息抽取、知识推理（针对忠实性幻觉）以及事实判别（针对事实性幻觉）等题型。测试维度广泛，涵盖了人文科学、社会科学、自然科学、应用科学和形式科学等多个领域。
具体来看，测试体系的设计旨在通过多样化的题型和丰富的测试样本，准确捕捉大模型在不同情境下的幻觉表现。这不仅有助于揭示模型潜在的缺陷，也为后续的优化和改进提供了重要依据。
为了推动大模型的安全应用，中国信通院诚挚邀请相关企业积极参与此次模型测评。通过共同的努力，旨在提升大模型的准确性和可靠性，降低幻觉现象带来的应用风险。
中国信通院还强调了测试工作的重要性，指出这不仅是对大模型性能的一次全面检验，更是推动人工智能领域健康发展的重要一环。通过持续的测试和评估，将有助于提高整个行业对大模型幻觉现象的认识和应对能力。
相关内容
热门资讯
宁波朗迪取得网布烫边切割装置专...
金融界2025年8月6日消息，国家知识产权局信息显示，宁波朗迪环境科技有限公司取得一项名为“网布烫边...
富兴塑膜取得PVC塑膜压纹成型...
金融界2025年8月6日消息，国家知识产权局信息显示，苍南县富兴塑膜有限公司取得一项名为“一种PVC...
美国拟2030年前在月球建成核...
△艺术家描绘的月球上的电力系统。（图片来源：NASA） 当地时间8月5日，据多家美国媒体报道，美国交...
TTG3-1KSG，清清正反手...
TTG3-1战胜KSG，终于结束了对KSG的连败。从EWC回来之后他们似乎变强了，清清证明了为什么萝...
中国电信视联网赋能基层治理 提...
近日，丰都县仁沙镇依托中国电信视联网技术，进一步提升基层治理智能化水平，推动乡村基层治理体系不断完善...
《上古OL》开发商被砍掉的《黑...
微软最近的大裁员砍掉了《上古卷轴OL》开发商备受期待的新IP（代号为黑鸟计划）以及Rare工作室的《...
山东科嘉电气：高效智能充电方案...
山东科嘉电气近日推出了两款创新充电设备，专为不同领域提供专业、高效、安全的充电解决方案。这些设备分别...
科技前沿丨普通家庭何时能用上保...
7月31日召开的国务院常务会议审议通过《关于深入实施“人工智能+”行动的意见》。会议指出，当前人工智...
泰科汽车取得油箱加油单向阀专利...
金融界2025年8月6日消息，国家知识产权局信息显示，芜湖泰科汽车科技有限公司取得一项名为“一种油箱...
当年吹爆Edge浏览器的我，现...
每位资深玩家，在对枪失败、团战暴毙后，都有一套神圣的仪式： “诶今天鼠标有点飘”、“这键盘键程不对”...
走出光伏同质化困境，BC生态圈...
来源：澎湃新闻 隆基绿能创始人、首席技术官李振国 同质化的红海厮杀，令光伏产业深陷恶性竞争泥潭。乘...
AL被打晕了？IG辅助抢大龙翻...
★游戏马蹄铁原创 AL对战IG第二局 IG无愧是现在LPL的人气王，流量王，他们的比赛不仅是明星选...
LOL：BLG被曝不是全华班，...
Shadow护照是意大利的 在LPL赛区中，全华班自带流量和话题，像RNG、BLG这种主打全华班的...
紧盯AI人才，“鹅厂”招新，软...
8月6日，腾讯2026校园招聘正式启动。本次招聘面向2025年1月至2026年12月期间毕业的大学生...
DOTA2 7.39d 更新深...
当看到 7.39d 的更新日志时，我的第一反应是：这不是简单的数值微调，而是V社对当前版本生态的一次...
《仁王3》制作人访谈：保留硬核...
今年6月，《仁王3》发布了首支预告片，并宣布游戏将于明年年初正式发售，登陆PlayStation 5...
青春好市 | 以手抵心，对话千...
当棕榈叶在指尖翻飞成灵兽，当大漆在掌心打磨出光华，当破碎的古瓷片在你手中重获新生...这不是遥远的传...
IDC：Q2中国消费级游戏本市...
IT之家 8 月 6 日消息，市场研究机构 IDC 今天发文，披露了中国消费级游戏 PC 市场的数据...
小米手机欧洲市场份额首超苹果，...
【太平洋科技快讯】8 月 6 日，小米集团合伙人、小米集团总裁、部总裁兼小米品牌总经理卢伟冰在社交媒...
王者荣耀：夏侯惇喜迎加强，亚连...
王者荣耀本赛季已经进入中期，还没有拿到王者印记的小伙伴确实该抓紧时间了，毕竟到了赛季后半段上分难度会...