OpenAI研究人员宣称已破解模型“幻觉”：重新设计评估指标即可_游戏资讯

创始人

2025-09-06 17:40:54

0次

IT之家 9 月 6 日消息，据《商业内幕》今日报道，OpenAI 研究人员宣称已经破解大语言模型性能最大的障碍之一 —— 幻觉问题。

IT之家注：所谓幻觉，是指大语言模型把不准确的信息当作事实输出，几乎所有主流模型都深受其困扰。

OpenAI 在周四发布的一篇论文中指出，幻觉的根源在于训练方式更偏向奖励“猜测”，而不是承认不确定性。换句话说，模型被训练成“装作知道”，而不是坦率地说“我不确定”。

不过，不同模型的表现差别明显。OpenAI 在上个月的博文中提到，Claude 在面对不确定时往往更谨慎，常常避免给出错误回答。但 OpenAI 也提醒，Claude 拒答率偏高，可能削弱了使用价值。

研究人员在论文中写道：“幻觉之所以难以消除，是因为现有的评估标准奖励猜测。模型被优化成‘考试型选手’，在不确定时猜一猜反而能提高分数。”

结果是，大语言模型几乎一直处于“考试模式”，把世界看成非黑即白的是非题。但现实远比考试复杂，不确定性往往多于确定性，绝对的准确并不常见。

研究人员指出：“人类会在现实生活的挫折中学会表达不确定性的价值，而大语言模型的评估主要依赖考试，这些考试却惩罚了不确定的回答。”

其认为，解决方法在于重新设计评估标准。“问题的根源是评估指标没有对齐，必须调整主要的评分方式，避免在模型不确定时因拒答而被扣分。”

OpenAI 在介绍论文的博文中进一步解释说：“目前广泛使用的基于准确率的评估需要更新，打分方式应当抑制‘乱猜’行为。如果排行榜继续奖励侥幸的回答，模型就会不断被训练成靠猜测过关。”

解码冰雪经济新动能｜冰雪装备制... 火热的冰雪运动带动了对冰雪场地和冰雪装备的需求。近年来，随着冰雪装备自主研发能力不断提升，在河北...

新能源头部企业总部落户武汉长江... 近日，天钠科技总部落户长江新区。天钠科技成立于2017年，公司在庐江、阜阳、大同、遂宁有四大生产基地...

天娱数科参股公司芯明加入美团“... 观点网讯：12月23日，据天娱数科公众号消息，其参股公司芯明加入美团“低空航网领航计划”。据披露，...

全球首发！瀚天天成12英寸Si... 近日，瀚天天成全球首发12英寸碳化硅外延晶片。作为宽禁带半导体的核心材料，SiC外延晶片是制造高压...

新一代开源基础软件加速落地腾... 证券时报记者吴瞬 12月23日，由Linux基金会托管的新一代开源基础软件项目Valkey最新版本...

国机精工：公司2015年开始布... 证券日报网12月23日讯国机精工在接受投资者提问时表示，金刚石产业目前主要分为结构化应用和功能化应...

科技昨夜今晨1224：罗永浩时... “科技昨夜今晨”时间，大家好，现在是 2025 年 12 月 24 日星期三，今天的重要科技资讯有：...

报告显示生产性服务业呈现五大演... 近日，中国信息通信研究院政策与经济研究所发布了《生产性服务业发展报告（2025年）》。报告认为，生产...

“光影绽放科技行”清华站圆满落... 人民网北京12月23日电 (记者赵竹青)据国家国防科技工业局官网消息，由国家国防科技工业局新闻宣传中...

“空中汽车”上路标准统一在即，... 界面新闻记者 | 刘素楠界面新闻编辑 | 庄键中国低空经济发展又迈出关键一步。近日，中国民...

原创 F... 最近这段时间，LPL赛区忙着打德杯，不过现在打下来，组成豪华战舰的几支队伍BLG、JDG、WBG都相...

多款3A游戏史低，Steam冬... 这个圣诞，常年关注PC游戏促销动态的小伙伴，大概被海量介绍Steam促销活动的视频刷屏了——“大作背...

华昌达：自主研发制造系统数字化... 证券之星消息，华昌达(300278)12月23日在投资者关系平台上答复投资者关心的问题。投资者提问...

成神还是入魔？都由你决定！《新... 小时候看动画片时，你是否曾在为主角匡扶正义而热血沸腾的同时，也对那些同样不懈奋斗却终被打败的反派生出...

流水超7亿，被CEO评价“平庸... 12月20日，笔者前往杭州全程参与了《问剑长生》1周年的发布会。不得不说，这些年这类主打与玩家同乐...

长春高新子公司GenSci14... 12月24日，长春高新（000661）发布公告，子公司金赛药业的GenSci145片注册临床试验申请...

浪潮KaiwuDB四度斩获IT... 近日，国内权威IT媒体IT168与旗下ITPUB社区联合揭晓2025年度“技术卓越奖”榜单，浪潮分布...

秦始皇都不能长生，这游戏让你获... 秦始皇砸锅卖铁找长生不老药，到死都没摸到永生的边儿。谁能想到，现在打游戏就能“白嫖”永生机会？最...

JUG与TE溯共写“无畏之约”... 当武汉PANDA电竞中心(未来城店)的灯光渐暗，12月19日这场“齐聚江城无畏电竞”主题活动的余温...

英山县毕昇小学入选教育部第二批... 近日，教育部办公厅公布第二批中小学人工智能教育基地名单，英山县毕昇小学成功入选，成为黄冈市唯一获此殊...