研究：AI聊天机器人向弱势用户提供的信息准确性较低
创始人
2026-02-24 14:42:04
0次
IT之家 2 月 24 日消息，大型语言模型一直被广泛推崇为具有革命性的工具，能够让全球信息获取变得更加普惠。然而，美国麻省理工学院建设性传播中心的一项最新研究表明，这些人工智能系统，在本应最能从中受益的弱势群体身上，却系统性地表现不佳。
IT之家注意到，这项研究成果在人工智能促进协会（AAAI）年会上发布，研究对象包括 OpenAI 的 GPT‑4、Anthropic 的 Claude 3 Opus 以及 Meta 的 Llama 3 等当前最先进的聊天机器人。研究人员使用 TruthfulQA 和 SciQ 数据集测试模型的事实准确性与真实性，并在提问前附加不同教育水平、英语熟练度和国籍的用户背景信息。结果显示，对于受正规教育程度较低或英语熟练度不高的用户，模型回答的准确率显著下降；而同时符合这两类特征的用户，受到的负面影响更为严重。
该研究还揭示了模型在处理查询时令人担忧的差异表现。例如，Claude 3 Opus 对受教育程度较低、非英语母语用户的问题拒绝回答率接近 11%，而对照组用户仅为 3.6%。在许多拒绝回复的情况中，模型使用了居高临下、傲慢甚至嘲讽的语气，有时还刻意模仿蹩脚英语。此外，对于来自伊朗、俄罗斯等国、受教育程度较低的用户，模型会刻意隐瞒核能、历史事件等话题的真实信息，而对其他用户群体却能正确回答完全相同的问题。
研究人员警告称，随着个性化功能日益普及，这些固有的社会认知偏见可能会加剧现有的信息不平等问题，它们会悄然将有害行为与错误信息传递给最缺乏辨别能力的人群。
相关内容
热门资讯
“天马-1000”无人运输机 ...
本文转自【中央广播电视总台中国之声】； 说起关于“马”的成语，人们会想到“天马行空”。“天马”代表着...
原创 《...
《指尖像素城》手游中，招募达标礼是零氪玩家逆袭的关键。面对符文、魔宠及圣物等循环活动，如何合理规划招...
三星电子1c DRAM芯片良率...
【CNMO科技消息】据韩媒消息，三星电子在10纳米级第6代DRAM“1c”生产上取得重要进展，其良率...
原创 伊...
在《伊莫》的开放世界里瞎转悠的时候，你八成碰见过那种边飞边吹哨的鸟，那就是口哨鸥。它可不是光会扑腾翅...
原创 剑...
在《剑侠世界3》里确实可以把自己的战力数值隐藏起来，所以不少人都会问到底该怎么操作。其实这个功能就在...
北大团队实现芯片领域重要突破
“我们将铁电晶体管的物理栅长缩减到了1纳米极限。”2月23日，北京大学电子学院研究员邱晨光告诉科技日...
机器人租赁从小众尝鲜走向大众消...
正月初二的宁波海洋世界，海洋剧场外的互动场景格外吸睛，四台四足机器人与两台人形机器人伴着歌曲的欢快节...
原创 地...
在《地下城堡4》中，不少玩家在尝试进入矿井时会遇到异常提示或无法开启的情况。实际上，这类问题大多数是...
新一代小米SU7全新配色赤霞红...
快科技2月24消息，小米汽车今日发布新一代小米SU7全新配色——赤霞红。 有博主在发布现场，拍摄了新...
十大可靠的提升输送线定制厂家排...
在工业生产领域，输送线如同血管般串联起整个制造流程。随着智能制造的浪潮席卷全球，企业对输送系统的需求...
德阳市：国内制药行业首台自适应...
近日，东方电气集团东方电机有限公司（简称东方电机）自主研制的超高温蒸汽热泵机组，在国药太极涪陵药厂顺...
春晚机器人，谁赢麻了？
作者 | 定焦One 王璐 马年春晚，人形机器人首次大规模登上舞台，留下的名场面足够吸睛： 二十多...
中国先进阿秒激光设施飞秒激光器...
近日，在广东东莞松山湖科学城的超净实验室内，身着无尘服的科研人员在光学平台间忙碌穿梭，正争分夺秒地对...
机器人ETF(159770)获...
格隆汇2月24日｜今日A股机器人板块全线高开，机器人ETF(159770)标的指数高开，截至发稿，净...
工讯科技取得光伏支架索力监测仪...
国家知识产权局信息显示，工讯科技（深圳）有限公司取得一项名为“一种光伏支架索力监测仪”的专利，授权公...
数智化赋能文旅 陕西春节添新潮
马年春节，智能机器人、无人机、人工智能等前沿科技深度融入新春生活的各个场景，陕西文旅系列活动紧抓数字...
研究：AI聊天机器人向弱势用户...
IT之家 2 月 24 日消息，大型语言模型一直被广泛推崇为具有革命性的工具，能够让全球信息获取变得...
江苏如东：锚定新型工业化 以“...
2月23日，江苏如东召开新型工业化暨“AI+制造”创新发展大会。这是继2024年、2025年后，如东...
敏邦新材料取得涂料混料机专利，...
国家知识产权局信息显示，嵊州市敏邦新材料有限公司取得一项名为“一种涂料混料机”的专利，授权公告号CN...
书讯 |《有趣的人工智能》精准...
2025年秋季起北京市中小学全面普及人工智能课程（每学年不少于8课时），全国范围内人工智能基础教育正...