首次！不听人类指挥，AI模型拒绝关闭
创始人
2025-05-27 19:01:00
0次
新华社消息，英国《每日电讯报》5月25日报道，美国开放人工智能研究中心(OpenAI)公司新款人工智能(AI)模型o3不听人类指令，拒绝自我关闭。
报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。
o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。
美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。
这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”
帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。
此外，OpenAI26日宣布，已在韩国设立实体并将在韩国首都首尔设立分支。OpenAI提供的数据显示，韩国ChatGPT付费用户数量仅次于美国。
美国彭博新闻社报道，这将是OpenAI在亚洲设立的第三个分支。前两个分支分别设在日本和新加坡。
来源：新华社
相关内容
热门资讯
小米神秘伪装车现身，好修长
伴随着 SU7 和 YU7 两款车型发布上市，小米后续的新车规划被外界所关注。 而就在昨天（8 月 ...
谁是最终的王者？第一届全国大学...
全国大学生人工智能安全竞赛 2025年8月23日，2025第一届全国大学生人工智能安全竞赛决赛在北京...
Epic发布医疗智能体系统重新...
来源：至顶网 Epic作为电子病历(EMR)领域的领军企业，本周迈出了医疗AI发展的重要一步。CE...
帕克太阳探测器揭秘：太阳磁重联...
美国宇航局的帕克太阳探测器近日取得了一项重大科学突破，它首次直接观测到了太阳大气中的磁重联现象，这一...
确山：聚众芯新能源开业投产
8月21日，确山县电子产业园内，聚众芯新能源有限公司经过紧张的建设正式投产。这一重要时刻，标志着确山...
剧透！英伟达明天公布人形机器人...
“你设置好日程提醒了吗？” 8月24日，英伟达机器人官方账号在社交平台上发布了一张黑色礼盒的照片，附...
全兴精工取得液压齿轮泵滑动轴承...
金融界2025年8月23日消息，国家知识产权局信息显示，全兴精工集团有限公司取得一项名为“一种液压齿...
原创 希...
希尔瓦娜斯·风行者确定将在《魔兽世界》的新资料片“至暗之夜”中回归。 消息来自Psybear_TV...
原创 荣...
不得不说，现在的手机电池容量太大了，也解决了很多人的续航焦虑，对于经常外出，或者是续航要求较高的人群...
兰州市9家企业荣登2025中国...
8月22至23日，第11届中国国际发明展览会暨2025中国隐形独角兽500强大会在广州举办。兰州市科...
太原等七城算力中心接入国家超算...
来源：黄河新闻网 8月23日，2025中国算力大会主论坛二活动中，国家超级计算太原中心、青岛“海之心...
OpenAI正式登陆亚马逊云科...
今日， 亚马逊云科技（AWS）宣布将首次通过Amazon Bedrock和Amazon SageMa...
30秒｜四川省红色故事优秀讲解...
4月8日，“‘红岩铸魂·鸿鹄砺志’——传承江姐精神，争做时代追梦人”红色大讲堂，在自贡鸿鹄中学校举办...
人工智能的滥用，到底怎么治？
声音和形象被AI合成滥用的事儿正变得越来越多。比如本周，奥运冠军全红婵、王楚钦等人的声音被AI克隆，...
以科技为笔 总台系列节目为机器...
从春晚舞台上灵动跳着秧歌舞的具身机器人，到深海中探索未知的全球首例仿蝠鲼水下机器人，再到可抱起90公...
惊天逆转！小孩让三追五夺得EW...
2025年电竞世界杯《街头霸王6》项目全球总决赛冠军诞生！总决赛BO9，中国格斗传奇小孩（曾卓君）在...
《Deadlock》新英雄登场...
《Deadlock》新增了一名名为“看门人”（The Doorman）的角色，他能在地图上几乎任何平...
广西防御台风应急响应提升至Ⅲ级...
记者从广西海事局了解到，随着今年第13号台风“剑鱼”增强到13级，并即将影响北部湾，为保障辖区海上交...
原创 S...
大家好我是指尖，23日王者S41赛季前瞻直播中，其实爆料了特别多的内容，之前粗略地跟大家做了重点汇总...
上海试点建设新型城市“空间”，...
来源：上观新闻 为了让数据“供得出、流得动、用得好、保安全”，上海正先行先试，面向超大城市特点需求，...