首页 新闻 军事 汽车 游戏 科技 旅游 经济 娱乐 投资 培训 文化 守艺中华 佛教 红木 韩流 简读 军事APP 头条APP

科技
设为书签Ctrl+D将本页面保存为书签，全面了解最新资讯，方便快捷。
业 界/ 互联网/ 行 业/ 通 信/ 数 码/ 手 机/ 平 板/ 笔记本/ 相 机 培训 学校 课程
当前位置： 科技 > 业界

大语言模型仍无法可靠区分信念与事实

大语言模型仍无法可靠区分信念与事实
2025-11-07 09:04:01 来源：科技日报
军事APP头条APP

在最新一期《自然·机器智能》发表的一篇论文中，美国斯坦福大学研究提醒：大语言模型（LLM）在识别用户错误信念方面存在明显局限性，仍无法可靠区分信念还是事实。研究表明，当用户的个人信念与客观事实发生冲突时，LLM往往难以可靠地作出准确判断。

这一发现为其在高风险领域（如医学、法律和科学决策）的应用敲响警钟，强调需要审慎对待模型输出结果，特别是在处理涉及主观认知与事实偏差的复杂场景时，否则LLM有可能会支持错误决策、加剧虚假信息的传播。

团队分析了24种LLM（包括DeepSeek和GPT-4o）在13000个问题中如何回应事实和个人信念。当要求它们验证事实性数据的真或假时，较新的LLM平均准确率分别为91.1%或91.5%，较老的模型平均准确率分别为84.8%或71.5%。当要求模型回应第一人称信念（“我相信……”）时，团队观察到LLM相较于真实信念，更难识别虚假信念。具体而言，较新的模型（2024年5月GPT-4o发布及其后）平均识别第一人称虚假信念的概率比识别第一人称真实信念低34.3%。相较第一人称真实信念，较老的模型（GPT-4o发布前）识别第一人称虚假信念的概率平均低38.6%。

团队指出，LLM往往选择在事实上纠正用户而非识别出信念。在识别第三人称信念（“Mary相信……”）时，较新的LLM准确性降低4.6%，而较老的模型降低15.5%。

研究总结说，LLM必须能成功区分事实与信念的细微差别及其真假，从而对用户查询作出有效回应并防止错误信息传播。（记者张梦然）

关键词：

责任编辑：kj005

文章投诉热线:157 3889 8464  投诉邮箱:7983347 16@qq.com

关键词：

​​“2025北京·昌平具身智能创新创业大赛”诚邀报名

2025-11-06 10:21:19​​“2025北京·昌平具身智能创新创业大赛”诚邀报名

担心春节连休9天遇到寒潮？墨迹天气实时天气数据治愈焦虑

2025-11-05 17:46:27担心春节连休9天遇到寒潮？墨迹天气实时天气数据治愈焦虑

未来企业标配：一部锁住客户、解放管理的AI员工手机

2025-11-05 17:10:46未来企业标配：一部锁住客户、解放管理的AI员工手机

高盛西湖智谷引进国家级专精特新“”小巨人“”落户惠州惠城

2025-11-02 13:27:43高盛西湖智谷引进国家级专精特新“”小巨人“”落户惠州惠城

中兴通讯坚持算力与网络双轮驱动，深耕关键技术实现千亿营收

2025-10-31 15:37:44中兴通讯坚持算力与网络双轮驱动，深耕关键技术实现千亿营收

研祥金码实力开挂！破解汽车制造四大工艺读码盲区

2025-10-30 10:56:52研祥金码实力开挂！破解汽车制造四大工艺读码盲区

相关新闻

智能网联汽车决胜“下半场”

自动驾驶网约车行驶在重庆永川城区。陈安鑫摄（新华社发）  智能网联汽车是全球汽车产业转型升级的战略方向，正在推动产品形态、产业格局、基础设施和出行方式发生深刻变革。经过多年发展，我国智能网联汽车产业发展取得积极成效，电动化、智能化转型步伐持续加快。今年上半年，我国新能源汽车产销分别完成696.8万辆...

2025-11-07 09:04:56

大语言模型仍无法可靠区分信念与事实

在最新一期《自然·机器智能》发表的一篇论文中，美国斯坦福大学研究提醒：大语言模型（LLM）在识别用户错误信念方面存在明显局限性，仍无法可靠区分信念还是事实。研究表明，当用户的个人信念与客观事实发生冲突时，LLM往往难以可靠地作出准确判断。这一发现为其在高风险领域（如医学、法律和科学决策）的应用敲响警...

2025-11-07 09:04:01

七项基础研究悄然改变世界

人类许多重大科学突破，都源自对未知最纯粹的好奇。那些曾被视为“无用”的基础研究，最终深刻改变了世界。从温泉中的嗜热菌到古菌的基因序列，从花瓣的变白到陨石中的铅同位素……七项基础研究在数十年后催生了聚合酶链式反应（PCR）、基因编辑、RNA干扰、核磁共振成像（MRI）、液晶显示、减肥新药和全球禁铅汽油...

2025-11-07 09:02:37

天问一号“惊鸿一瞥”！神秘阿特拉斯彗星特征明显

中国航天再添新成果！天问一号“遥望”星际天体阿特拉斯，发现其彗星特征明显。国家航天局11月6日宣布，天问一号环绕器利用高分辨率相机于近日成功观测到星际天体——阿特拉斯（3I/ATLAS）。其间，天问一号环绕器距离目标天体约3000万千米，是目前观测该天体距离最近的探测器之一。阿特拉斯是谁？首次火星探...

2025-11-06 09:16:51

航天员推迟回家，“罪魁祸首”是空间碎片

据中国载人航天工程办公室消息，神舟二十号载人飞船疑似遭空间微小碎片撞击，正在进行影响分析和风险评估。为确保航天员生命健康安全和任务圆满成功，经研究决定，原计划11月5日实施的神舟二十号返回任务将推迟进行。这些耽误航天员回家的“罪魁祸首”——空间碎片从哪来，危害有多大，有什么办法可以预防和处理？在接受...

2025-11-06 09:16:24

“羲和”号揭示太阳“暴脾气”的时序光谱特征

记者5日获悉，由中国科学院国家天文台、紫金山天文台和南京大学组成的研究团队，基于“羲和”号卫星对太阳爆发源区不同物理过程进行分区积分光谱分析，成功解构出爆发过程中，太阳暗条的抬升、回落，耀斑带区域的色球压缩、蒸发等不同物理过程的特征，以及各过程混合后的时序光谱特征。这为从恒星整体Hα光谱（氢原子电子...

2025-11-06 09:16:06

空气驱动的“无脑”机器人问世

由英国牛津大学领衔的研究团队研发出一种全新的软体机器人，它们无需电子元件、马达或计算指令，仅靠空气压力就能运作。研究显示，这种“无脑”机器人并不依赖中央控制系统或程序指令，而是通过自身结构与外界的物理作用实现运动与协调。相关研究5日发表在《先进材料》杂志上。  这一成果为发展具身智能开辟了新方向，也...

2025-11-06 09:15:01

发布数据量世界第一！郭守敬望远镜用光谱解码宇宙

当青海冷湖的AIMS望远镜凝视太阳磁场，当贵州深山的“中国天眼”FAST聆听脉冲星律动，在燕山腹地的中国科学院国家天文台河北兴隆观测站，以我国元朝时的天文学家郭守敬命名的观天利器，也在以不同方式探望苍穹。这台大天区面积多目标光纤光谱天文望远镜，是我国首个天文领域大科学装置，由中国科学院国家天文台负责...

2025-11-05 09:20:33

中国空间站上新“烤箱” 航天员食品实现在轨烹饪烘焙

“色香味俱全”“美味啊鸡翅”……中国空间站顺利“会师”的神舟二十一号航天员乘组和神舟二十号航天员乘组，这两天正式启用随神舟二十一号飞船上行的热风烘烤机，第一次在“太空家园”吃上了烤鸡翅、烤牛排。这是中国空间站“太空厨房”首次上新“烤箱”，航天员食品实现在轨烹饪烘焙。记者从空间站下行的视频资料看到，航...

2025-11-04 09:46:31

商用清洁机器人有了国家标准

3日，记者从市场监管总局获悉，《商用清洁机器人》国家标准近日发布，将于2026年5月1日正式实施。该标准适用范围覆盖商场、酒店、写字楼、地下车库等商用环境中使用的清洁机器人，通过明确清洁性能、运动性能、健康安全等技术要求，规范产品设计与生产，全面提升商用清洁机器人的产品质量水平与实际使用体验。具体来...

2025-11-04 09:43:39

最新资讯

智能网联汽车决胜“下半场”

自动驾驶网约车行驶在重庆永川城区。陈安鑫摄（新华社发）  智能网联汽车是全球汽车产业转型升级的战略方向，正在推动产品形态、产业格局、基础设施和出行方式发生深刻变革。经过多年发展，我国智能网联汽车产业发展取得积极成效，电动化、智能化转型步伐持续加快。今年上半年，我国新能源汽车产销分别完成696.8万辆...

2025-11-07 09:04:56

大语言模型仍无法可靠区分信念与事实

在最新一期《自然·机器智能》发表的一篇论文中，美国斯坦福大学研究提醒：大语言模型（LLM）在识别用户错误信念方面存在明显局限性，仍无法可靠区分信念还是事实。研究表明，当用户的个人信念与客观事实发生冲突时，LLM往往难以可靠地作出准确判断。这一发现为其在高风险领域（如医学、法律和科学决策）的应用敲响警...

2025-11-07 09:04:01

2025 年兵团 “村舞” 集中展演活动在十二师火热举办

11月5日晚,2025年兵团 “村舞” 集中展演活动在十二师五一新区文体中心精彩上演当晚20时许,活动伴随着激昂的开场舞《鼓震山河》正式...

2025-11-07 09:04:44

2025海智专家荆楚行襄阳专场活动举行

11月5日，“智汇空天 筑梦荆楚”——2025海智专家荆楚行襄阳专场活动举行此次活动由省科协主办、市科协承办近年...

2025-11-07 09:04:34

金色岁月 农情相伴 农银养老 幸福启航——宁乡紫金支行走进社会福利院开展暖心慰问

重阳敬老，情暖深秋活动中，周念行长与老人们亲切交谈，详细了解他们的身体和生活状况，并送上了精心准备的慰问品慰问之余，紫金员工聚焦“农银养老&rdqu...

2025-11-07 09:04:10

七项基础研究悄然改变世界

人类许多重大科学突破，都源自对未知最纯粹的好奇。那些曾被视为“无用”的基础研究，最终深刻改变了世界。从温泉中的嗜热菌到古菌的基因序列，从花瓣的变白到陨石中的铅同位素……七项基础研究在数十年后催生了聚合酶链式反应（PCR）、基因编辑、RNA干扰、核磁共振成像（MRI）、液晶显示、减肥新药和全球禁铅汽油...

2025-11-07 09:02:37

五部门：促进和规范“人工智能+医疗卫生”应用发展

近日，国家卫生健康委、国家发展改革委、工业和信息化部、国家中医药局、国家疾控局五部门共同印发《关于促进和规范“人工智能+医疗卫生”应用发展的实施意见》（以下简称《意见》），旨在以新一代人工智能深度赋能卫生健康行业高质量发展，更好地满足人民群众日益增长的健康服务需求。《意见》提出我国促进和规范“人工智...

2025-11-07 09:01:21

三十年经验积累，同致诚评估以专业研究支撑评估行业发展

在中国房地产估价师学会公布的"2024年一级资质房地产估价机构房地产估价业务排名"中，深圳市同致诚资产评估土地房地产估价顾问有限公司综合排名全国第8。该公司是中国房地产估价师与房地产经纪人学会常务理事单位、中国土地估价师与土地登记代理人协会理事单位、广东省房地产估价师与房地产经纪人学会常务理事单位、...

2025-11-07 09:01:08

2025世界互联网大会"AI+交通主题发布活动"在乌镇成功举办，推动智能体赋能产业新生态

在秋高气爽的美好时节，2025年世界互联网大会"互联网之光"博览会的重要环节"AI+交通主题发布活动"于浙江乌镇隆重举行。本次活动由浙江省经济和信息化厅指导，长三角新能源汽车产业链联盟、浙江省汽车工业技术创新协会、浙江省汽车工程学会共同主办，浙江省智能网联汽车创新中心、浙江省智能网联汽车产业技术联盟...

2025-11-07 09:00:55

年轻艺术力量闪耀国际舞台,展现中国当代艺术新风貌

近日,在意大利佛罗伦萨落幕的第十五届国际当代艺术与设计双年展上,来自中国上海的20岁青年艺术家华凯翎凭借其纤维装置作品,荣获本届展会“装置艺术特别奖”,成为这一国际艺术盛事中备受瞩目的新锐艺术家。本届双年展以“光明与黑暗”为主题,在历史悠久、人文气息浓厚的佛罗伦萨达巴索古堡举行,共吸引了来自全球80...

2025-11-07 09:00:37

消费爆款+临床科研双重加持，TimeShop “瘦子菌”肠倍轻AKK闪耀进博会

11月5日，第八届中国国际进口博览会在上海隆重正式开幕本届进博会中，低空经济、人形机器人、生物抗老科技等前沿新兴产业，成为闪耀的一角据了解，肠倍轻AKK以AKK...

2025-11-07 08:58:41

聚焦减重行业动态！TimeShop携肠倍轻AKK闪耀进博会

11月5日，第八届中国国际进口博览会于上海国家会展中心盛大召开，现场热闹非凡作为全球首个国家级进口主题展会，本届进博会汇聚了155个国家与地区的4108家境外参...

2025-11-07 08:58:26

周大生经典双11年度感恩盛惠启动，无忧之夜2025红毯同款好饰来袭

凝千年非遗技艺，淬时代美学新境。周大生经典始终深植文化根脉，以金饰为载体，承续传统工艺精髓，致力于打造兼具文化厚度与时代审美的传世之作。11月1日至30日，周大生经典年度感恩盛惠如约而至。本次活动特别呈献由周大生独家冠名的"无忧之夜2025"红毯同款金饰。该同款产品此前经明星达人在晚会上倾情演绎，已...

2025-11-06 22:45:01

故障率降低80%：星坤DC连接器PPA外壳与耐压设计实测数据！

在电子元器件行业，连接器作为电路系统中的关键枢纽，其性能直接决定了设备的稳定性与安全性。中国星坤推出的DC-022K series系列DC连接器，凭借其高耐压、多规格适配、高强度材质三大核心优势，成为工业与消费电子领域的优选解决方案。本文将从技术参数、性能亮点及应用场景三方面，深度解析这款连接器的创...

2025-11-06 22:43:56

微软智能 GitHub Copilot 副驾驶®荣获 2025 世界互联网大会领先科技奖

在乌镇举行的 2025 世界互联网大会上，微软智能 GitHub Copilot 副驾驶®斩获“领先科技奖”，这一荣誉彰显了其在 AI 与软件开发融合领域的全球领先地位。作为互联网行业的重要国际奖项，世界互联网大会领先科技奖旨在表彰过去一年中推动技术变革、引领创新方向的杰出成果。微软全球资深副总裁、...

2025-11-06 22:21:17

亚视短剧×Innokids英之子乐队联合首发英文《十五五之歌》AI MV

——唱响中国“十五五”，邀世界共赴东方新机遇2025年11月6日，香港/北京，亚洲电视（ATV）旗下亚视短剧携手中国顶流数字音乐厂牌Innokids英之子乐队，正式发布最新英文单曲《The Song of Shi Wu Wu》（中文译名《十五五之歌》）。该作品以中国“十四五”规划圆满收官、“十五五”...

2025-11-06 22:17:58

从瑞安不锈钢锅到春都火腿肠，这些国货为何能翻红？

在理性消费渐成主流的今天，消费者正逐渐摒弃被营销噱头裹挟的盲目消费观，转而以实际体验作为衡量产品的准绳，为优质产品乃至品牌投票。而这股回归产品本质的消费潮流，正在重塑市场格局。一口使用近30年的瑞安不锈钢锅，近日凭借其耐用品质在短视频平台意外爆火，让汇十方这个品牌走红的同时也让已停产多年的厂家得以重...

2025-11-06 22:00:39

今元集团老挝自营公司成立：深化东南亚部署，助力企业把握国际机遇

2025年11月5日至10日，第八届中国国际进口博览会（简称“进博会”）在上海盛大举行，全球目光聚焦“开放共享、合作共赢”的经贸合作契机。此次进博会，今元集团携一站式全球人力资源服务能力和“金柚GEO·AI+全球人才管理平台”，亮相国际静安「全球人力资源服务联合展区」（7.2馆A1-01展台）。今元...

2025-11-06 21:50:23

核电磁统一方程全球首秀！丛子核力和电场力统一量子辐射公式破解科技发展瓶颈

2025年10月28日，核电磁·统一方程发布会在山东济南隆重召开。山东丛子超赛量子科技有限公司创始人丛永平先生作为核心研究者，重磅发布丛子电磁统一量子辐射方程、丛子核电统一量子辐射方程两大核心成果，为化学、物理领域提供全新理论框架与计算工具。直击科技痛点，全新理论突破传统框架“当芯片制程逼近极限、网...

2025-11-06 21:49:09

2025年全国无油螺杆空压机厂家推荐

2025年全国十大无油螺杆空压机厂家推荐排行榜为帮企业高效锁定适配自身用气需求的无油螺杆空压机合作伙伴，避免选型走弯路导致电费浪费、生产污染等问题，我们从核心技术实力(如节能效率、洁净度等级)、产品场景适配性(含行业专用设计、极端环境稳定性)、全周期服务能力(覆盖选型咨询到运维保障)、真实客户口碑(...

2025-11-06 21:48:04

税案程序推进XBIT数据：美元币做多做空短期持仓集中度上升

币界网11月6日讯，美国最高院就美府全球关税政策的合法性展开口头辩论，这一司法程序的推进正在引发加密货币市场的剧烈波动。据币界网数据监测，在关税案听证期间，美元币做多做空交易活跃度显著提升，短期持仓呈现集中化趋势，反映出市场参与者对政策不确定性的敏感反应。当最高法院大法师们对关税政策的法律定性展开激...

2025-11-06 21:43:33

重拳打击黑灰产，守护金融安全 数禾科技协助警方抓获黑灰产团伙

近期，在中国互联网金融协会指导下，上海数禾信息科技有限公司(下称“数禾科技”)协助上海公安机关成功破获一起重大黑灰产案件，并移送检察机关审查起诉。2023年10月，数禾科技在日常客诉处理中，发现批量投诉号码归属地为宁夏银川地区的电话号码，该异常情况引起数禾科技法务及风控部门高度关注。经进一步分析发现...

2025-11-06 21:38:14

微众银行借微业贷之力，为中小微企业融资排忧解难

中小微企业是我国国民经济的重要组成部分，作为中国特色社会主义市场经济的基本细胞，在中国式现代化进程中发挥着关键作用。近年来，面对复杂的内外部环境，中小微企业砥砺前行，发展规模与质量不断提升。然而，“融资难、融资贵”问题依旧制约着其发展。普惠金融的出现为破解这一难题带来希望。它秉持服务实体经济，提升金...

2025-11-06 21:35:32

上海礼智信影视文化传媒有限公司和上海玖蕾影视文化传媒有限公司联合出品的《中华五千年之少年强哪吒之四海同心》正式开拍

————《铁嘴铜牙纪晓岚》著名编剧朱榆林老师执导引领少年开启追梦之旅由上海礼智信影视文化传媒有限公司和上海玖蕾影视文化传媒有限公司联合出品，《铁嘴铜牙纪晓岚》著名编剧朱榆林老师执导的历史儿童剧《中华五千年之少年强哪吒之四海同心》于二零二五年六月十四日正式开拍。开机仪式上，主创团队介绍，《中华五千年之...

2025-11-06 21:08:38

外贸B2B收款:PingPong为企业提供安全可靠“无死角”支付服务的解决方案

今年前8个月，我国对共建“一带一路”倡议进出口增长5.4%，占比达51.7%，对东盟、非洲、拉美等新兴市场进出口分别增长9.7%、16.6%、2.3%。中国持续扩大面向全球的高标准自由贸易网络，已与30个国家和地区签订23个自贸协定，自贸伙伴之间贸易成本大幅降低，贸易合作更加紧密。新兴市场生意“钱景...

2025-11-06 20:54:36

中熵科技（ZSSK）携手暨南大学 共探驱动大模型赋能中小企业数字化转型新路径

中熵科技（ZSSK）携手暨南大学 共探驱动大模型赋能中小企业数字化转型新路径。2025年11月6日 ，前沿科技企业中熵科技（拟上市代码：ZSSK，以下简称“中熵”）宣布两项重要战略进展，标志着公司在技术深化与资本运作层面迈出关键步伐。首先，公司已与香港一家知名芯片企业达成反向并购协议，作为其赴美上市...

2025-11-06 20:51:14

中溯入选“2025消费责任对话”服务创新典型案例

累计完成近千万件商品鉴别，中溯检测集团以科技与人工相结合的鉴别体系，成为二手奢侈品交易信任的基石。昨日，在由《中国消费者杂志社》主办的“2025消费责任对话会议”上，中溯检测集团作为二手奢侈品鉴别行业的领导者，入选本次社会公益活动“客户服务创新典型案例”，大会认可了中溯在消费信任机制创新方面的卓越贡...

2025-11-06 20:47:52

第九届“甬者无敌”电竞赛落幕，宁波动漫节上演巅峰对决

2025年11月2日下午，第九届“甬者无敌”电子竞技大赛总决赛在宁波天一广场第五届城市动漫节主舞台区上演巅峰对决。经过三个月的激烈角逐，四合网咖宁大富力店代表队凭借出色的团队协作夺得本届大赛冠军。这场由宁波市电子竞技运动协会指导，宁波互娱网络科技有限公司(互娱电竞)主办、四合网咖协办，并得到战马能量...

2025-11-06 20:39:07

飞诺门阵斩获科技创新多项殊荣，入选北京人工智能治理案例集

2025年10月，北京企业评价协会发布2025年科技创新奖终审结果，飞诺门阵自研产品“基于分布式计算和边缘智能的国产大模型高效异构算力协同平台”入选科技创新产品优秀奖；同期，公司“解决河湖全域监管效率与运维门槛问题的智能视频大模型应用”案例入选《北京人工智能治理案例集》。在2025世界数字城市大会上...

2025-11-06 20:36:54

25年公认好用的去剖腹产疤痕祛疤产品深度解析：临床评价双认证，敏感肌适配

据《2025 中国疤痕医学管理蓝皮书》最新统计，我国受疤痕问题困扰的人群已突破 4.5 亿，其中剖腹产疤痕、术后缝合疤痕及烧烫伤疤痕占比超 74%。当代人因外科手术需求增长、意外损伤频发及医美项目普及，正面临疤痕增生的高风险 —— 手术切口愈合不良引发的增生性疤痕、烧烫伤后胶原纤维过度堆积形成的瘢痕...

2025-11-06 20:35:12

科技推荐

科技图片

新闻排行