如何看待AI“一本正经地胡说八道” 每日快看
时间:2025-07-03 14:42:24来源:人民日报


【资料图】

【现象】使用人工智能大模型时,不少人或许都遇到过类似问题:它们有时会捏造细节,甚至“一本正经地胡说八道”。比如,让它推荐书,给出的却是一堆压根不存在的书名;人物身份张冠李戴,还能给出一些并不准确的链接……这些现象都可以归为AI幻觉。

【点评】

所谓AI幻觉,可以通俗地理解为AI也会像人产生心理幻觉一样,遇到不熟悉或超出“知识储备”的问题时,编造一些并不存在的细节,生成与事实相悖的答案。一项调研显示,对于“公众认为使用AI应用过程中有哪些突出问题”,反馈最多的是“内容不准确,或含虚假信息”,占比高达42.2%。

AI幻觉从何而来?可能得从源头寻找答案。

大模型的工作原理,是基于概率生成内容。给它上半句,它就根据自己“学”过的海量知识,“算出”下半句该说什么。比如,当用户输入“今天天气非常”,它大概率会接“不错”“热”“潮湿”等答案,而不会出现“甜”。同时,大模型又不是简单地储存所有事实,而会像人脑记东西那样,进行大量压缩和泛化——也就是“抓概要、找规律”。因此,当“喂给”大模型的训练数据包含虚假信息时,它就会产生“幻觉”、给出错误答案。

有报告显示,我国生成式人工智能产品用户规模达2.49亿人。用户规模快速增长,AI幻觉潜藏的风险也随之增加。比如,如果一些看似合理却与现实相去甚远的内容被AI反复学习,会形成“数据污染—算法吸收—再污染”的恶性循环。有效防范由此带来的虚假信息泛滥,已成为不容回避的课题。

不过也有观点认为,AI幻觉可被视作一种“发散思维”和“想象力”。理论上,如果把训练一个大模型看作信息“压缩”的过程,那么大模型经过推理、输出答案就是一个信息“解压”的过程。这种处理信息的方式,可能会出现谬误,也可能触发新的创造。对发展尚未定型的新事物,要保持开放心态,辩证看待其利与弊,在有效防范弊端的同时,给予足够空间使之朝好的方向成长。

短时间内,AI幻觉问题难以被解决。各方都在努力降低其负面影响,相关部门也加大了对违规AI产品的处置力度,推动生成合成内容标识加速落地。一些大模型厂商在积极行动,比如文心大模型利用检索到的信息来指导文本或答案的生成,提高了内容的质量和准确性;通义大模型加强训练语料管理,通过“红蓝对抗”机制提升对虚假信息的识别能力。对广大用户而言,则要加快提升AI素养,学会“智慧”地运用“智慧工具”,既借助大模型破除思维定式、启发创新思路,又提高自身有效获取、理解、评估和使用信息的能力。

人类塑造工具,工具也影响人类生活。应对AI幻觉等问题挑战的过程,既促使人们思考改进工作方法,也为AI不断进化提供了源动力。激发新技术的正向价值,让AI更好融入生产生活、赋能千行百业,我们迈向智慧时代之路才能走得更加稳当、更加顺畅。

标签:

生活指南
  • 快看:品位生活 智趣中山——湾区创享生活体验季系列主题活动北京收官​

      近日, 品位生活 智趣中山—— 湾区创享生活体验季

  • 视点!李现过来打鸟是什么梗?李现过来打鸟是什么意思?

    李现过来‘打鸟’ 是近期因演员李现的爱好而引发的一个

  • 艺术时刻开启!“北京艺术季”开幕活动在京举行

    5月24日,首届北京艺术季开幕活动于798·751园区创意广场启幕。朱青

  • 医疗器械成“银发族”健康礼单“新宠”

    这个五一假期,浙江绍兴的张阿姨家中迎来健康装备升级——女儿将用

  • 从“衣美”到“颜美” 朗姿股份谋求转型

    近日,朗姿股份公布上年度业绩,2024年营业收入同比微降至56 91亿元

  • 一季度全国铁路固定资产投资完成1312亿元 同比增长5.2%

    据中国铁路微信公众号消息,一季度,全国铁路完成固定资产投资1312

  • 挖掘真实需求 靶向提振消费潜能

    围绕提振消费,近期相关部门出台多项政策举措,金融机构迅速部署加

  • 热点城市楼市迎小阳春

    3月份通常是楼市一年当中首个交易旺季,俗称小阳春。今年楼市小阳春

  • 两会看“新”|量子计算,未来已来

    2025年全国两会上,其中,来自科技领域的声音格外引人关注。全国人

  • 供需回暖 中国公路物流运价指数同比小幅上涨

    中国物流与采购联合会今天(5日)公布2月份中国公路物流运价指数。2月

  • 驻马店市驿城区东风街道前进路北段社区 开展“清理积雪”志愿服务活动

    受强冷空气影响,迎来一场强降雪,道路积雪严重,给居民出行带来极大不

  • 贵州算力“托举”《哪吒2》特效

    《哪吒2》刷新多项票房纪录,影片中1900多个特效镜头打造出身临其境

  • 天津国际邮轮母港迎2025年首艘访问港邮轮

    中新社天津2月25日电 (记者 王君妍 周亚强)25日凌晨,欧罗巴2号(

  • 广西强化用地指标保障 助推经济持续回升向好

    日前,广西壮族自治区自然资源厅印发文件,预安排2025年市级新增建

  • 透过数据看变化 经济第一大省“年报”怎么看?

    1月25日,广东公布2024年全年经济数据。数据显示,广东地区生产总值

  • 影响股价波动的因素有哪些?股价跌了对公司有什么影响?

    影响股价波动的因素有哪些?1 公司基本面:公司的财务状况、盈利能

  • 民生
    • 加速“川货出川” “蓉欧非”第三条通道正式启航

    • 国家统计局:5月份社会消费品零售总额增长6.4%

    • 江西举行青少年科技创新大赛 集中展现多领域创新实践成果

    • 中国企业参展“国际显示周”赢得年度显示奖