研报下载就选股票报告网
您好,欢迎来到股票分析报告网!登录   忘记密码   注册
>> 申万宏源-计算机行业GenAI系列报告之68:2026大模型幻觉能被抑制吗?-260122
上传日期:   2026/1/22 大小:   2503KB
格式:   pdf  共23页 来源:   申万宏源
评级:   强于大市 作者:   黄忠煌,洪依真,曹峥
行业名称:   计算机
下载权限:   此报告为加密报告
本期投资提示:
  当我们在说模型进步的时候,我们在说什么?智能化水平的提升和错误率(幻觉)的下降。智能化水平的提升,打开了AI大模型能力的上限,而幻觉的控制,则是保障模型的下限,而我们认为,下限是让AI应用真正落地的核心。
  何谓幻觉?即语言模型常产生过度自信的似真谬误,这种错误模式就被称为幻觉。当下AI大模型的幻觉主要包括无中生有、事实错误、语境误解、逻辑谬误等。根据哥德尔不完备定理,一个系统或者大模型是不能自证清白的,必定有一些幻觉是无法消灭的。因此幻觉控制和智能化水平提升一样,是一个始终伴随AI算法发展的重要命题。
  围绕“幻觉”这个命题,我们产生了四个核心思考:1)导致幻觉的因素有哪些;2)如何降低幻觉,从模型算法、数据、工程化几个维度探讨;3)Agent进化的痛点:多步执行如何解决错误累积问题? 4)幻觉对于不同领域AI应用落地的影响?怎么评估?已经看到的趋势?
  幻觉来自于:1)模型架构;2)有毒数据;3)奖励目标对于准确性要求的缺失;4)上下文窗口限制了模型理解力。因此控制幻觉的方案,也应对着这四个因素。模型层面,使用更多人类偏好数据对齐,同时扩大上下文窗口(32K—>128K),以提升模型的理解能力;架构创新则主要从模型记忆入手,来解决注意力机制导致的幻觉问题。
  数据端,最核心是喂给模型高质量的数据。因此当下业界聚焦高质量数据集的构建,海天瑞声、Scale AI采用“AI +人工”模式清洗标注,减少训练噪声;推理阶段通过自动过滤矛盾信息,提升输入数据可靠性。
  工程化方面,RAG技术成2B标配,Gartner预计2025年企业采用率将达68%,搭配D&Q问题分解框架,将问题拆解为多个相互依赖的子问题,并通过深度优先搜索的方式逐步推进推理路径,从而减少幻觉的发生。
  我们对幻觉问题的回答是,2026年,AI模型的幻觉会得到有效控制。Vectara HHEM测评中,全球幻觉率最低的TOP25个大模型。其幻觉率低于8%。通过工程化+RAG方式,部分严肃场景下AI模型的可用性也正在提升。
  在幻觉能够得到控制的前提下,我们看好三大方向:1)最先成熟的AI应用:税友股份、合合信息、鼎捷数智、卓易信息、汉得信息、万兴科技等;2)幻觉不敏感,商业化速度快的营销AI:迈富时、新致软件、光云科技等;3)数据+AI infra:海天瑞声、深信服等。
  风险提示:技术迭代不及预期风险;数据质量与合规风险;商业化进展不及预期风险等。
 
Copyright © 2005 - 2021 Nxny.com All Rights Reserved 备案号:蜀ICP备15031742号-1