>> 国金证券-计算机行业:大模型时代,AI技术向效率提升演进-230227
| 上传日期: |
2023/2/28 |
大小: |
1541KB |
| 格式: |
pdf 共12页 |
来源: |
国金证券 |
| 评级: |
强于大市 |
作者: |
孟灿,王倩雯 |
| 行业名称: |
计算机 |
| 下载权限: |
无限制-登录即可下载 |
|
|
投资逻辑 我们2022年12月发布的报告《深度学习算法:从多样到统一》中,阐述了自Google 2017年提出Transformer以来,深度学习开始进入大模型时代。大模型时代的前沿技术发展围绕着提升效率而展开,包括:1)提升训练方法效率:向无监督和半监督学习发展;2)提升数据效率:从追求数据规模向追求数据质量发展;3)提升开发效率:通过“预训练基础模型+微调”,挖掘现有大模型潜力,降低具体下游任务的开发成本;4)提升算力效率:从稠密机构向稀疏结构发展;5)提升训练的工程化效率:向并行训练和混合精度训练发展 训练方法:AI模型的训练方法主要包括监督学习和无监督学习两种典型方式,后随模型训练数据量的增加,衍生出使用大量未标注数据+少量标注数据的半监督学习方法。AI训练方法的发展历经“监督-无监督-监督-无监督/半监督”4个阶段,在目前的大模型阶段,无监督/半监督训练再次成为主流。 数据效率:随参数规模的增加,大模型在知识密集型任务中的效果提升显著。此外,当模型参数超过特定阈值后,模型会对特定任务表现出“涌现”现象。目前学界和业界已意识到数据质量的重要性或高于数据数量,AI大模型需要在保证数据质量的前提下进行数据数量和参数规模的扩充。 开发效率:AI大模型的流行提出了“基础模型+微调”的AI开发新范式。相较于过去“一场景、一任务、一模型”的开发模式,“基础模型+微调”具有数据需求量小、训练时间短、落地边际成本低等优点。微调技术的发展带动大模型由“以参数规模取胜”向“以高质量学习取胜”转变。 算力效率:AI架构可分为稠密结构和稀疏结构,其中稀疏结构可有效降低大模型对算力的消耗。2017年Google提出了混合专家方法MoE,使得模型在计算过程中只需激活部分神经网络;2022年6月Google发布的基于稀疏结构的多模态模型LimoE,已经在降低算力消耗的同时取得不亚于稠密结构的成绩。 工程化效率:伴随AI大模型参数量的不断提升,并行训练、混合精度训练等技术发展迅速。其中,国产AI框架百度PaddlePaddle提出的4D混合并行策略在MLPerf发布的稠密结构AI训练性能榜单中位列第一;通过使用16位浮点数代替32位浮点数进行训练,能够在同等模型表现的情况下实现训练时间减半。 投资建议 建议关注受益于AI算法进步,并能成功进行商业化应用的科大讯飞、商汤科技等公司;以及受益于AI算力需求、微调技术发展的海光信息、浪潮信息、海天瑞声等公司。 风险提示 海外基础软硬件使用受限;骨干网络创新放缓;应用落地不及预期
研究报告全文:投资逻辑我们2022年12月发布的报告深度学习算法从多样到统一中阐述了自Google2017年提出Transformer以来深度学习开始进入大模型时代大模型时代的前沿技术发展围绕着提升效率而展开包括1提升训练方法效率向无监督和半监督学习发展2提升数据效率从追求数据规模向追求数据质量发展3提升开发效率通过预训练基础模型微调挖掘现有大模型潜力降低具体下游任务的开发成本4提升算力效率从稠密机构向稀疏结构发展5提升训练的工程化效率向并行训练和混合精度训练发展训练方法AI模型的训练方法主要包括监督学习和无监督学习两种典型方式后随模型训练数据量的增加衍生出使用大量未标注数据少量标注数据的半监督学习方法AI训练方法的发展历经监督-无监督-监督-无监督半监督4个阶段在目前的大模型阶段无监督半监督训练再次成为主流数据效率随参数规模的增加大模型在知识密集型任务中的效果提升显著此外当模型参数超过特定阈值后模型会对特定任务表现出涌现现象目前学界和业界已意识到数据质量的重要性或高于数据数量AI大模型需要在保证数据质量的前提下进行数据数量和参数规模的扩充开发效率AI大模型的流行提出了基础模型微调的AI开发新范式相较于过去一场景一任务一模型的开发模式基础模型微调具有数据需求量小训练时间短落地边际成本低等优点微调技术的发展带动大模型由以参数规模取胜向以高质量学习取胜转变算力效率AI架构可分为稠密结构和稀疏结构其中稀疏结构可有效降低大模型对算力的消耗2017年Google提出了混合专家方法MoE使得模型在计算过程中只需激活部分神经网络2022年6月Google发布的基于稀疏结构的多模态模型LimoE已经在降低算力消耗的同时取得不亚于稠密结构的成绩工程化效率伴随AI大模型参数量的不断提升并行训练混合精度训练等技术发展迅速其中国产AI框架百度PaddlePaddle提出的4D混合并行策略在MLPerf发布的稠密结构AI训练性能榜单中位列第一通过使用16位浮点数代替32位浮点数进行训练能够在同等模型表现的情况下实现训练时间减半投资建议建议关注受益于AI算法进步并能成功进行商业化应用的科大讯飞商汤科技等公司以及受益于AI算力需求微调技术发展的海光信息浪潮信息海天瑞声等公司风险提示海外基础软硬件使用受限骨干网络创新放缓应用落地不及预期敬请参阅最后一页特别声明1行业深度研究内容目录1训练方法演进无监督半监督训练再次成为主流32训练数据演进从追求规模到追求质量63开发方式演进微调技术受到重视74架构设计演进从稠密结构到稀疏结构85训练技术演进并行训练与混合精度训练96投资建议107风险提示10图表目录图表1监督学习与无监督学习方式对比3图表2LeNet-5卷积神经网络典型结构4图表3逐层无监督BP有监督可解决梯度消失问题4图表4计算机视觉领域经典开源数据集5图表5自然语言处理领域的无监督学习方法5图表6MAE无监督学习方法在多个下游任务中优于监督方法6图表7知识密集型任务表现随参数规模提升7图表8AI大模型在复杂任务中表现出涌现现象7图表9InstructGPTChatGPT中的人类反馈强化学习技术8图表10稠密结构与稀疏结构对比9图表11混合专家方法示意9图表12百度PaddlePaddle4D混合并行策略示意10敬请参阅最后一页特别声明2行业深度研究我们2022年12月发布的报告深度学习算法从多样到统一中阐述了自Google2017年提出Transformer以来深度学习开始进入大模型时代本文旨在讨论大模型时代下整个AI行业的技术演进的前沿发展方向小结而言大模型时代的前沿技术发展围绕着提升效率而展开包括1提升训练方法效率向无监督和半监督学习发展2提升数据效率从追求数据规模向追求数据质量发展3提升开发效率通过预训练基础模型微调挖掘现有大模型潜力降低具体下游任务的开发成本4提升算力效率从稠密机构向稀疏结构发展5提升训练的工程化效率向并行训练和混合精度训练发展1训练方法演进无监督半监督训练再次成为主流AI模型的训练方法主要包括监督学习与无监督学习两种典型方式二者的区别在于是否使用带人工标注的数据集进行训练此外随着模型训练数据量的增加标记大量样本成本过于昂贵衍生出使用大量未标注数据少量标注数据的半监督学习方式目前虽然模型参数的扩大仍能提升模型表现但扩大相同规模的参数较大模型发展初期的边际收益递减提升数据质量是未来模型智能水平提升的关键图表1监督学习与无监督学习方式对比来源CSDN云计算公众号国金证券研究所AI训练方法的发展历经监督-无监督-监督-无监督半监督4个阶段在大模型时代下无监督半监督训练再次成为主流方法2006年之前浅层神经网络的训练以监督学习为主算法层面这一阶段的神经网络尚停留于浅层强调通过学习少量数据获得较强的性能监督学习的表现显著优于无监督学习此外这一时期的支持向量机SVM等浅层学习算法表现出色性能优于同时期的神经网络算法在学术界与产业界占据主流地位而支持向量机通常采用监督学习方式这也使得监督学习成为神经网络的首选训练方式数据层面这一阶段的神经网络由于性能有限无法处理复杂任务应用场景较为简单1998年YannLeCun等人研发的LeNet-5是这一时期最具代表性的神经网络模型LeNet-5基于卷积神经网络算法开发被当时大多数美国银行用于识别支票上的手写数字简单的应用场景意味着特征信息易于获取AI模型仅需要对少量数据进行学习就能获得较强的性能同时由于对数据量需求较低标注数据并非难事敬请参阅最后一页特别声明3行业深度研究图表2LeNet-5卷积神经网络典型结构来源DiveintoDeepLearningAstonZhang等2021国金证券研究所算力层面这一阶段的神经网络采用CPU进行训练算力匮乏算力成本高昂是这一时期AI发展的主要瓶颈这使得对数据量要求较低算力需求少的监督学习成为主流的神经网络训练方式2006至2011年神经网络向深层次发展无监督学习成为这一时期的主流方法算法层面Hinton使用逐层无监督的方法缓解了梯度消失问题神经网络得以迈向深层性能上限极大提升将神经网络用于处理复杂场景任务成为可能此后以Hinton为首的学者们开始尝试通过深度神经网络来模拟人的智能无监督学习成为这一阶段神经网络的主流训练方式1无监督学习在核心思想上与逐层无监督方法类似2仿生观念在当时颇为流行人类在学习时通常是无监督的图表3逐层无监督BP有监督可解决梯度消失问题来源AFastLearningAlgorithmforDeepBeliefNetsHinton等2006国金证券研究所数据层面神经网络的应用场景日益丰富包括无人驾驶语音识别等复杂场景意味着特征信息难以获取AI模型必须对更多的数据进行学习才能够获得所需的性能然而数据因素对于该时期主流神经网络训练方式的影响有限1面向复杂场景研究刚刚起步数据积累较少无监督学习方式不具备优势2深度学习方法尚未成熟学者普遍认为算法水平决定一切数据因素尚未得到足够重视算力层面GPU加速神经网络训练的方法被提出算力得到了较大的提升但GPU并没有成为主流的训练硬件这一阶段的神经网络在算法上迎来了突破解锁了神经网络处理复杂问题的潜力无监督学习主要是作为梯度消失问题的缓解措施并没有使得深度学习模型性能出现明显提升算法是这一阶段制约人工智能发展的主要因素2012至2017年AlexNet的成功使得监督训练再度流行算法层面Hinton及其学生于2012年提出AlexNet模型自此奠定了深度学习的经典训练范式AlexNet采用了经典的CNN网络结构使用ReLu激活函数敬请参阅最后一页特别声明4行业深度研究对输入值进行有监督学习并采用GPU对训练进行加速由于AlexNet将ImageNet数据集上图像分类的错误率由26降至15此后5年学术界均沿用AlexNet的范式进行深度学习训练监督学习也因此成为了这一时期主流的神经网络训练方式数据层面从这一时期开始数据量被认为是提升AI智能水平的关键要素以ImageNet为代表的开源标注数据集发展迅速这类标注数据集提供的数据量已经足以满足当时绝大部分的AI训练需求并且应用起来方便快捷这使得监督学习更为流行图表4计算机视觉领域经典开源数据集数据集名称数据量数据集内容ImageNet1420万张图像涵盖2万多个类别图像分类对象检测CIFAR-106万张图像涵盖10个类别图像分类MegaFace67万名人物共475万张图片人脸识别MPII25万张图像涵盖410项人类活动人体姿势识别Flicker-30k158万个众包字幕描述了32万张图像图像与图像描述MSCoco328万张图像250万个标记实例对象检测分割图像描述来源Paperswithcode国金证券研究所算力层面AlexNet模型的成功在学界与业界推广了GPU加速人工智能训练的新模式算力瓶颈得到极大缓解此阶段神经网络的发展主要由算法创新驱动由标注数据提供训练支持模型性能得到较大提升2017年至今Transformer开启大模型时代无监督和半监督学习再次兴起2017年Transformer问世后深度学习对数据的需求量爆发增长无监督学习方法成为了这一时期的主流训练方式在数据量与模型表现高度关联的大模型时代高效的无监督学习算法能够显著提高模型智能水平无监督学习也由此迎来了飞速发展在自然语言处理领域无监督学习技术发展较快2018年在Transformer架构问世一年后基于无监督学习的BERTGPT等大规模语言模型相继问世并提出了自回归MLMNSP等无监督学习方法这些方法的表现较好一直沿用至今图表5自然语言处理领域的无监督学习方法模型名称发布者无监督学习方法核心思想GPTOpenAI自回归利用前文单向预测BERTGoogleMLMNSP文本掩码双向预测来源OpenAIGoogle国金证券研究所在计算机视觉领域无监督学习技术发展相对较慢2020年基于对比学习思想的MoCo问世证明了无监督学习在计算机视觉领域能取得不亚于监督学习的效果在此之后基于对比学习的无监督学习方法不断演进朝着结构更简单对数据样本要求更低更容易应用的方向发展准确度也不断提升敬请参阅最后一页特别声明5行业深度研究图表6MAE无监督学习方法在多个下游任务中优于监督方法来源MaskedAutoencodersAreScalableVisionLearnersKaimingHe等2021国金证券研究所2021年FacebookAI现MataAI的何恺明等提出了MAE方法该方法的核心思想与自然语言处理领域中的MLM方法相同同样是随机掩盖图像信息并在训练过程中对图像进行预测与重构MAE方法对数据的泛化性更强更善于处理大规模数据将无监督训练的速度提高了3倍以上在多个下游任务中表现比监督学习更好至此无监督学习方法在自然语言处理计算机视觉两个深度学习最重要的领域完成了统一也由此结束了飞速发展期转而进入缓慢发展阶段目前国内外AI公司发布的大规模基础模型都采用了无监督学习方法该方法放大了场景拥有者的竞争优势在自动驾驶领域Tesla的Autopilot通过无监督学习使用数十万Tesla司机的行为数据来训练AI模型据Tesla于2021年AIDay公布的数据Tesla平均每天会收到500000条以上的驾驶数据视频并采用自动标注技术AutoLabeling自动生成训练信号以此训练新的AI模型向L5级自动驾驶逐步迈进2021年全年Tesla共训练了75000个AI模型平均每8分钟就要训练一个新的AI模型无监督学习方法使Tesla大大降低了AI模型的训练成本提高了AI模型的迭代速度帮助Tesla利用自身的数据优势保持在自动驾驶领域的领先地位2训练数据演进从追求规模到追求质量BERTGPT-3等AI大模型的成功使人们认识到模型参数规模训练数据量对于提高AI智能水平效果显著引发了大规模基础模型开发浪潮各国内外AI巨头纷纷跟进研发自有的参数规模更大性能更强的AI大模型享受算法进步带来的数据规模红利伴随参数规模的不断提升AI大模型在具体任务中表现出以下特点1随着参数规模的增加显著提高了AI模型在语言问答阅读理解等任务中的表现这类任务通常是知识密集型即模型包含的知识量越多任务表现越好AI大模型的发展使得该类任务效果提升显著2AI大模型表现出了涌现现象即模型的参数规模跨过特定阀值后模型对特定任务出现爆发式性能增长而在此之前模型完全不具备解决该任务的能力具有涌现现象的任务往往复杂度较高且由多个步骤组成比较考验AI模型的逻辑推理能力敬请参阅最后一页特别声明6行业深度研究图表7知识密集型任务表现随参数规模提升图表8AI大模型在复杂任务中表现出涌现现象来源BeyondtheImitationGameQuantifyingandextrapolatingthe来源BeyondtheImitationGameQuantifyingandextrapolatingthecapabilitiesoflanguagemodelsAarohiSrivastava等2022国金证券研capabilitiesoflanguagemodelsAarohiSrivastava等2022国金证券研究所究所未来数据质量的重要性可能远高于数量Google在对其语言模型T5的实验中发现数据数量与数据质量两个因素间数据质量更为重要AI大模型的正确发展路径是在保证数据质量的前提下增大数据数量扩充参数规模数据质量的衡量指标包含多个维度如真实性知识密度多样性等在通过提高数据质量获取更强大的模型智能时需要综合考虑以上多个维度1真实性基于真实场景数据训练得到的模型往往性能较好深度神经网络的本质基于统计学得到拟合函数因此训练数据是否与真实场景具有相同的数据分布对模型性能至关重要较大的数据分布偏差会导致AI模型的性能和鲁棒性较差以图像识别任务为例ImageNet作为该场景最具代表性的数据集其数据真实性距离真实场景任有一定差距在大多数图片中识别目标均为图像主体并且较少存在遮挡物体旋转等现实中可能遇到的复杂情况ObjectNet是学者对应ImageNet专门建立的复杂场景数据集该数据集所收录的图像均为较复杂的情况能够反映人工智能面对现实中复杂问题的表现根据测试各类先进计算机视觉模型在ObjectNet上的成绩相较于ImageNet下降了40到45推理准确度从90下降至50这表明在面对复杂问题时现阶段视觉模型性能仍有待提升2知识密度单位数据中的信息含量应用高知识密度的数据进行模型训练能够显著提升模型表现典型的高知识密度数据包括维基百科出版书籍新闻等3多样性训练数据的种类多样化的数据将赋予AI大模型解决不同类型任务的能力例如ChatGPT在进行训练时采用了维基百科问答网站Github代码等多种数据这不仅能够提高ChatGPT在语言问答代码生成等任务中的表现同时还将显著提升模型的智能水平研究表明ChatGPT逻辑能力的显著提升来源于应用代码进行模型训练3开发方式演进微调技术受到重视AI大模型的流行提出了基础模型微调的AI开发新范式AI大模型由海量数据通过无监督学习训练得到本身不能直接应用于具体任务必须经过微调才可投入应用微调是指基于大规模基础模型在现有训练得到的模型参数之上针对特定任务类型应用特定场景的数据对模型进行二次训练通俗来说大规模基础模型为AI提供了基础知识而微调则是让AI获特定领域知识并赋予其组织应用知识的能力微调技术专注于挖掘现有AI大模型潜力主要研究如何将大模型应用于具体场景是大模型时代AI开发的重点环节微调技术水平将极大影响AI模型的智能水平先进的微调技术能够更充分挖掘AI大模型的潜力做到事半功倍在AI进入大模型时代之前如果想将AI应用于特定任务则必须从零开始训练神经网络即所谓一场景一任务一模型相比而言基础模型微调是低成本高收益的解决方案其主要具备以下优点敬请参阅最后一页特别声明7行业深度研究1数据需求量小基础模型微调的开发新范式无需模型从头学习所有内容微调阶段的所有训练都是为了获取特定领域知识因此微调所需数据量较小显著降低了AI开发中的数据门槛2训练时间短一方面模型微调仅需小规模数据即可进行训练显著降低了资源消耗另一方面在微调过程中神经网络中的大部份层会事先被冻结这些层涉及的相关参数在训练过程中保持不变需要训练的参数仅是所有参数中的一小部分3降低边际落地成本AI大模型能适应不同场景下的多种下游任务采用小规模数据针对具体场景微调后即可应用显著降低了AI模型重复开发造成的资源浪费降低了AI落地的边际成本2020-2022年间大模型处于10时代这一阶段AI研究的特点是专注于大模型开发追求大模型参数规模提升大模型开发相关技术迭代较快微调技术相对不受重视仅仅作为大模型性能的评估工具2022年至今大模型向20时代迈进LaMDAChatGPT等新一代AI大模型的成功标志着AI大模型从以参数规模取胜向以高质量学习取胜转变微调技术发展对模型智能的提升效果更为显著模型参数规模提升节奏放缓落地进程明显加快2022年1月Google发布对话AI模型LaMDA该模型不同于以往大模型专注于参数规模提高其创新点主要集中于微调技术LaMDA尝试通过微调方法创新提升模型输出的质量安全性与可靠性针对不同的目标Google雇佣少量众包人员与LaMDA进行对话众包人员根据对应评价指标对LaMDA输出内容通过打分等方式进行数据标注LaMDA通过众包模式收集了约20000次对话的注释数据并基于这些数据对模型进行微调微调技术的创新显著提高了模型的理解能力使得AI模型与人类交谈时更为拟人化LaMDA的成功验证了微调技术创新对模型智能水平的提高具有关键作用2022年3月OpenAI发布新一代语言模型InstructGPT该模型创新点同样集中于微调技术创新性应用了人类反馈强化学习RLHF技术该方法核心思想来源于强化学习将人类的偏好作为奖励信号训练模型使得AI输出更加符合人类偏好通过微调技术创新InstructGPT使用了少量标注数据这些数据仅由40人团队就完成了标注微调方法的进步显著提升了模型智能水平相比上一代语言模型GPT-3InstructGPT在人工评估中以13亿的参数规模战胜了1750亿的GPT-3图表9InstructGPTChatGPT中的人类反馈强化学习技术来源OpenAI国金证券研究所2022年11月30日OpenAI对外发布新一代对话机器人ChatGPTChatGPT所应用的人类反馈强化学习RLHF技术更为成熟一方面ChatGPT继承了InstructGPT中的相关技术能够通过学习人类提高的对话范例输出更符合人类偏好的内容另一方面人类反馈强化学习方法使ChatGPT更为谨慎能够主动拒绝回答不适当的问题减少输出有害答案显著提高了AI的安全性与可靠性4架构设计演进从稠密结构到稀疏结构AI大模型架构设计是指模型的计算架构主要分为稠密结构和稀疏结构架构设计决定了模型在训练过程中各神经元间如何相互作用敬请参阅最后一页特别声明8行业深度研究图表10稠密结构与稀疏结构对比图表11混合专家方法示意来源来源机器之心公众号国金证券研究所SwitchTransformersScalingtoTrillionParameterModelswithSimpleandEfficientSparsityWilliamFedus等2022国金证券研究所稠密结构主要应用于以GPT-3为代表的早期的AI大模型采用稠密结构的模型在计算时需要激活整个神经网络这将带来极大的算力开销和内存开销使得AI大模型训练成本高昂稀疏结构的提出旨在降低AI大模型对算力的消耗2017年Google提出了混合专家方法MixtureofExpertMoE核心思想是在模型中引入专家层每个专家处理各自擅长的对应部分输入使得模型在计算过程中只需激活部分神经网络稀疏结构是一种更像人类的神经网络结构其运作过程与人脑极为相似人脑中约有100亿个神经元在执行具体任务的过程中只有部分特定的神经元会被激活这种稀疏结构是人脑具备通用且高效智能水平的关键因素之一稀疏结构能够显著降低大模型训练成本2021年Google发布了基于稀疏结构的语言模型SwitchTransformers该模型训练效率相比前代稠密结构大模型T5提升近7倍模型参数量达16万亿首次将AI大模型参数量推升至万亿级别目前稀疏结构已经应用至AI前沿研究2022年6月Google发布了第一个基于稀疏结构的多模态模型LimoE证明了稀疏结构在降低模型算力消耗的同时能够在多项任务中取得不亚于稠密结构的结果从稠密结构到稀疏结构AI大模型架构设计的演进显著降低了模型的算力消耗助力AI大模型参数规模进一步提升5训练技术演进并行训练与混合精度训练训练技术的演进旨在提升AI模型训练效率伴随AI大模型参数量的不断提升高效训练技术发展迅速其主要包括并行训练技术和混合精度训练技术等并行训练的核心思想是将计算任务切分到不同设备上同时尽可能降低设备间通信损耗合理使用多台设备的算力实现高效的并行训练最大化提升模型训练速度并行训练方法主要包括数据并行模型并行流水线并行等多种并行策略目前业界主流方法是混合并行方法即同时应用多种并行策略取长补短最大限度提升模型的并行能力例如国产AI框架百度PaddlePaddle提出4D混合并行策略其同时应用了四种并行策略显著提高了模型训练效率支持训练千亿级参数的稠密结构模型万亿级参数的稀疏结构模型其性能在权威AI基准评测组织MLPerf发布的稠密结构AI模型训练性能榜单中位列第一敬请参阅最后一页特别声明9行业深度研究图表12百度PaddlePaddle4D混合并行策略示意来源百度PaddlePaddle国金证券研究所混合精度训练的核心思想是通过降低模型训练过程中的参数精度以此降低模型训练过程中的算力消耗该方法的提出是因为研究发现AI模型对于参数精度的要求较低参数精度的降低几乎不会影响模型表现通过牺牲精度换取算力能够显著提高模型的训练效率例如通过使用16位浮点数代替32位浮点数进行模型参数训练能够使模型的训练时间减半同时几乎不影响模型表现6投资建议建议关注受益于AI算法进步并能成功进行商业化应用的海康威视科大讯飞商汤科技中科创达等公司以及受益于AI算力需求微调技术发展的海光信息寒武纪浪潮信息海天瑞声等公司7风险提示海外基础软硬件使用受限若因国际关系等原因高算力GPU等基础硬件或计算框架等基础软件使用受限可能会对国内人工智能算法应用产生影响骨干网络创新放缓目前Transformer成为深度学习骨干网络算法创新基本是基于Transformer做分支网络创新整体创新放缓且Transformer本身作为骨干网络在处理部分任务时有一定局限性若骨干网络创新放缓可能部分任务解决进程会放缓应用落地不及预期若相关应用公司不能找到人工智能算法较好的商业应用落地场景或相关场景客户没有较强的付费意愿可能算法应用落地会不及预期敬请参阅最后一页特别声明10行业深度研究行业投资评级的说明买入预期未来36个月内该行业上涨幅度超过大盘在15以上增持预期未来36个月内该行业上涨幅度超过大盘在515中性预期未来36个月内该行业变动幅度相对大盘在-55减持预期未来36个月内该行业下跌幅度超过大盘在5以上敬请参阅最后一页特别声明11行业深度研究特别声明国金证券股份有限公司经中国证券监督管理委员会批准已具备证券投资咨询业务资格本报告版权归国金证券股份有限公司以下简称国金证券所有未经事先书面授权任何机构和个人均不得以任何方式对本报告的任何部分制作任何形式的复制转发转载引用修改仿制刊发或以任何侵犯本公司版权的其他方式使用经过书面授权的引用刊发需注明出处为国金证券股份有限公司且不得对本报告进行任何有悖原意的删节和修改本报告的产生基于国金证券及其研究人员认为可信的公开资料或实地调研资料但国金证券及其研究人员对这些信息的准确性和完整性不作任何保证本报告反映撰写研究人员的不同设想见解及分析方法故本报告所载观点可能与其他类似研究报告的观点及市场实际情况不一致国金证券不对使用本报告所包含的材料产生的任何直接或间接损失或与此有关的其他任何损失承担任何责任且本报告中的资料意见预测均反映报告初次公开发布时的判断在不作事先通知的情况下可能会随时调整亦可因使用不同假设和标准采用不同观点和分析方法而与国金证券其它业务部门单位或附属机构在制作类似的其他材料时所给出的意见不同或者相反本报告仅为参考之用在任何地区均不应被视为买卖任何证券金融工具的要约或要约邀请本报告提及的任何证券或金融工具均可能含有重大的风险可能不易变卖以及不适合所有投资者本报告所提及的证券或金融工具的价格价值及收益可能会受汇率影响而波动过往的业绩并不能代表未来的表现客户应当考虑到国金证券存在可能影响本报告客观性的利益冲突而不应视本报告为作出投资决策的唯一因素证券研究报告是用于服务具备专业知识的投资者和投资顾问的专业产品使用时必须经专业人士进行解读国金证券建议获取报告人员应考虑本报告的任何意见或建议是否符合其特定状况以及若有必要咨询独立投资顾问报告本身报告中的信息或所表达意见也不构成投资法律会计或税务的最终操作建议国金证券不就报告中的内容对最终操作建议做出任何担保在任何时候均不构成对任何人的个人推荐在法律允许的情况下国金证券的关联机构可能会持有报告中涉及的公司所发行的证券并进行交易并可能为这些公司正在提供或争取提供多种金融服务本报告并非意图发送发布给在当地法律或监管规则下不允许向其发送发布该研究报告的人员国金证券并不因收件人收到本报告而视其为国金证券的客户本报告对于收件人而言属高度机密只有符合条件的收件人才能使用根据证券期货投资者适当性管理办法本报告仅供国金证券股份有限公司客户中风险评级高于C3级含C3级的投资者使用本报告所包含的观点及建议并未考虑个别客户的特殊状况目标或需要不应被视为对特定客户关于特定证券或金融工具的建议或策略对于本报告中提及的任何证券或金融工具本报告的收件人须保持自身的独立判断使用国金证券研究报告进行投资遭受任何损失国金证券不承担相关法律责任若国金证券以外的任何机构或个人发送本报告则由该机构或个人为此发送行为承担全部责任本报告不构成国金证券向发送本报告机构或个人的收件人提供投资建议国金证券不为此承担任何责任此报告仅限于中国境内使用国金证券版权所有保留一切权利上海北京深圳电话021-60753903电话010-85950438电话0755-83831378传真021-61038200邮箱researchbjgjzqcomcn传真0755-83830558邮箱researchshgjzqcomcn邮编100005邮箱researchszgjzqcomcn邮编201204地址北京市东城区建内大街26号邮编518000地址上海浦东新区芳甸路1088号新闻大厦8层南侧地址中国深圳市福田区中心四路1-1号紫竹国际大厦7楼嘉里建设广场T3-2402敬请参阅最后一页特别声明12
|
|