研报下载就选股票报告网
您好,欢迎来到股票分析报告网!登录   忘记密码   注册
>> 海通证券-计算机行业跟踪周报308期:境内深度合成服务算法备案清单发布,AI应用加速中-230626
上传日期:   2023/6/26 大小:   390KB
格式:   pdf  共2页 来源:   海通证券
评级:   优于大市 作者:   杨林
行业名称:   计算机
下载权限:   此报告为加密报告
国家互联网信息办公室发布境内深度合成服务算法备案清单,百度阿里腾讯字节讯飞等在列。6月20日,国家互联网信息办公室发布境内深度合成服务算法备案清单(2023年6月),其中包括美团在线智能客服算法、快手短视频生成合成算法、百度文生图内容生成算法、百度PLATO大模型算法、火山引擎智能美化特效算法、腾讯会议虚拟背景算法、天猫小蜜智能客服算法、讯飞星火认知大模型算法等。《互联网信息服务深度合成管理规定》第十九条明确规定,具有舆论属性或者社会动员能力的深度合成服务提供者,应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。深度合成服务技术支持者应当参照履行备案和变更、注销备案手续。网信办官网专门指出:“请尚未履行备案手续的深度合成服务提供者和技术支持者尽快申请备案”。我们认为,此次清单的发布,为应用的合规奠定了法律基础,未来应用的落地有望进一步加速。
  腾讯云披露行业大模型方案进展,并公布MaaS(Model-as-a-Service)能力全景图。根据腾讯云官微,腾讯云基于企业痛点和需求,依托腾讯云TI平台打造的行业大模型精选商店,提供涵盖模型预训练、模型精调、智能应用开发等一站式行业大模型解决方案。内置多个高质量行业大模型,涵盖金融、传媒、文旅、政务、教育等多个行业场景。兼容支持多模型训练任务,企业可以按需取用。在此基础上,企业不仅可以加入独有的场景、数据,快速精调生成专属模型;也可根据业务场景需求,按需定制不同参数、规格的模型服务。同时,腾讯云还提供完善的大模型工具链和配套服务,包括数据标注、训练、测试、评估、部署等全套工具,助力快速精调大模型,客户按需灵活使用,加速大模型在产业的落地。同时,提供本地化的训练、落地及陪跑优化服务,为客户扫清落地障碍。算力方面,腾讯云新一代HCC高性能计算集群,专为大模型训练打造,具备业界最高的3.2T互联带宽,将整体算力性能提升3倍;即将推出的腾讯云向量数据库(Tencent Cloud VectorDB),源自腾讯每日处理千亿次检索的向量引擎(OLAMA),单索引支持10亿级向量规模,更适合AI运算、检索,数据接入AI效率提升10倍。我们认为,腾讯云在行业大模型的发力有望使得行业信息化公司受益,这些公司拥有行业数据和行业know-how,能够更好地与大模型公司合作,从而推出相关的行业大模型。
  微软发布DeepSpeed ZeRO++,有望进一步提升模型训练效率。6月22日,微软在官方blog发文,正式介绍了最新的DeepSpeed ZeRO++。相比于ZeRO,ZeRO++的进步主要在以下两方面:(1)ZeRO++加速大型模型预训练和微调。每个GPU上batch size较小时:无论是在数千个GPU上预训练大型模型,还是在数百个甚至数十个GPU上对其进行微调,当每个GPU的batch size较小时,ZeRO++提供比ZeRO高2.2倍的吞吐量,直接减少训练时间和成本。低带宽计算集群: ZeRO++使低带宽集群能够实现与带宽高4倍的高端集群类似的吞吐量。因此,ZeRO++可以跨更广泛的集群进行高效的大型模型训练。(2)ZeRO++加速ChatGPT类的RLHF训练。虽然ZeRO++主要是为训练而设计的,但它的优化也自动适用于ZeRO-Inference,因为通信开销对于ZeRO的训练和推理同样适用。因此,ZeRO++可以提高人类反馈强化学习(RLHF)等算法的效率,因为RLHF结合了训练和推理。通过与DeepSpeed-Chat的集成,与原始ZeRO相比,ZeRO++可以将RLHF训练的生成阶段效率提高多达2倍,强化学习训练阶段效率提高多达1.3倍。博文中最后指出:“用于DeepSpeed-Chat的ZeRO++将在未来几周内发布。”我们认为,DeepSpeed ZeRO++的发布,或有助于模型训练效率的进一步提升,对AI全行业的发展带来更加积极的作用。
  建议关注:浪潮信息、中科曙光、科大讯飞、金山办公、新国都、赛意信息、博彦科技。
  风险提示:AI技术发展不及预期
  
 
Copyright © 2005 - 2021 Nxny.com All Rights Reserved 备案号:蜀ICP备15031742号-1