>> 华泰证券-电子行业动态点评:从谷歌I/O大会看AI大模型产业前沿-230511
| 上传日期: |
2023/5/12 |
大小: |
874KB |
| 格式: |
pdf 共7页 |
来源: |
华泰证券 |
| 评级: |
增持 |
作者: |
黄乐平,张皓怡 |
| 行业名称: |
电子 |
| 下载权限: |
此报告为加密报告 |
|
|
谷歌I/O大会看点:AI大模型&轻量化、AI赋能应用、算力基础设施 当地时间5月10日,谷歌举行I/O大会,宣布了AI大模型、AI赋能应用、算力基础设施等一系列新进展:1)发布PaLM 2语言模型,具有更好的多语言和推理能力,并宣布旗下DeepMind正在研发多模态基础模型Gemini;2)宣布一系列基于PaLM 2的应用功能更新,包括AIGC办公工具包DuetAI,支持多模态理解和生成、并与其他应用协同的聊天机器人Bard、以及企业级AI平台Vertex AI;3)推出新一代超算A3 Virtual Machines。本次I/O大会上模型轻量化值得关注,PaLM 2系列模型中体积最小的Gecko可在手机上运行。我们认为模型压缩技术是实现AI大模型在边/端部署的核心技术,将加速AI技术与智能终端融合,国内SoC设计公司有望深度受益。 大模型:PaLM 2多语言能力、推理能力、代码能力提升明显 谷歌发布了PaLM 2语言大模型,基于Pathways架构,使用TPU v4和JAX框架训练。PaLM 2的提升在于:1)多语言能力。训练数据超过100种语言,能理解、翻译和生成更准确和多样化的文本(含双关语、习语等);2)逻辑能力。在一系列推理、数学任务测试中,PaLM 2显著优于PaLM,并与GPT-4相当;3)代码能力。PaLM 2在20种编程语言上进行训练,包括Python和JavaScript等流行语言以及Prolog、Verilog和Fortran等其他语言。此外,谷歌在PaLM 2的基础上还训练了用于编程和调试的专业模型Codey,安全知识模型Sec-PaLM以及医学知识模型Med-PaLM 2。 模型轻量化:Gecko可在手机上运行,AI技术与智能终端加速融合 PaLM2主要包含4种规格(Gecko、Otter、Bison和Unicorn),其中体积最小的Gecko可以在手机上运行,每秒可处理20个Token,大约相当于16或17个单词。而在谷歌发布上述支持移动端部署的AI大模型之前,高通、华为也相继实现了AI模型在终端的轻量化部署,分别搭载在高通第二代骁龙8移动平台手机以及华为新一代P60系列手机上。我们认为模型压缩技术是实现AI大模型在边/端部署的核心技术,将加速AI技术与智能终端融合,国内SoC设计公司有望深度受益。 大模型应用:PaLM 2赋能Workspace、Bard、Vertex AI等功能升级 PaLM 2已应用在超过25种功能和产品中,包括办公套件Workspace、聊天机器人Bard等等。其中,Workspace推出AIGC工具包Duet AI。Duet AI包括Google Docs和Gmail中的智能写作工具、Google Slides中的文本生成图像、演讲备注以及Google Meet的会议摘要生成等功能。I/O大会展示了Bard支持的文字、代码、图像生成与理解能力,并重点强调了Bard与谷歌应用,以及外部其他应用的协同能力。ToB应用方面,Vertex AI集合了谷歌研发的基础模型,用户可按需调用模型并对模型的参数权重进行微调;此外,Vertex AI还能够根据内部数据建立企业版本的搜索引擎。 算力基础设施:谷歌云推出A3超算 算力基础设施方面,谷歌云推出了新一代超算——A3 Virtual Machines,采用第4代英特尔至强可扩展处理器、2TBDDR5-4800内存以及8张英伟达H100,专门用于训练和服务AI大模型。A3是首个使用谷歌定制设计的200Gbps IPU的GPU实例,GPU间的数据传输绕过CPU主机,通过与其他虚拟机网络和数据流量分离的接口传输,网络带宽相比A2增加10倍,具有低延迟和高带宽稳定性。 风险提示:AI及技术落地不及预期;本研报中涉及到未上市公司或未覆盖个股内容,均系对其客观公开信息的整理,并不代表本研究团队对该公司、该股票的推荐或覆盖。
|
|