>> 华泰证券-电子行业动态点评:从ChatGPT热议看大模型潜力-221209
| 上传日期: |
2022/12/9 |
大小: |
1655KB |
| 格式: |
pdf 共11页 |
来源: |
华泰证券 |
| 评级: |
增持 |
作者: |
黄乐平 |
| 行业名称: |
电子 |
| 下载权限: |
此报告为加密报告 |
|
|
ChatGPT展现优秀能力,大模型蕴含潜力 OpenAI发布对话式人工智能语言模型ChatGPT,在文本生成、代码生成与修改、多轮对话等领域,已经展现了大幅超越过去AI问答系统的能力。未来,对话式AI随着性能的进一步提升,在搜索、结合其他AIGC工具生成元宇宙内容等场景都有很大应用空间。ChatGPT显示出预训练大模型正在取得技术突破。多模态、跨模态的大模型与微调、模型压缩方法结合,使大模型更适应下游任务,未来将有更多新的应用场景涌现。在大模型方面,百度的文心Ernie,华为盘古以及商汤视觉模型在中国企业中处于领先地位。 GPU方面,燧原、壁仞、天数智芯等正在快速缩小和世界领先企业差距。 ChatGPT在文本生成、代码生成等领域,展现远超GPT-3的优秀能力OpenAI于美国当地时间11月30日发布ChatGPT,在短短几天内用户突破100万人。ChatGPT能够:1)根据数个关键词或问题生成几百字的应用文书、趣味性文章、科普回答;2)与用户进行连贯的多轮问答;3)根据用户要求,自动生成代码,根据用户后续要求修改代码。虽然生成内容的质量还存在一定波动,并且推理能力较弱,但我们认为, ChatGPT已经展现了大幅超越过去AI问答系统(例如同属OpenAI,基于GPT-3的问答系统)的能力,未来随着性能的进一步提升,对话式AI在搜索、结合其他AIGC工具生成元宇宙内容等领域有很大的应用空间。 ChatGPT的成功,显示预训练大模型的广阔应用前景 2016年AlphaGo在围棋比赛中击败李世石以来,深度学习等AI技术快速发展。深度学习中的预训练大模型是重要方向。以文本模型为例,2018年的GPT模型参数量1.1亿,2019年的GPT-2参数量15亿,2020年的GPT-3参数量攀升至1750亿,引领大模型进入千亿参数时代。大模型逐渐成为全球科技巨头竞争的焦点。同时,大模型从早期的纯文本模型,发展到横跨图、文、音、代码等的多模态、跨模态模型。今年以来,图像模型DALL-E2,Stable Diffusion在AI绘画领域取得成功。未来,大模型在各行业的应用落地还有望引发应用创新浪潮迭起。 大模型研发逐渐成为资本和数据密集的业态,是中美科技巨头竞争的焦点 据Alchemy API、Lambda Labs估计,不计前期训练成本,GPT-3最终训练成本约460-1200万美元。Eleuther AI(致力于开源大模型的组织)在22年推出的200亿参数GPT-NeoX-20B中使用96块A100芯片训练了三个月,据The Next Platfrom估计,最终一次训练成本大约53-66万美元。大模型研发逐渐成为资本和数据密集的业态。美国目前主要大模型包括OpenAI的GPT-3、英伟达与微软的Megatron Turing-NLG、Meta的OPT等。中国主要大模型包括百度文心Ernie、华为盘古、商汤视觉模型等。今年8月以来,美国限制对华出口A100等高端GPU,或影响中国大模型发展速度。 风险提示:AI及技术落地不及预期;本研报中涉及到未上市公司或未覆盖个股内容,均系对其客观公开信息的整理,并不代表本研究团队对该公司、该股票的推荐或覆盖
|
|