研报下载就选股票报告网
您好,欢迎来到股票分析报告网!登录   忘记密码   注册
>> 德邦证券-计算机行业AIGC专题二:ChatGPT更懂人类的叙事-230214
上传日期:   2023/2/15 大小:   3725KB
格式:   pdf  共41页 来源:   德邦证券
评级:   -- 作者:   马笑
行业名称:   计算机
下载权限:   无限制-登录即可下载
ChatGPT是OpenAI推出的聊天机器人模型,月度用户已破亿,正在逐步探索商业化途径。ChatGPT能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流,甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。根据UBS统计数据显示,ChatGPT上线2个月后月度用户数量破1亿。
  OpenAI的商业模式为,会员收费、开放API以及与微软的战略合作。会员服务:2023年2月1日,OpenAI推出付费订阅项目ChatGPTPlus,价格为$20/月,目前面向美国用户。API服务:ChatGPT将在未来加入OpenAI的API,目前已在包括游戏虚拟人等泛娱乐内容产业和互联网的多方面进行应用。1)办公软件:微软计划将包括ChatGPT等AI工具整合进旗下的所有产品中。ChatGPT已加入浏览器扩展程序,集成了ChatGPT-4的BING短暂上线。2)泛娱乐:AI或将不断趋近人类思维叙事,AIGC是踏入元宇宙的重要一步,且已有公司在直播场景、游戏场景等泛娱乐中应用ChatGPT。
  谷歌、百度等众多公司推出自有AI产品,百度文心一言(ERNIEBot)预计三月份完成内测。百度拥有飞桨(深度学习开源框架)、百度AI大底座(全栈AI基础设施)和文心大模型(AI应用场景全覆盖)。ERNIE是百度开创性提出的基于知识增强的持续学习语义理解框架。ERNIE3.0参数量增大到了10B,训练数据集为4TB。产品应用或可期待。
  投资建议:把握AIGC技术催化和商业落地的投资机会。技术发展有望促进生产效率提升,并进一步创造新的消费和需求,有利于文娱内容和互联网行业。在AIGC和ChatGPT方面,我们建议持续关注技术发展和应用情况,把握技术催化和商业化落地带来的投资机会:1)具备AIGC和ChatGPT的技术探索和应用的公司:百度、商汤、万兴科技、拓尔思等;2)具有海量内容素材且具有AIGC探索布局的,图片/文字/音乐/视频等内容及平台公司腾讯控股,阅文集团、美图公司、视觉中国、昆仑万维、蓝色光标、中文在线、汉仪股份、天娱数科、风语筑等。
  风险提示:技术发展不及预期、监管政策变化、知识产权问题等。
  
研究报告全文:2023年2月14日证券研究报告行业专题AIGC专题二ChatGPT更懂人类的叙事证券分析师姓名马笑资格编号S0120522100002邮箱maxiaoteboncomcn0投资要点ChatGPT加速商业化AI将带来泛娱乐的革新ChatGPT是OpenAI推出的聊天机器人模型月度用户已破亿正在逐步探索商业化途径ChatGPT能够通过学习和理解人类的语言来进行对话还能根据聊天的上下文进行互动真正像人类一样来聊天交流甚至能完成撰写邮件视频脚本文案翻译代码等任务根据UBS统计数据显示ChatGPT上线2个月后月度用户数量破1亿OpenAI的商业模式为会员收费开放API以及与微软的战略合作会员服务2023年2月1日OpenAI推出付费订阅项目ChatGPTPlus价格为20月目前面向美国用户API服务ChatGPT将在未来加入OpenAI的API目前已在包括游戏虚拟人等泛娱乐内容产业和互联网的多方面进行应用1办公软件微软计划将包括ChatGPT等AI工具整合进旗下的所有产品中ChatGPT已加入浏览器扩展程序集成了ChatGPT-4的BING短暂上线2泛娱乐AI或将不断趋近人类思维叙事AIGC是踏入元宇宙的重要一步且已有公司在直播场景游戏场景等泛娱乐中应用ChatGPT谷歌百度等众多公司推出自有AI产品百度文心一言ERNIEBot预计三月份完成内测百度拥有飞桨深度学习开源框架百度AI大底座全栈AI基础设施和文心大模型AI应用场景全覆盖ERNIE是百度开创性提出的基于知识增强的持续学习语义理解框架ERNIE30参数量增大到了10B训练数据集为4TB产品应用或可期待投资建议把握AIGC技术催化和商业落地的投资机会技术发展有望促进生产效率提升并进一步创造新的消费和需求有利于文娱内容和互联网行业在AIGC和ChatGPT方面我们建议持续关注技术发展和应用情况把握技术催化和商业化落地带来的投资机会1具备AIGC和ChatGPT的技术探索和应用的公司百度商汤万兴科技拓尔思等2具有海量内容素材且具有AIGC探索布局的图片文字音乐视频等内容及平台公司腾讯控股阅文集团美图公司视觉中国昆仑万维蓝色光标中文在线汉仪股份天娱数科风语筑等风险提示技术发展不及预期监管政策变化知识产权问题等请务必阅读正文之后的信息披露及法律声明1目录CONTENTS01ChatGPT概述02核心优势03技术应用场景04其他类似产品05投资建议风险提示请务必阅读正文之后的信息披露及法律声明201ChatGPT概述SEPARATORPAGE311OpenAI人工智能研究领域最前沿的公司之一OpenAI深耕AI领域研究特色产品包括ChatGPTDALLE2Whisper等OpenAI是于2015年12月在美国成立的人工智能研究公司由马斯克美国创业孵化器YCombinator总裁阿尔特曼全球在线支付平台PayPal联合创始人彼得蒂尔等硅谷科技大亨创立研究方向可以分为三类训练生成模型算法即深度学习生成模型从数据中推断算法的算法即神经图灵机强化学习方法可以理解为深度增强学习表1OpenAI部分重点研究领域及成果表2OpenAI的特色产品研究领域模型成果重要技术发布时间用途语言ChatGPTInstructGPT年月日人工智能聊天机器人代码CodexChatGPT20221130GPT系列图像ImageGPTDALLEDALLE2深度学习生成模型文本到图像生成模型它基于扩散模型原理可音乐JukeboxMuseNetDALLE22022年4月6日以通过自然语言对现有图像进行逼真的编辑它CLIP可以添加和删除元素等Whisper自动语音识别ASR系统经过68万小时的多人工神经网络中的多模态神经元Whisper2022年9月21日语言和多任务监督数据训练支持多种语言的转神经图灵机录以及从这些语言翻译成英语无监督情绪神经元近端优化策略专注于训练人工智能系统使其变得有用真强化学习方法Alignment2022年8月24日进化策略实和安全与人类意图保持一致资料来源OpenAI德邦研究所资料来源OpenAI德邦研究所请务必阅读正文之后的信息披露及法律声明411OpenAI人工智能研究领域最前沿的公司之一2019年7月22日2023年1月23日公2015年12月微软投资OpenAI10亿美元双方将携手合作替Azure云微软将向OpenAI进行一项为期多年价值数十亿美元的投资OpenAI成立端平台服务开发人工智能技术以加速其在人工智能AI领域的技术突破司大事2018年2月20日2023年1月17日件马斯克辞去董事会席位微软计划将包括ChatGPTDALL-E等人工智能工具整合进微软旗下的所有产品中2016年4月27日2020年5月2022年4月6日重发布了其强化学习研究平台OpenAIOpenAI发布了GPT-3OpenAI发布了DALLE2点Gym的公测版微软于2020年9月22日取得GPT-3的授权可以视作是CLIPDALLE研发活2016年12月5日2021年1月5日2022年11月30日OpenAI发布了Universe用于测量和训练人工智能在全球OpenAI推出了DALL-E和CLIPOpenAI发布了ChatGPT动游戏网站等应用程序中的通用智能资料来源OpenAI等德邦研究所请务必阅读正文之后的信息披露及法律声明512ChatGPT月度用户已破亿正在逐步探索商业化途径ChatGPT是OpenAI在2022年11月30日发布的全新聊天机器人模型它能够通过学习和理解人类的语言来进行对话还能根据聊天的上下文进行互动真正像人类一样来聊天交流甚至能完成撰写邮件视频脚本文案翻译代码等任务ChatGPT月度用户已破亿正在逐步探索商业化途径根据UBS统计数据显示ChatGPT上线2个月后月度用户数量破1亿2023年2月1日OpenAI推出付费订阅项目ChatGPTPlus价格为20月目前面向美国用户2023年1月2022年11月30日根据UBS统计数据显示ChatGPT上线2个OpenAI发布了ChatGPT月后月度用户数量破1亿2023年1月17日2023年2月1日微软CEO纳德拉在世界经济论坛上表示微软正在迅速推进OpenAIOpenAI公司宣布新的订阅服务名为的工具商业化计划将包括ChatGPTDALL-E等人工智能工具整合ChatGPTPlus价格为20月进微软旗下的所有产品中并将其作为平台供其他企业使用资料来源OpenAI等德邦研究所请务必阅读正文之后的信息披露及法律声明613ChatGPT基于GPT35模型进化微调从人类反馈中学习OpenAI基于GPT模型使用监督学习和强化学习的组合来调优ChatGPT其中人类反馈强化学习RLHF使ChatGPT趋近人类价值观及意图ChatGPT的训练分为三步一是训练及微调GPT模型获得语言及代码的生成能力二是根据人类意图训练人为标记生成内容的排序训练出奖励模型RewardModel三是通过奖励模型为生成内容打分通过近端策略优化PPO来优化生成模型使其趋近人类的意图图1GPT-35的进化树图2ChatGPT技术逻辑资料来源符尧等拆解追溯GPT-35各项能力的起源德邦研究所资料来源符尧等拆解追溯GPT-35各项能力的起源德邦研究所请务必阅读正文之后的信息披露及法律声明7131第一步收集数据微调GPT35模型图3ChatGPT训练Step1预训练的GPT35在少量已标注的数据上进行调优以学习从给定的提示词prompt列表生成输出的有监督的策略模型选择选择了GPT-35系列中的预训练模型参考InstructGPT参数量最高达175B例如输入你好通过GPT后输出美GPT每一次的输出可能都是不同的因为在网络上的语句中你好后面有多种接法例如你好高你好吗而输出结果是遵循概率分布的高频组合出现的概率较高数据收集使用了两种不同的提示词来源一些是直接使用标注人员或研究人员准备的另一些是从OpenAI的API请求即从GPT-3用户那里获取的策略生成选择一个提示列表标注人员按要求写下预期的输出最终得到的结果是一个相对较小高质量的数据集可用于调优预训练的语言模型资料来源OpenAI德邦研究所请务必阅读正文之后的信息披露及法律声明8132第二步模拟人类偏好训练奖励模型图4ChatGPT训练Step2对大量的模型输出进行排序创建了一个由比较数据组成的新数据集在此数据集上训练新模型被称为训练奖励模型RewardModelRM输出排序标注者根据人类偏好将输出从最佳到最差排序结果是一个新的标签数据集奖励模型将有标签的数据集用于训练RM模型并将生成模型的输出按优先顺序对它们进行排序例如输入台湾最高的山是哪座输出可能有两个结果输出一是玉山输出二是谁来告诉我呀两个回答都可以与问题衔接但是人类的偏好是输出一因此RM给两个输出排序时输出一是高于输出二资料来源OpenAI德邦研究所请务必阅读正文之后的信息披露及法律声明9133第三步使用奖励模型基于PPO进行最优化图5ChatGPT训练Step3强化学习被应用于通过优化RM模型来调优模型所使用的特定算法称为近端策略优化PPOPPO强化学习中的一种方式通过学习策略以达成回报最大化或实现特定目标的问题PPO在实现的便利性样本复杂性和调优的便利性之间取得了平衡试图在每一步计算一个更新使代价函数最小化同时确保与前一个策略的偏差相对较小调整目标使用RM作为奖励函数通过PPO算法微调策略调整参数获得最大的奖励资料来源OpenAI德邦研究所请务必阅读正文之后的信息披露及法律声明1002核心优势SEPARATORPAGE1121优势一公司与微软合作提供上下游支持微软作为OpenAI的LP投资者为公司提供研发底层支撑及应用的大力支持资金支持2019年7月22日微软投资OpenAI10亿美元2023年1月23日微软宣布与OpenAI建立长期合作伙伴关系进入第三阶段通过一项为期多年数十亿美元的投资来加速AI的突破服务支持1大规模超级计算微软将增加对开发和部署专用超级计算系统的投资以加速OpenAI的研究继续构建Azure领先的AI基础结构2独家云提供商-Azure将为研究产品和API服务中的所有OpenAI工作提供支持应用支持1月17日微软表示计划将包括ChatGPTDALL-E等人工智能工具整合进微软旗下的所有产品中并将其作为平台供其他企业使用包括且不限于Bing搜索引擎MicrosoftOfficeAzure云服务Teams聊天程序等图6OpenAI组织架构图7OpenAI与微软的合作关系资料来源FourWeekMBA德邦研究所资料来源FourWeekMBA德邦研究所1222优势二管理层均为行业精英引领公司发展表3OpenAILP管理层均为精英姓名职位上任时间履历毕业于哈佛大学和麻省理工大学GregBrockman董事长联合创始人201903是OpenAI的创始人之一2011年开始担任YCombinator的兼职合伙人2014年2月被任命为YCombinator总裁SamAltmanCEO联合创始人2019032015年成为OpenAI联合创始人之一20193转任YCombinator董事长未来专注OpenAI的工作2012年毕业于多伦多大学获得计算机博士学位IlyaSutskever首席科学家联合创始人2019032013年加入谷歌2015年成为OpenAI联合创始人之一2008年毕业于杜克大学BradLightcapCOO202205先后就职于摩根大通DropBoxYCombinator等201808入职OpenAI担任CFO毕业于达特茅斯商学院MiraMuratiCTO202205先后就职于高盛特斯拉等20186加入OpenAI2005年毕业于斯坦福大学20163-20225OpenAICOOChrisClark非营利和战略计划主管20220520163-至今OpenResearch前身为YCombinatorResearchCOO资料来源OpenAI领英等德邦研究所1303应用场景SEPARATORPAGE1431ChatGPT以采取会员收费未来或拓展商业模式OpenAI的商业模式为会员收费开放API以及与微软的战略合作会员服务2023年2月1日OpenAI推出付费订阅项目ChatGPTPlus价格为20月目前面向美国用户付费服务包括在高峰时段也可常规访问ChatGPT更快的响应以及优先访问新功能和改进ChatGPT将继续提供免费访问API服务ChatGPT或将加入OpenAIAPI从下游用户的使用中收取费用目前OpenAI的API以Token对于NLP的文字进行收费例如莎士比亚作品集需要12M的Token与微软合作使用AzureOpenAI服务采用即用即付的消费模式以Token或托管时长进行收费图8OpenAI商业模式表4OpenAI的API收费Davinci是同系列中最强大的模型模型价格AdaBabbageCurieDavinci基础模型000041Ktokens000051Ktokens000201Ktokens002001KtokensAdaBabbageCurieDavinci微调模型训练000041Ktokens000061Ktokens000301Ktokens003001Ktokens使用000161Ktokens000241Ktokens001201Ktokens012001Ktokens参考最大请求text-ada-001text-babbage-001text-curie-001text-davinci-003GPT-32048tokens2048tokens2048tokens4000tokens预训练模型--code-cushman-001code-davinci-002Codex资料来源FourWeekMBA德邦研究所--最多2048tokens8000tokens资料来源OpenAI德邦研究所请务必阅读正文之后的信息披露及法律声明1532GPT系列API可为下游应用提供语言和代码处理ChatGPT尚未开放API因此参考已开放API的Text-davinci-003和Code-davinci-002来解读其功能ChatGPT与Text-davinci-003的能力相似均属于GPT35系列模型实现功能包括回答问题分类编写代码对话生成翻译和转换表5Text-davinci-003与Code-davinci-002的部分应用举例Text-davinci-003Code-davinci-002文本到命令创建电子表格和SQL语句转换生成自然语言转StripeAPI编写代码转换英语到其他语言语法更正翻译转换生成自然语言到OpenAIAPI编写代码转换电影到表情符号转换生成SQL翻译编写代码转换计算时间复杂度编写代码转换从Python到自然语言编写代码翻译分类包括高级推文情绪分类器分类从编程语言到指定编程语言编写代码翻译解析非结构化数据取关键词分段总结分类转换生成解释代码编写代码翻译事实回答回答分类对话生成Python错误修复器编写代码生成从程序语言生成摘要注释生成JavaScript助手聊天机器人回答问题编写代码对话生成比喻VR食谱餐厅评论恐怖故事生成翻译转换从JavaScript到Python编写代码翻译转换根据产品描述生成广告产品名称生成编写Python文档字符串编写代码生成讽刺聊天机器人对话生成JavaScript转单行代码编写代码翻译转换资料来源OpenAI德邦研究所请务必阅读正文之后的信息披露及法律声明1633ToBGPT系列已应用到办公应用智能客服等办公应用1AI辅助编程GitHubCopilot可辅助程序员编程通过Codex在代码编辑器中为整行或某个函数提供建议2市场调研工具Viable使用GPT-3从客户反馈中提供有用的见解可以从调查票证实时聊天日志评论等中识别和提取主题内容和情绪并在几秒钟内提供内容总结智能客服Algolia和ActiveChat使用了GPT-3来更好地理解客户的问题并将他们连接到回答他们问题的内容的特定部分图9GPT系列的CodeX应用于辅助编程图10GPT-3应用于客服团队资料来源OpenAI德邦研究所资料来源AchieveChatAI德邦研究所请务必阅读正文之后的信息披露及法律声明1733ToCGPT系列已应用到学习类于创作类生成学习类1论文检索GithubElicit是一个人工智能研究助手通过检索已发表的论文从大量研究论文中查找最相关的摘要并应用GPT-3的自定义功能来生成答案2语言学习Duolingo作为一个语言学习平台已经使用GPT-3进行法语语法更正Duolingo的一项内部研究表明使用此功能可以显著提高用户的第二语言写作技巧创作类1Blog创意生成BlogIdeaGenerator通过采用搜索关键字来分析该主题在Google里最受欢迎的内容基于获取的数据软件通过GPT-3生成内容来获得更高的阅读量2写作造句工具Composeai是一个免费的Chrome扩展程序可使用AI自动进行写作只需要输入关键字词和主要内容GPT-3可协助生成完整语句构成全文图11GPT-3应用于Duolingo图12GPT-3应用于博客创意生成资料来源OpenAI德邦研究所资料来源Usetopic德邦研究所请务必阅读正文之后的信息披露及法律声明1833ToCGPT系列还应用于娱乐及生活类APP娱乐类1AI驱动游戏AIDungeon是一款由AI驱动的基于文本的角色扮演游戏AI会自动生成故事玩家可以在其中输入对话人工智能将以新的事件和对话作出回应创造独特且不可预测的游戏体验2AI聊天伙伴WhatsApp上的AIBuddy是由GPT-35驱动的软件可以和用户进行对话就像发消息给朋友一样例如给我讲个笑话给我一个博客构思等生活类税务助手KeeperTax可帮助个人记录税务情况在关联到个人财务账号后KeeperTax用不同模型提取文本信息并分类交易类型图13GPT系列应用于AI驱动游戏图14GPT系列用于KeeperTax资料来源AIDungeon德邦研究所资料来源OpenAI德邦研究所请务必阅读正文之后的信息披露及法律声明19
 
Copyright © 2005 - 2021 Nxny.com All Rights Reserved 备案号:蜀ICP备15031742号-1