投资要点
　　近日OpenAI发布了诞生于GPT-3基础上的聊天机器人ChatGPT，短短几天引爆网络，用户数突破100万。ChatGPT根据强化学习的奖励模型调整迭代为用户生成建议，应用场景丰富，可以参加考试、写诗、修bug，“智商”很高。当前人形机器人优先“四肢发达”，未来“头脑发达”为其终极追求。人机交互领域智能体虽依然存在无法完全根据现实生活进行自主推演，具有道德约束风险等缺陷，但其在语义交互上的进步显著。随着人机交互技术在语音、语义、肢体等交互能力的成熟，人形机器人灵活适用于更广阔的To C场景指日可待。
　　ChatGPT根据强化学习奖励模型与用户进行语义交互，应用场景丰富
　　OpenAI发布了诞生于GPT-3基础上的聊天机器人ChatGPT，具备用户友好的对话交互界面，根据指令提供详细响应。首先，由人类标记员对于用户提交的prompt来编写答案，把这些答案的数据集收集起来，通过监督学习对GPT进行微调。然后，由人类标记员对于模型产出的答案进行排序，以此收集比较数据用于训练强化学习的奖励模型，以捕捉人类偏好。最后，采用PPO（近端策略优化）算法对模型进行微调迭代，帮助AI优化回复内容。ChatGPT应用场景丰富，可以参加考试、写诗、修bug，“智商”很高。但同时，ChatGPT也存在局限性。有时会生成包含虚假和明显错误的回复；虽具合法和道德约束设置，但仍有破解方法。
　　人机交互模块的突破增强人形机器人To C商业化应用确定性
　　人机交互系统为人形机器人的“大脑”。人形机器人主要包含三大核心技术模块：环境感知模块、运动控制模块和人机交互模块。三大核心模块技术进展差异显著，人机交互仍存挑战。语音语义分析作为人机交互核心途径，帮助机器人具备听、说、理解和思考的能力。当前人形机器人积极发展运动性能，通过“指令-执行”工作模式解决劳动力短缺问题，但人机交互的挑战限制其商业应用场景。当前人机交互领域捷报频传，AI越来越能够适应不确定性的真实世界并理解演绎角色。人机交互领域智能体虽然存在无法完全根据现实生活进行自主推演，具有道德约束风险等缺陷，但其在语义交互上的进步显著。随着人机交互技术在语音、语义、肢体等交互能力的成熟，人形机器人灵活适用于更广阔的To C场景指日可待。
　　GPT模型历经四代发展，模型简化满足细分任务应用
　　GPT模型自发布以来历经四代，其中GPT3模型参数量达到1750亿，奠定了AI进入大模型时代。ChatGPT仅有约13亿参数，但细分任务领域表现依旧出色，我们认为基于大模型提炼小模型实现各类任务模块有望成为AI商业化的有效路径，能够有效解决AI模型训练成本过高的问题。
　　相关投资标的
　　1）AI模型：浪潮信息（“源1.0”AI大模型）
　　2）大数据存储：星环科技（分布式数据库）
　　3）AI自然语言处理厂商：拓尔思（语义智能）、科大讯飞（智能语音交互）
　　风险提示
　　AI技术迭代不达预期；人机交互技术迁移不达预期；人形机器人商业化进程不达预期。
　　

研究报告全文：证券研究报告行业点评计算机计算机报告日期2022年12月15日ChatGPT振奋人形机器人应用端锦绣前程人形机器人行业点评报告投资要点行业评级看好维持近日OpenAI发布了诞生于GPT-3基础上的聊天机器人ChatGPT短短几天引分析师程兵爆网络用户数突破100万ChatGPT根据强化学习的奖励模型调整迭代为用执业证书号S1230522020002户生成建议应用场景丰富可以参加考试写诗修bug智商很高当前chengbing01stockecomcn人形机器人优先四肢发达未来头脑发达为其终极追求人机交互领域研究助理田子砚智能体虽依然存在无法完全根据现实生活进行自主推演具有道德约束风险等tianziyanstockecomcn缺陷但其在语义交互上的进步显著随着人机交互技术在语音语义肢体相关报告等交互能力的成熟人形机器人灵活适用于更广阔的ToC场景指日可待1围绕大国崛起国家安ChatGPT根据强化学习奖励模型与用户进行语义交互应用场景丰富全主线聚焦优势产业创新投OpenAI发布了诞生于GPT-3基础上的聊天机器人ChatGPT具备用户友好的对话交互界面根据指令提供详细响应首先由人类标记员对于用户提交的资机会TMT产业2023年prompt来编写答案把这些答案的数据集收集起来通过监督学习对GPT进行投资方向与策略20221209微调然后由人类标记员对于模型产出的答案进行排序以此收集比较数据用2从大国崛起看软件替代于训练强化学习的奖励模型以捕捉人类偏好最后采用PPO近端策略优行业深度报告20221205化算法对模型进行微调迭代帮助AI优化回复内容ChatGPT应用场景丰3解读关于数字经济发展情富可以参加考试写诗修bug智商很高但同时ChatGPT也存在局限性有时会生成包含虚假和明显错误的回复虽具合法和道德约束设置但仍有况的报告行业点评报告破解方法20221117人机交互模块的突破增强人形机器人ToC商业化应用确定性人机交互系统为人形机器人的大脑人形机器人主要包含三大核心技术模块环境感知模块运动控制模块和人机交互模块三大核心模块技术进展差异显著人机交互仍存挑战语音语义分析作为人机交互核心途径帮助机器人具备听说理解和思考的能力当前人形机器人积极发展运动性能通过指令-执行工作模式解决劳动力短缺问题但人机交互的挑战限制其商业应用场景当前人机交互领域捷报频传AI越来越能够适应不确定性的真实世界并理解演绎角色人机交互领域智能体虽然存在无法完全根据现实生活进行自主推演具有道德约束风险等缺陷但其在语义交互上的进步显著随着人机交互技术在语音语义肢体等交互能力的成熟人形机器人灵活适用于更广阔的ToC场景指日可待GPT模型历经四代发展模型简化满足细分任务应用GPT模型自发布以来历经四代其中GPT3模型参数量达到1750亿奠定了AI进入大模型时代ChatGPT仅有约13亿参数但细分任务领域表现依旧出色我们认为基于大模型提炼小模型实现各类任务模块有望成为AI商业化的有效路径能够有效解决AI模型训练成本过高的问题相关投资标的1AI模型浪潮信息源10AI大模型2大数据存储星环科技分布式数据库3AI自然语言处理厂商拓尔思语义智能科大讯飞智能语音交互风险提示AI技术迭代不达预期人机交互技术迁移不达预期人形机器人商业化进程不达预期httpwwwstockecomcn111请务必阅读正文之后的免责条款部分行业点评正文目录1ChatGPT有智商有道德的语言文字交互技术跃升42人机交互模块的突破增强人形机器人ToC商业化应用确定性63GPT模型历经四代发展模型简化满足细分任务应用84相关投资标的105风险提示10httpwwwstockecomcn211请务必阅读正文之后的免责条款部分行业点评图表目录图1ChatGPT根据强化学习的奖励模型调整迭代为用户生成建议4图2网友让ChatGPT参加SAT考试5图3人形机器人三大核心模块6图4人形机器人语音语义分析示意图6图5Distilled-BERT模型框架9表1GPTGPT-2GPT-3模型对比8httpwwwstockecomcn311请务必阅读正文之后的免责条款部分行业点评1ChatGPT有智商有道德的语言文字交互技术跃升近日OpenAI发布了诞生于GPT-3基础上的聊天机器人ChatGPT短短几天引爆网络用户数突破100万OpenAI为AI研发公司于2015年由硅谷投资者阿尔特曼和特斯拉创办人马斯克共同创立2018年马斯克离开了OpenAI2019年微软对OpenAI注资了10亿美元用于研发ChatGPT具备用户友好的对话交互界面是InstructGPT的兄弟模型根据指令提供详细响应与InstructGPT一样ChatGPT亦使用了RLHFReinforcementLearningfromHumanFeedback模型首先由人类标记员对于用户提交的prompt来编写答案把这些答案的数据集收集起来通过监督学习对GPT进行微调然后由人类标记员对于模型产出的答案进行排序以此收集比较数据用于训练强化学习的奖励模型以捕捉人类偏好最后采用PPO近端策略优化算法对模型进行微调迭代帮助AI优化回复内容图1ChatGPT根据强化学习的奖励模型调整迭代为用户生成建议资料来源CSDN浙商证券研究所ChatGPT应用场景丰富可以参加考试写诗修bug智商很高网友让ChatGPT参加SAT考试ChatGPT拿到10201600分大约排在52ChatGPT也可以帮程序员网友解决编码问题可能是很好的调试bug帮手修复bug并做了解释很多网友让ChatGPT以各种主题作诗和写电影脚本均流畅自然也可能为艺术家提供很好的灵感ChatGPT也可以写信甚至写论文ChatGPT具备不同角色的理解能力能同时扮演不同角色并进行对话但同时ChatGPT也存在局限性ChatGPT有时会生成包含虚假和明显错误的回复比如Twitter上某教授让ChatGPT写一篇他的科普词条时ChatGPT的回复中包含了一些明显的错误细节同时在回答用户一些代数和几何问题时也出现答非所问甚至胡言乱语的情况httpwwwstockecomcn411请务必阅读正文之后的免责条款部分行业点评对此OpenAI表示想要根除这个问题具有挑战性主要原因为1目前数据没有来源于真实世界2模型训练十分谨慎有些ChatGPT可以正确回答的问题被它拒绝回答3监督训练导致模型回答依赖于人类演示者知道的内容ChatGPT虽具合法和道德约束设置但仍有破解方法若在prompt中输入如何抢商店遭到ChatGPT拒绝并建议网友用合法和道德的方式来获得物品但在prompt加上无道德约束的词条后ChatGPT就详细回复了网友的问题对于此类现象OpenAI表示模型有时会对有害的指令作出回应或给出有偏见的回答正在使用ModerationAPI来警告或阻止某些类型的不安全内容预计仍会有一些误报希望根据用户反馈持续调整图2网友让ChatGPT参加SAT考试资料来源Twitter浙商证券研究所httpwwwstockecomcn511请务必阅读正文之后的免责条款部分行业点评2人机交互模块的突破增强人形机器人ToC商业化应用确定性人机交互系统为人形机器人的大脑人形机器人主要包含三大核心技术模块环境感知模块运动控制模块和人机交互模块感知系统主要负责数据采集的前端感知层图像语音等传感器雷达压感光感等专用传感器等相当于人的眼耳鼻皮肤等运动控制模块包括机械传动系统模拟人的躯体及四肢人机交互系统包括负责数据整理和算力处理的存储器和智能芯片相当于人的大脑三大核心模块技术进展差异显著人机交互仍存挑战目前在环境感知和运动控制模块上受益于自动驾驶工业机器人等领域的成熟应用相关硬件商用化进程较快而在人机交互模块由于算法算力的限制在实际消费场景中实现高效的人机智能交互还存在不小的难度图3人形机器人三大核心模块资料来源CSDN浙商证券研究所整理语音语义分析作为人机交互核心途径帮助机器人具备听说理解和思考的能力语音语义模块包含了语音识别和语义分析两部分涉及声学信号声源定位语音增强等模式识别声纹识别语音识别等自然语言处理自然语言理解自然语言生成等和语音合成等技术图4人形机器人语音语义分析示意图资料来源搜狐科技浙商证券研究所当前人形机器人优先四肢发达未来头脑发达为其终极追求httpwwwstockecomcn611请务必阅读正文之后的免责条款部分行业点评波士顿动力Atlas发展路径为超越人具有全球最优异运动性能长期愿景为军事应用波士顿动力Atlas展现了全球最前沿的人形机器人科研进度可以跑酷后空翻跳舞使用工具其研发目标是超越人Atlas机器人以复杂的AI算法多模态视觉感知和高性能电液驱动系统实现优异运动性能特斯拉Optimus发展路径为替代人ToB端特斯拉超级工厂或优先成为擎天柱应用场景目前推测特斯拉机器人的初步定位于取代部分应用场景下的劳动力基于指令-执行的工作模式避开了现实世界人机交互这一技术难点能够快速部署到toB领域但toC领域仍然是最广阔的应用场景也是最终目标当前人形机器人积极发展运动性能预期通过指令-执行工作模式解决劳动力短缺问题但人机交互的挑战限制其商业应用场景未来人形机器人可以应用于发电厂的检查维护和灾难应对等危险任务处理也可以在太空旅行中接管宇航员的日常任务可以为老人和病人提供陪伴充当向导以接待员的角色与客户互动等在众多应用场景中人形机器人的智能化即其人机交互能力至关重要人机交互领域捷报频传AI越来越能够适应不确定性的真实世界并理解演绎角色符合现实世界不确定性的通用AI博弈智能体DeepNash出自DeepMind的AI智能体DeepNash基于博弈论和无模型深度强化学习技术在Stratego西洋陆军棋领域花式战胜专业级人类玩家Gravon上排名前3与以往的棋牌游戏相比该游戏需要在信息不全的情况下人性化地虚张声势和做决定甚至有隐藏信息吓唬对手等策略只需一句大纲就可工作的语义交互AI编剧Dramatron网友只需要输入一句话故事梗概Dramatron就可以给出较有文采的标题确定故事主角设置故事场景打磨场景细节生成人物间对话通过分层故事生成的方法来完成脚本和剧本2022年8月在埃德蒙顿举办的国际前沿戏剧节上大部分专家和专业编辑通过两小时的用户会议以后对Dramatron作出了积极评价从人类的反馈中强化学习和用户闲聊SparrowDeepMind在大型语言模型论文中提出Sparrow麻雀模型发表训练对话智能体的新方法基于研究参与者输入的强化学习从人类的反馈中学习使得答复不安全和不适当答案的风险降低当前人机交互领域智能体虽依然存在无法完全根据现实生活进行自主推演具有道德约束风险等缺陷但其在语义交互上的进步显著随着人机交互技术在语音语义肢体等交互能力的成熟人形机器人灵活适用于更广阔的ToC场景指日可待httpwwwstockecomcn711请务必阅读正文之后的免责条款部分行业点评3GPT模型历经四代发展模型简化满足细分任务应用OpenAI发布GPT模型将NLP带入预训练时代GPTGenerativePre-TrainingGPT模型利用更大规模的文本数据以及更深层的神经网络模型学习更丰富的文本语义表示打破了自然语言处理各个任务之间的壁垒使得搭建一个面向特定任务的自然语言模型不再需要非常多的任务背景只需要根据任务的输入和输出形式应用预训练模型便可达到满意效果NLP模型的搭建只需要无监督预训练有监督的精调两阶段1生成式预训练在大规模文本数据上训练一个高容量的语言模型以学习更丰富的上下文信息2判别式任务精调将预训练好的模型适配到下游任务中并使用有标注数据学习判别式任务从GPT到GPT-2和GPT-3参数提升和训练数据积累提升模型工作性能到了GPT-2阶段OpenAI将自然语言模型定义为要完成零样本无监督多任务学习的目标即预训练好的模型可以直接用于下游任务GPT-2模型在学习更广泛的数据信息增加了模型的维度参数后不需要针对特定的任务修改模型将任务也作为提示词和文本一起输入预训练好的模型承接GPT-2的核心思想到了GPT-3模型参数量达到了1750亿在不进行微调的情况下可以在多个NLP基准上达到最先进的性能GPT模型的演进为国内外AI大厂提供了重要的借鉴意义即通过优质训练数据输入和模型复杂度的增加来提升模型性能而未来AI以少样本乃至无样本学习为核心目标表1GPTGPT-2GPT-3模型对比GPT-1GPT-2GPT-3BooksCorpus7000本未发表的WebText清洗过的Reddit数据5种语料库CommonCrawl训练数据集书籍40GB文本数据WebText2Books1Books2Wikipedia模型框架Transformerdecoder每层由maskedselfattentionfeedforwardlayer组成12层768维48层1600维96层12888维模型参数117亿参数15亿参数1750亿参数在问答阅读理解文本总结等参数增多实现原有任务在少样本学习甚至零样本学习模型表现任务上表现出色的表现进一步优化任务上取得出色表现无监督的语言模型引入任务条件函数可根据输入和任务预测输出目标函数有监督的精调分类模型实现少样本到零样本学习资料来源微软亚洲研究院浙商证券研究所NLP商业化进程兼具机遇与挑战场景理解和成本要求决定了未来NLP发展的两大趋势目前以GPT-3和BERT为代表的NLP预训练模型算力成本极高微软为训练GPT-3投资5亿美元建设了超算中心单次模型训练消耗355GPU年的算力算力和经济成本极高很难满足细分场景商业化应用的要求我们预计未来NLP技术的发展有两大趋势1预训练模型的简化和计算速度的提升控制成本以满足商业化的需求2与细分业务场景结合更加紧密对细分场景下的优质训练数据量需求提出了更高要求基于知识蒸馏思想改进BERT预训练模型实现模型的简化和速度的提升DistilledBERT模型直接将BERT的部分参数作为初始化模型参数只有BERT的约40但速度快提升60同时保留了97的语言理解能力我们认为在NLP通往商业化应用的道路httpwwwstockecomcn811请务必阅读正文之后的免责条款部分行业点评上早期专注于增加数据量计算能力或者训练过程的优化方式可能不再适用未来各大厂商需要在计算与预测性能之间做出权衡探索如何利用更少的数据与计算资源帮助模型实现性能提升图5Distilled-BERT模型框架资料来源CSDN浙商证券研究所整理ChatGPT实现模型的大幅瘦身通过人类演示指导模型分析根据OpenAI官网数据显示ChatGPT模型有13亿个参数相较于GPT3的1750亿参数大幅精简但回答准确率道德表现却好于GPT-3根据彭博社报道OpenAI正在开发一个名为WebGPT的AI系统WebGPT将能够更准确地回答问题甚至还能说明引用的来源我们认为未来GPT将在大模型的基础上推出更多面向细分任务的小模型并基于实际场景的数据训练和专家指导打开语义智能商业化应用的空间httpwwwstockecomcn911请务必阅读正文之后的免责条款部分行业点评4相关投资标的1AI模型浪潮信息源10AI大模型2大数据存储星环科技分布式数据库3AI自然语言处理厂商拓尔思语义智能科大讯飞智能语音交互5风险提示AI技术迭代不达预期人机交互技术迁移不达预期人形机器人商业化进程不达预期httpwwwstockecomcn1011请务必阅读正文之后的免责条款部分行业点评股票投资评级说明以报告日后的6个月内证券相对于沪深300指数的涨跌幅为标准定义如下1买入相对于沪深300指数表现20以上2增持相对于沪深300指数表现10203中性相对于沪深300指数表现1010之间波动4减持相对于沪深300指数表现10以下行业的投资评级以报告日后的6个月内行业指数相对于沪深300指数的涨跌幅为标准定义如下1看好行业指数相对于沪深300指数表现10以上2中性行业指数相对于沪深300指数表现1010以上3看淡行业指数相对于沪深300指数表现10以下我们在此提醒您不同证券研究机构采用不同的评级术语及评级标准我们采用的是相对评级体系表示投资的相对比重建议投资者买入或者卖出证券的决定取决于个人的实际情况比如当前的持仓结构以及其他需要考虑的因素投资者不应仅仅依靠投资评级来推断结论法律声明及风险提示本报告由浙商证券股份有限公司已具备中国证监会批复的证券投资咨询业务资格经营许可证编号为Z39833000制作本报告中的信息均来源于我们认为可靠的已公开资料但浙商证券股份有限公司及其关联机构以下统称本公司对这些信息的真实性准确性及完整性不作任何保证也不保证所包含的信息和建议不发生任何变更本公司没有将变更的信息和建议向报告所有接收者进行更新的义务本报告仅供本公司的客户作参考之用本公司不会因接收人收到本报告而视其为本公司的当然客户本报告仅反映报告作者的出具日的观点和判断在任何情况下本报告中的信息或所表述的意见均不构成对任何人的投资建议投资者应当对本报告中的信息和意见进行独立评估并应同时考量各自的投资目的财务状况和特定需求对依据或者使用本报告所造成的一切后果本公司及或其关联人员均不承担任何法律责任本公司的交易人员以及其他专业人士可能会依据不同假设和标准采用不同的分析方法而口头或书面发表与本报告意见及建议不一致的市场评论和或交易观点本公司没有将此意见及建议向报告所有接收者进行更新的义务本公司的资产管理公司自营部门以及其他投资业务部门可能独立做出与本报告中的意见或建议不一致的投资决策本报告版权均归本公司所有未经本公司事先书面授权任何机构或个人不得以任何形式复制发布传播本报告的全部或部分内容经授权刊载转发本报告或者摘要的应当注明本报告发布人和发布日期并提示使用本报告的风险未经授权或未按要求刊载转发本报告的应当承担相应的法律责任本公司将保留向其追究法律责任的权利浙商证券研究所上海总部地址杨高南路729号陆家嘴世纪金融广场1号楼25层北京地址北京市东城区朝阳门北大街8号富华大厦E座4层深圳地址广东省深圳市福田区广电金融中心33层上海总部邮政编码200127上海总部电话862180108518上海总部传真862180106010浙商证券研究所httpswwwstockecomcnhttpwwwstockecomcn1111请务必阅读正文之后的免责条款部分