规划+记忆+工具，AIAgent三大组件优化大模型应用。随着大模型的应用落地千行百业，以大模型为核心的AIAgent（人工智能体）进入了加速发展期:1）OpenAI安全系统负责人Lilian Weng撰文讨论了以大模型作为核心控制器来建造AIAgent的概念，并梳理了当下AIAgent三大核心组件“规划、记忆、工具使用”的相关技术发展。AIAgent通过三个关键组件，提高了大模型在面对复杂任务时的处理能力。2）OpenAI的联合创始人安德烈·卡尔帕西提出，AIAgent的吸引力在于OpenAI和DeFi等机构尚未处在技术的前沿，市场里的其他玩家有着赶超的机会。虽然OpenAI在大模型上比别人快一步，但在AIAgent领域，当下研究都处在同一条起跑线上。
　　智能助理是一类面向服务、交互的AIAgent。智能助理与用户进行自然语言交互以协助完成各种任务，可以认为是AIAgent的一个子集。在应用领域上智能助理通常更侧重于日常任务和生活辅助，同时智能助理通常更注重与用户的交互，设计简单易用，主要以语音交互为主，而其他类型的AI代理可能更多地运行在后台与用户直接交互较少。我们认为在AI技术进步浪潮下，智能助理是最能展现大语言模型优势的超级应用之一。AIAgent的能力核心在GPT为代表的LLM，但LLM在更新新信息、处理多轮对话，和面对复杂任务时依然存在局限。AIAgent通过增加规划、记忆和工具使用三大能力克服了这些局限，极大扩展了大语言模型的应用范围，使其能够胜任更加复杂的任务，这为AIAgent扮演智能助理的角色提供了可能。ChatGPT插件的发布加速了智能助理工具生态的构建，目前ChatGPT的插件商城已有数百个插件。
　　智能助理解耦式的生态正在形成。智能助理生态的核心可解耦为终端载体的软硬件实现以及应用端本身的智能化，同时匹配云端的基础设施建设。大模型厂商、应用厂商和智能硬件厂商都需要在生态构建过程中持续迭代，不断相互匹配，以更好的满足用户需求。智能助理的终端需要软硬件一体实现。云端需要大模型的基础能力以及针对智能助理的微调，应用端需要与大模型打通走向智能化。智能硬件厂商通过实现软硬一体智能助理可获取更大价值。耳机、手机、音箱等智能硬件将是近期智能助理的核心终端载体。原本在智能硬件领域有所积累的厂商，积极将大模型技术结合居家和移动场景，一方面有提升销量的机会，一方面有通过软件服务获取更大价值的机会。作为智能助理载体的耳机、音箱相比单一音频设备，终端的价值量将有望提高、同时随着智能助理渗透到用户生活中，可以在产品中加入订阅服务或者广告投放，未来可能产生类似目前手机安卓和iOS生态的耳机、音箱智能助理生态，智能硬件厂商可以类似手机厂商一样向应用软件厂商收取渠道费用。
　　建议关注：
　　智能助理（耳机/手机/音箱）：漫步者、科大讯飞、传音控股、中科创达。
　　风险提示：AI技术迭代不及预期风险；经济下行超预期风险；行业竞争加剧风险

研究报告全文：证券研究报告行业周报2023年09月03日计算机AIAgent硅谷新风口规划记忆工具AIAgent三大组件优化大模型应用随着大模型的应增持维持用落地千行百业以大模型为核心的AIAgent人工智能体进入了加速发展期1OpenAI安全系统负责人LilianWeng撰文讨论了以大模型作为核心行业走势控制器来建造AIAgent的概念并梳理了当下AIAgent三大核心组件规划记忆工具使用的相关技术发展AIAgent通过三个关键组件提高计算机沪深30064了大模型在面对复杂任务时的处理能力2OpenAI的联合创始人安德烈卡48尔帕西提出AIAgent的吸引力在于OpenAI和DeFi等机构尚未处在技术32的前沿市场里的其他玩家有着赶超的机会虽然OpenAI在大模型上比别16人快一步但在AIAgent领域当下研究都处在同一条起跑线上0智能助理是一类面向服务交互的AIAgent智能助理与用户进行自然语-162022-092023-012023-052023-08言交互以协助完成各种任务可以认为是AIAgent的一个子集在应用领域上智能助理通常更侧重于日常任务和生活辅助同时智能助理通常更注重作者与用户的交互设计简单易用主要以语音交互为主而其他类型的AI代理可能更多地运行在后台与用户直接交互较少我们认为在AI技术进步浪分析师刘高畅潮下智能助理是最能展现大语言模型优势的超级应用之一AIAgent的能执业证书编号S0680518090001邮箱liugaochanggszqcom力核心在GPT为代表的LLM但LLM在更新新信息处理多轮对话和面相关研究对复杂任务时依然存在局限AIAgent通过增加规划记忆和工具使用三大能力克服了这些局限极大扩展了大语言模型的应用范围使其能够胜任更1计算机算力未来展望2023-08-27加复杂的任务这为AIAgent扮演智能助理的角色提供了可能ChatGPT2计算机资产入表正式落地数据要素产业化大插件的发布加速了智能助理工具生态的构建目前ChatGPT的插件商城已时代开启2023-08-213计算机世界机器人大会要点2023-08-20有数百个插件智能助理解耦式的生态正在形成智能助理生态的核心可解耦为终端载体的软硬件实现以及应用端本身的智能化同时匹配云端的基础设施建设大模型厂商应用厂商和智能硬件厂商都需要在生态构建过程中持续迭代不断相互匹配以更好的满足用户需求智能助理的终端需要软硬件一体实现云端需要大模型的基础能力以及针对智能助理的微调应用端需要与大模型打通走向智能化智能硬件厂商通过实现软硬一体智能助理可获取更大价值耳机手机音箱等智能硬件将是近期智能助理的核心终端载体原本在智能硬件领域有所积累的厂商积极将大模型技术结合居家和移动场景一方面有提升销量的机会一方面有通过软件服务获取更大价值的机会作为智能助理载体的耳机音箱相比单一音频设备终端的价值量将有望提高同时随着智能助理渗透到用户生活中可以在产品中加入订阅服务或者广告投放未来可能产生类似目前手机安卓和iOS生态的耳机音箱智能助理生态智能硬件厂商可以类似手机厂商一样向应用软件厂商收取渠道费用建议关注智能助理耳机手机音箱漫步者科大讯飞传音控股中科创达风险提示AI技术迭代不及预期风险经济下行超预期风险行业竞争加剧风险请仔细阅读本报告末页声明2023年09月03日内容目录一规划记忆工具AIAgent三大组件优化大模型应用3二智能助理是面向服务交互的AIAgent8三智能助理解耦式的生态正在形成9投资建议10风险提示10图表目录图表1基于大模型的AIAgent系统流程图3图表2使用ReAct的提示模版来帮助大模型推理4图表3Reflexion框架的流程图5图表4算法蒸馏AlgorithmDistillation在强化学习中的流程图5图表5人脑记忆的类型6图表6MIPS算法效率对比6图表7HuggingGPT的运行流程7图表8ChatGPT插件商城已有上百页插件9图表9智能助理生态9P2请仔细阅读本报告末页声明2023年09月03日一规划记忆工具AIAgent三大组件优化大模型应用随着大模型的应用落地千行百业以大模型为核心的AIAgent人工智能体进入了加速发展期当下较为成熟的例子包括基于GPT-4的Auto-GPTGPT-EngineerBabyAGI等等近日OpenAI的联合创始人特斯拉自动驾驶AI部门的前负责人安德烈卡尔帕西AndrejKarpathy分享了他对AIAgent的潜力和未来挑战的见解在他看来AIAgent的吸引力在于OpenAI和DeFi等机构尚未处在技术的前沿市场里的其他玩家有着赶超的机会虽然OpenAI在大模型上比别人快一步但在AIAgent领域当下研究都处在同一条起跑线上浙江大学一篇探讨人工智能体的论文中将AIAgent定义为一个运行于动态环境中的具有较高自治能力的实体即自治体可以是系统机器也可以是一个计算机软件程序等等其根本目标是接受另一个实体即主体可以是用户计算机程序系统或机器等的委托并为之提供帮助或服务能够在目标任务的驱动下主动采取包括学习通讯社交等各种手段感知适应其外在环境的动态变化并作出适当的反应简单来说AIAgent以大模型为核心驱动力在此基础上增加了规划Planning记忆Memory和工具使用ToolUse三个关键组件以提高大模型在面对复杂任务时的处理能力图表1基于大模型的AIAgent系统流程图资料来源githubioLLMPoweredAutonomousAgents国盛证券研究所近日OpenAI安全系统负责人LilianWeng撰文讨论了以大模型作为核心控制器来建造AIAgent的概念并梳理了当下AIAgent三大核心组件规划记忆工具使用的相关技术发展一规划通常情况下一项复杂的任务往往涉及许多步骤AIAgent需要首先拆解这些步骤并提前做好计划任务的分解的环节可以由三种方式完成1在大模型输入简单的提示比如XYZ的步骤或者实现XYZ的子目标是什么2使用特定任务的指令比如在需要写小说的时候要求大模型写一个故事大纲3通过人工提供信息当下普遍的技术模式包括思维链和思维树思维链ChainofThoughts已成为一种标准的提示技术用于提高模型在P3请仔细阅读本报告末页声明2023年09月03日复杂任务中的表现模型被要求一步一步地思考将艰巨的任务分解为更小更简单的步骤思维链将大任务转化为多个可管理的任务并帮助人们理解模型的思维过程思维树TreeofThoughts通过在任务的每一步探索多种推理可能性来扩展思维链它首先将问题分解为多个思考步骤并在每个步骤中生成多个想法从而创建一个树状结构搜索过程可以是BFS广度优先搜索或DFS深度优先搜索另一方面试错和纠错在现实世界的任务决策中是不可避免且至关重要的步骤自我反思帮助AIAgent完善过去的行动决策纠正以前的错误从而不断改进当下的技术包括ReActReflexion后见链ChainofHindsight等ReAct将任务中单独的行为和语言空间组合在一起从而使大模型的推理和行动融为一体该模式帮助大模型与环境互动例如使用维基百科搜索API并以自然语言留下推理的痕迹图表2使用ReAct的提示模版来帮助大模型推理资料来源githubioLLMPoweredAutonomousAgents国盛证券研究所Reflexion一个让AIAgent具备动态记忆和自我反思能力以提高推理能力的框架沿用了ReAct中的设置并提供简单的二进制奖励每次行动后AIAgent都会计算一个启发式函数并根据自我反思的结果决定是否重置环境以开始新的试验这个启发式的函数可以判断是否当下的路径效率低下耗时过长却没有成功或包含幻觉在环境中遇到一连串导致相同观察结果的相同行动并在出现这两种情况下终止函数P4请仔细阅读本报告末页声明2023年09月03日图表3Reflexion框架的流程图资料来源githubioLLMPoweredAutonomousAgents国盛证券研究所后见链ChainofHindsight通过向模型明确展示一系列过去的输出结果鼓励模型改进自身的输出结果使得下一次预测的行动比之前的试验取得更好的成绩算法蒸馏AlgorithmDistillation将同样的理念应用于强化学习任务中的跨集轨迹图表4算法蒸馏AlgorithmDistillation在强化学习中的流程图资料来源githubioLLMPoweredAutonomousAgents国盛证券研究所二记忆记忆本质上是获取存储保留和检索信息的过程人脑中的记忆可以分为感官记忆短期记忆长期记忆三类在大模型和AIAgent的语境下我们可以将这三类记忆和相关的环节一一对应感官记忆学习原始输入包括文本图像或其他模式的嵌入表征短时记忆上下文学习由于受到Transformer有限上下文窗口长度的限制它是短暂和有限的长期记忆外部矢量存储AIAgent可在查询时加以关注并可通过快速检索进行访问P5请仔细阅读本报告末页声明2023年09月03日图表5人脑记忆的类型记忆的最早阶段能够在原始刺激结束后保留对感官信息视觉听觉等的印象感官记忆通常感官记忆只能持续几秒钟其子类别包括图标记忆视觉回声记忆听觉和触觉记忆触觉短期记忆工存储我们当前意识到的信息以及执行学习和推理等复杂认知任务所需的信息短时记忆的容量大作记忆约为7个项目持续时间为20-30秒可以将信息存储很长时间从几天到几十年不等存储容量基本上是无限的包括两种子类型1显性陈述性记忆对事实和事件的记忆指那些可以有意识地回忆起的记忆包括外显记忆事长期记忆件和经历和语义记忆事实和概念2隐性程序性记忆这类记忆是无意识的涉及自动执行的技能和例行程序如骑车或在键盘上打字资料来源githubioLLMPoweredAutonomousAgents国盛证券研究所为了解决有限记忆时间的限制通常会用到外部存储器常见的做法是将信息的嵌入表示保存到可支持快速的最大内积搜索MIPS的向量存储数据库中常见的实现MIPS的几种ANN算法包括LSHLocality-SensitiveHashingANNOYApproximateNearestNeighborsOhYeahHNSWHierarchicalNavigableSmallWorldFAISSFacebookAISimilaritySearch等等图表6MIPS算法效率对比资料来源githubioLLMPoweredAutonomousAgents国盛证券研究所三工具的使用正如同人类创造修改和利用外部物体来完成超越身体和认知极限的事情大模型也可以通过配备外部工具来扩展模型的功能当下技术包括MRKLTALMToolformer等等MRKLModularReasoningKnowledgeandLanguage全称为模块化推理知识和语言MRKL是一种用于AIAgent的神经符号架构MRKL系统包含一系列的专家模块而通用大模型负责将用户的需求引导至最合适的专家模块这些模块可以是神经模块如深度学习模型也可以是符号模块如数学计算器货币转换器天气API等研究者曾使用算术和计算器作为测试案例对大模型进行了微调实验实验表明由于大模型无法可靠地为基本算术提取正确的参数因此解决口头数学问题比解决有着明确说明的数学问题更加困难P6请仔细阅读本报告末页声明2023年09月03日这也说明了只有当大模型了解何时以及如何使用外部符号工具的时候这些工具才可靠地发挥作用时TALM和Toolformer这两者都会对LM进行微调使其学会使用外部工具API数据集根据新添加的API调用注释是否能提高模型输出的质量进行扩展工具API可以由其他开发人员提供如插件也可以自行定义如函数调用ChatGPT的插件和OpenAIAPI的函数调用都是增强了工具使用能力的大模型在实践中发挥作用的良好范例当下使用工具的范例AIAgent之一为HuggingGPT这是一个利用LLM例如ChatGPT连接机器学习社区中的各种AI模型来解决任务的框架可根据模型描述选择HuggingFace平台中可用的模型并根据执行结果总结响应该系统包括任务规划模型选择任务执行生成响应四个模块图表7HuggingGPT的运行流程资料来源HuggingGPT论文国盛证券研究所P7请仔细阅读本报告末页声明2023年09月03日二智能助理是面向服务交互的AIAgent智能助理可以看作是一类面向服务交互的AIAgent智能助理利用大语言模型等人工智能技术来实现智能对话和协助服务用于与用户进行自然语言交互以协助完成各种任务可以认为是AIAgent的一个子集与一般的AIAgent不同智能助理的特别之处在于1应用领域上智能助理通常更侧重于日常任务和生活辅助如日程管理消费娱乐等主要面向终端用户而AI代理可在企业内部使用应用于更广泛的领域如数据分析自动交易工业自动化等2交互性上智能助理通常更注重与用户的交互需要要设计得相对简单易于使用主要以语音交互为主而其他类型的AI代理可能涉及更复杂的功能可能更多地运行在后台与用户的直接交互较少我们认为在这一轮大模型的AI技术进步浪潮下智能助理是最能展现大语言模型优势的的超级应用之一从原理上说AIAgent的核心能力来源于是类似ChatGPT的预训练大语言模型但仅仅依靠大语言模型还不够为了使AIAgent能够完成更复杂的任务还需要增加规划记忆和工具使用等关键能力GPT为代表的LLM已经展现出强大的语言理解生成能力但仍存在一些局限首先LLM的模型难以即使基于新信息进行调整其次LLM难以记住多轮对话的上下文信息最后LLM处理复杂任务也较为困难AIAgent通过增加规划记忆和工具使用三大能力克服了这些局限规划能力可以将复杂任务进行拆解使之成为语言模型也能处理的简单子任务记忆能力帮助语言模型记住关键信息而工具使用能力可以调用外部工具以弥补语言模型的能力缺口AIAgent通过这三大能力极大扩展了大语言模型的应用范围使其能够胜任更加复杂的任务它们与人类任务执行的方式也异曲同工都需要任务拆解信息存储和工具辅助这为AIAgent扮演智能助理的角色提供了可能ChatGPT插件的发布加速了智能助理工具生态的构建插件让ChatGPT能访问网络以及调度第三方服务让ChatGPT的能力从NLP拓展到可以获取实时信息并代替用户执行操作用户可以直接通过人类语言指挥ChatGPT帮自己与各种应用交互一定程度上ChatGPT已经可以当作是人类的智能助理目前ChatGPT的插件商城已有数百个插件具体功能已经包括了推荐餐厅制定网上购物出游办公检索语言教学等涵盖衣食住行各个方面P8请仔细阅读本报告末页声明2023年09月03日图表8ChatGPT插件商城已有上百页插件资料来源OpenAI官网国盛证券研究所三智能助理解耦式的生态正在形成智能助理生态的核心可解耦为终端载体的软硬件实现云端的智能实现以及应用端的生态建设和用户触达大模型厂商应用厂商和智能硬件厂商都需要在生态构建过程中持续迭代不断相互匹配以更好的满足用户需求图表9智能助理生态资料来源国盛证券研究所智能助理的终端需要软硬件一体实现目前受限于算力轻便的硬件终端难以运行较大的模型因此短期内智能助理背后的大模型还是会部署在云端但是终端也需要软硬件一体的实现承载智能助理的部分功能例如语音识别接入大模型的众多应用调度等P9请仔细阅读本报告末页声明2023年09月03日云端需要大模型的基础能力以及针对智能助理的微调智能助理依赖大模型的基础能力来理解用户需求和做出智能反馈同时智能助理的应用并非传统手机应用而是需要对大模型进行大量微调达到以下要求1简洁目前的通用大模型回答往往比较冗长在智能助理场景对用户的体验不好2合规比如在支付领域有较多规则限定智能助理应用需要针对性调试3准确通用大模型存在幻觉问题并且可能缺乏细分领域知识对于聊天写作等场景可以对准确度要求不那么高但是对于要辅助用户做不同工作的智能助理则需要根据场景预训练或强化学习等方式来提升准确性应用端需要与大模型打通走向智能化当前在各个领域都已经有众多应用可满足用户不同需求但是相对于直接用自然语言向智能助理下命令一般都需要更复杂的操作应用与大模型打通一方面可以通过开放API给大模型调用让大模型理解用户需求后调用现有功能另一方面应用本身的能力可以通过大模型来提升智能硬件厂商通过实现软硬一体智能助理可获取更大价值耳机手机音箱等智能硬件将是近期智能助理的核心终端载体原本在智能硬件领域有所积累的厂商积极将大模型技术结合居家和移动场景一方面有提升销量的机会一方面有通过软件服务获取更大价值的机会1随着AI发展智能音箱智能耳机成为软硬件一体的多功能设备结合智能家居智能座舱和移动携带场景有望成为各场景里的智能助理核心载体设备从非必需品转为必需品2除了需求量的提升软硬一体的智能助理也将有更高的附加值作为智能助理载体的耳机音箱相比单一音频设备终端的价值量将有望提高同时随着智能助理渗透到用户生活中可以在产品中加入订阅服务或者广告投放未来可能产生类似目前手机安卓和iOS生态的耳机音箱智能助理生态智能硬件厂商可以类似手机厂商一样向应用软件厂商收取渠道费用投资建议建议关注智能助理耳机手机音箱科大讯飞漫步者传音控股中科创达风险提示AI技术迭代不及预期风险若AI技术迭代不及预期则对产业链相关公司会造成一定不利影响经济下行超预期风险若宏观经济景气度下行固定资产投资额放缓影响企业再投资意愿从而影响消费者消费意愿和产业链生产意愿对整个行业将会造成不利影响行业竞争加剧风险若相关企业加快技术迭代和应用布局整体行业竞争程度加剧将会对目前行业内企业的增长产生威胁P10请仔细阅读本报告末页声明2023年09月03日免责声明国盛证券有限责任公司以下简称本公司具有中国证监会许可的证券投资咨询业务资格本报告仅供本公司的客户使用本公司不会因接收人收到本报告而视其为客户在任何情况下本公司不对任何人因使用本报告中的任何内容所引致的任何损失负任何责任本报告的信息均来源于本公司认为可信的公开资料但本公司及其研究人员对该等信息的准确性及完整性不作任何保证本报告中的资料意见及预测仅反映本公司于发布本报告当日的判断可能会随时调整在不同时期本公司可发出与本报告所载资料意见及推测不一致的报告本公司不保证本报告所含信息及资料保持在最新状态对本报告所含信息可在不发出通知的情形下做出修改投资者应当自行关注相应的更新或修改本公司力求报告内容客观公正但本报告所载的资料工具意见信息及推测只提供给客户作参考之用不构成任何投资法律会计或税务的最终操作建议本公司不就报告中的内容对最终操作建议做出任何担保本报告中所指的投资及服务可能不适合个别客户不构成客户私人咨询建议投资者应当充分考虑自身特定状况并完整理解和使用本报告内容不应视本报告为做出投资决策的唯一因素投资者应注意在法律许可的情况下本公司及其本公司的关联机构可能会持有本报告中涉及的公司所发行的证券并进行交易也可能为这些公司正在提供或争取提供投资银行财务顾问和金融产品等各种金融服务本报告版权归国盛证券有限责任公司所有未经事先本公司书面授权任何机构或个人不得对本报告进行任何形式的发布复制任何机构或个人如引用刊发本报告需注明出处为国盛证券研究所且不得对本报告进行有悖原意的删节或修改分析师声明本报告署名分析师在此声明我们具有中国证券业协会授予的证券投资咨询执业资格或相当的专业胜任能力本报告所表述的任何观点均精准地反映了我们对标的证券和发行人的个人看法结论不受任何第三方的授意或影响我们所得报酬的任何部分无论是在过去现在及将来均不会与本报告中的具体投资建议或观点有直接或间接联系投资评级说明投资建议的评级标准评级说明评级标准为报告发布日后的6个月内公司股价或行业买入相对同期基准指数涨幅在15以上指数相对同期基准指数的相对市场表现其中A股市增持相对同期基准指数涨幅在515之间股票评级场以沪深300指数为基准新三板市场以三板成指针持有相对同期基准指数涨幅在-55之间对协议转让标的或三板做市指数针对做市转让标的减持相对同期基准指数跌幅在5以上为基准香港市场以摩根士丹利中国指数为基准美股增持相对同期基准指数涨幅在10以上市场以标普500指数或纳斯达克综合指数为基准中性相对同期基准指数涨幅在-1010之行业评级间减持相对同期基准指数跌幅在10以上国盛证券研究所北京上海地址北京市东城区永定门西滨河路8号院7楼中海地产地址上海市浦明路868号保利One561号楼10层广场东塔7层邮编200120邮编100077电话021-38124100邮箱gsresearchgszqcom邮箱gsresearchgszqcom南昌深圳地址南昌市红谷滩新区凤凰中大道1115号北京银行大厦地址深圳市福田区福华三路100号鼎和大厦24楼邮编330038邮编518033传真0791-86281485邮箱gsresearchgszqcom邮箱gsresearchgszqcomP11请仔细阅读本报告末页声明