>> 华泰证券-科技行业动态点评:LLM+知识图谱结合或持续深入-230704
| 上传日期: |
2023/7/4 |
大小: |
395KB |
| 格式: |
pdf 共5页 |
来源: |
华泰证券 |
| 评级: |
增持 |
作者: |
谢春生 |
| 下载权限: |
此报告为加密报告 |
|
|
知识图谱与LLM结合或持续推进 知识图谱是一种以图结构的方式存储、管理和查询知识的方法,它通过对海量非结构化的信息进行形式化建模,构建一个相互关联、层次分明、可理解的知识网络。知识图谱由“节点”和“边”组成,每个节点表示一个“实体”,每条边为实体与实体之间的“关系”。知识图谱本质上是语义网络,把所有不同种类的信息连接在一起而得到一个关系网络,知识图谱产品主要涵盖智能搜索、智能问答、辅助大数据分析、协同合作与API等功能,与LLM有丰富的结合场景;LLM对于非结构化信息的理解能力有助于进一步拓展知识图谱的应用场景。 知识图谱可为LLM提供客观事实支持 LLM可以利用知识图谱进行知识增强,提供精准的结构化的知识,从而提高知识的准确性和丰富度,增强模型对领域知识的理解和应用能力,有望改善LLM缺乏事实知识、幻觉和解释性等问题,从而改善模型的推理效果和生成质量,并提供对知识的精准操作和分析能力。如,Golden产品覆盖多领域的最新事实数据,为用户提供截至2023年4月的当前事实数据,使用ChatGPT的Golden插件可以以对话方式查询Golden知识图谱内的事实、实体和主题,为ChatGPT提供实时的事实数据支持,提升ChatGPT的准确性与可靠性。 LLM通过自然语言能力赋能知识图谱 LLM或通过泛化能力、非结构知识理解能力为知识图谱赋能。1)真实世界知识图谱往往是不完备,而且还在不断地动态变化,使得知识图谱不完整;2)当前知识图谱构建方法无法有效建模未见过的实体以及表征新知识;3)知识图谱中丰富的文本信息往往会被忽视。LLM在泛化能力,非结构化信息理解方面具有较强的能力,可用于增强知识图谱,使其能考虑文本信息,从而提升在下游任务上的表现,如用LLM增强知识图谱补全、利用LLM来填补自然语言问题与结构化知识图谱之间的空白。 知识图谱+LLM的协同有望进一步深入 LLM通过参数化的方式存储知识,但在可解释性上存在一定的不足,可利用知识图谱增强LLM可解释性。现有的LLM主要依靠在大规模语料库上执行无监督训练,缺少与现实世界相关的实际知识,知识图谱可以增强LLM的预训练。另外,知识图谱与LLM的协同作用还体现在:用知识图谱检测LLM的幻觉、将知识图谱用于编辑LLM中的知识、将多模态LLM用于知识图谱、将LLM用于理解知识图谱的结构、将LLM和知识图谱协同用于双向推理等环节。我们认为LLM与知识图谱的协同有望持续推进。 风险提示:宏观经济波动;AI应用落地不及预期;本报告基于公开客观信息整理,不代表提及公司的覆盖与推荐。
|
|