>> 中信建投-金融工程研究:如何部署本地版“ChatGPT”提高研究效率-230417
| 上传日期: |
2023/4/17 |
大小: |
616KB |
| 格式: |
pdf 共20页 |
来源: |
中信建投 |
| 评级: |
-- |
作者: |
丁鲁明,王超 |
| 下载权限: |
此报告为加密报告 |
|
|
核心观点 正基于网页交互模式的ChatGPT对于人类的生活以及工作方式带来的极大的便利,然而这只是ChatGPT的冰山一角。API以及插件系统的开放,使得ChatGPT能够结合各种程序以及软件,让ChatGPT的应用空间充满无尽的可能性,这是真正意义上AI的iphone时刻。 对于金融工程研究而言,除了日常的网页版交互完成一定的指令之外,通过API接口能够使研究工作效率极大提高。同时,随着各类技术的应用,本地化部署开源大语言模型框架也得以实现。 本文将介绍如何使用OPENAI的API接口以及如何本地部署开源大预言模型Vicuna,能够在程序中调用各类模型,提高研究工作效率 主要结论 简介 基于网页交互模式的ChatGPT对于人类的生活以及工作方式带来的极大的便利,然而这只是ChatGPT的冰山一角。API以及插件系统的开放,使得ChatGPT能够结合各种程序以及软件,让ChatGPT的应用空间充满无尽的可能性,这是真正意义上AI的iphone时刻。 对于金融工程研究而言,除了日常的网页版交互完成一定的指令之外,通过API接口能够使研究工作效率极大提高。同时,随着各类技术的应用,本地化部署开源大语言模型框架也得以实现。 官方API接口 OPENAI官方开放了API接口,可以使用HTTP请求,也可以使用OPENAI提供的python库,Node.js库以及一些社区维护的库。我们以python库为例,介绍如何使用OPENAI的API接口。 本地部署VICUNA 本文以Vicuna模型为例,介绍如何在个人电脑上部署模型。Vicuna模型是基于LLaMA的微调模型,是由加州大学伯克利分校、CMU、斯坦福大学和加州大学圣地亚哥分校的成员共同提出的。他们从shareGPT收集了大约7万个对话,借鉴Alpaca的微调方式,将LLaMA模型进行微调。最终实现了chatGPT大约90%的质量,但是训练成本仅300美元左右 风险分析 所有结果均来自模型输出,模型训练的材料来自公开资料,模型输出的结果可能存在以下风险:误导性回答,数据隐私问题,缺乏道德标准,算法偏见等,使用模型结果时请仔细检查。模型的部署需要一定的环境配置,不保证在所有环境模型均能成功部署。模型运行对硬件条件有一定的要求,不保证在模型在所有硬件条件下均能部署。模型部署均有相应的版权要求,请务必参考相应模型的版权要求,合理使用开源模型。模型接口为付费使用,费用标准请参考公司官网,请合理使用接口。
|
|