事件描述
　　2023年4月12日，Databricks发布了120亿参数的Dolly-2指令遵循模型，是业内第一个开源的类InstructGPT模型。Dolly-2建立在2023年4月3日EleutherAI公司推出的Pythia大模型基础上，并通过1.5万条人工标注prompt对其进行了微调。Databricks开源了Dolly-2指令遵循模型，允许其被用于商业目的。因此Dolly-2模型可用于构建商业应用程序，使用者无需支付API访问费用或与大模型开发公司共享数据。
　　事件评论
　　当前指令遵循模型的使用权受到了限制。训练大语言模型需要通过人工反馈强化学习（RLHF）来提升性能，而RLHF需要用到类InstructGPT模型来生成足够的调参数据。在当前阶段，所有的类InstructGPT指令遵循模型（Alpaca、Koala、GPT4All、Vicuna）都只能用于学术领域，禁止商业使用。所以，在人工反馈强化学习阶段，大模型厂商必须要训练出自己的InstructGPT。
　　Dolly-2打破了指令遵循模型不可用于商业限制。Databricks将Dolly-2开源，允许用户将Dolly-2作为类InstructGPT模型，构建商业应用程序，无需支付API访问费用或与第三方共享数据。这意味着Dolly-2打破了指令遵循模型的限制，用户通过Dolly-2完成RLHF调参步骤。
　　Databricks也开放了Dolly-2的调参数据。Dolly-2的1.5万条调参数据来源于Databricks公司约5000名员工的人工标注，调参数据完全来自原创。数据包含了从头脑风暴和内容生成到信息提取和总结等多种任务形式。许可条款允许出于任何目的使用、修改和扩展，包括学术或商业应用。
　　Dolly-2降低了模型调参的难度，有望加速自主小模型的构建。对于正在研发垂类小模型的行业应用公司而言，在开源预训练大模型的基础上，用公司自身的业务数据调参是一条较好的路径。但RLHF调参步骤中，训练指令遵循模型的难度较高，也无法通过接入现有指令遵循模型来完成调参。Dolly-2模型的发布降低了这一难度，有望降低行业应用公司训练垂类模型的门槛，有望加速自主小模型的构建。
　　风险提示
　　1、大模型技术推进不及预期；
　　2、大模型商业化落地的过程存在风险。