>> 中信建投-微软(MSFT.US)Open AI管理层变更后AI安全优先级提升,与微软合作长期不确定性提升-231118
| 上传日期: |
2023/11/19 |
大小: |
1218KB |
| 格式: |
pdf 共8页 |
来源: |
中信建投 |
| 评级: |
-- |
作者: |
崔世峰,于伯韬,许悦 |
| 下载权限: |
此报告为加密报告 |
|
|
核心观点 OpenAI管理层变更可能意味着中长期战略的优先事项调整。短期看,微软与OpenAI合作仍然稳定,考虑Google Gemini大模型延迟发布,微软/OpenAI的竞争压力有所缓和。中长期看,从过往Ilya Sutskever的访谈来看,Ilya目前的工作重点从构建下一代GPT/DALL·E模型转向防止AI模型失控,这可能意味着OpenAI开发GPT-5和DALL·E 4的投入部分被转移至AI安全、对齐等方面,战略优先事项若存在不一致,可能导致微软/OpenAI合作的不确定性提升。此外,微软于Ignite大会发布Maia 100 AI芯片,在推理侧有望大幅优化AI工作负载的成本。 事件 OpenAI宣布管理层变更,Sam Altman及Greg Brockman离职美国当地时间2023年11月17日中午,OpenAI董事会宣布CEOSam Altman将卸任CEO并离开公司,原因为其与董事会沟通时不够坦诚(he was “not consistently candid in his communications” with the directors),并任命现任CTOMira Murati为临时CEO(interim CEO)。同时,董事会宣布总裁Greg Brockman将卸任总裁职务,但会继续担任ChatGPT等产品运营负责人,之后GregBrockman宣布离职,且Greg Brockman此前被视为Sam Altman的盟友。一些Sam Altman的支持者在解雇事件后离职,包括Jakub Pachocki(Director of research),Aleksander Madry(head of a team evaluating potential risks from AI ),Szymon Sidor ( 7-yearresearcher)。 简评 管理层变动的原因:在董事会宣布解雇CEOSam Altman及总裁Greg Brockman后的全员会(All-handsmeeting),Ilya Sutskever暗示Sam Altman在商业化方面过于激进,而忽略了潜在的安全问题1。Ilya Sutskever强调董事会履行非营利性组织的使命,确保OpenAI构建造福全人类的AGI。在11月17日临时CEOMira Murati发给员工的Memo中提到,OpenAI有三项使命:1)最大限度推进研究工作;2)安全与对齐(Alignment)工作;3)技术普惠。OpenAI的联合创始人们担心Sam Altman以盈利为目的发展公司会以牺牲社会安全为代价。在2023年7月的官方博客2中,Ilya Sutskever与Jan Leike共同成立对齐团队并将投入公司20%的计算资源用于应对AI安全问题。 对微软与OpenAI合作的影响:短期看,微软在OpenAI董事会宣布5-10分钟前才知晓这一决定3,但微软CEOSatya Nadella表达了对OpenAI新领导层及后续合作的信心4。OpenAI临时CEOMira Murati在公司内部会议表达了与微软合作关系保持稳定的观点5。中长期看,从过往Ilya Sutskever的访谈来看6/7/8/9,Ilya目前的工作重点从构建下一代GPT/DALL·E模型转向防止AI模型失控,这可能意味着OpenAI开发GPT-5和DALL·E 4的投入部分被转移至AI安全、对齐等方面,其终极理想是实现AGI并且强调拥有一个在某些方面比人类拥有更强能力的AI对人类构成的潜在威胁,而与微软等公司的商业合作推动了一轮AI行业的“军备竞赛”,可能导致这种威胁更难以被管控,本质是对于AI安全的不同看法。如果参考微软过往与Sybase等公司的合作经历,OpenAI研发优先事项若与微软不一致,其可能导致二者中长期合作的不确定性提升。 外部竞争方面,Google近期推迟了Gemini大模型的发布时间(从2023年11月至2024Q1),短期对GPT模型追赶压力缓和。对外发布主要意味着Google Cloud的客户可以通过调用API使用Gemini模型,或通过订阅会员方式进行交互。此次推迟主要由于Google内部正将Gemini与搜索广告/Youtube等消费者业务结合,例如Gemini帮助广告主生成广告素材,最初应用于静态广告素材,后续拓展至音频和视频广告。性能方面,Gemini的Context Window预计长于PaLM 2(8000 Tokens10)。 微软于Ignite大会发布Maia 100芯片,有望优化微软内部工作负载的推理成本。Maia 100基于TSMC 5nm制程工艺,是一个拥有1050亿个晶体管的单体芯片。Maia在MXInt8/MXFP4下的性能分别是1600 TFLOPS和3200 TFLOPS。其中在推理侧,MXInt8是FP16/BF16的降位替代,MXFP4是FP8的降位替代。FLOPS性能方面,Maia 100优于TPUv5以及Trainium / Inferentia2,弱于H100和MI 300X。但需要注意的是Maia 100的内存带宽为1600GB/s,弱于TPUv5以及H100/MI 300X。由于内存方面的权衡,Maia 100在“GPT-4”-like模型的推理性能是H100的1/3左右。因为其内存带宽是H100的1/2,H200的1/3。但如果考虑Nvidia在GPU方面的高额利润率,从制造成本角度看Maia 100仍具备充分竞争力。问题在于低内存带宽带来的延迟问题,对一些延时敏感的场景(如自动驾驶)Maia 100很难与H100/MI300X竞争。而对GPT-3.5
|
|