>> 国泰君安-安全可控AI:安全的“A”,可控的“I”-190324
| 上传日期: |
2019/3/27 |
大小: |
3612KB |
| 格式: |
pdf 共37页 |
来源: |
国泰君安 |
| 评级: |
无 |
作者: |
鲍雁辛,郑宇舟 |
| 下载权限: |
此报告为加密报告 |
|
|
能真正落地,并用于关键应用场景的必须是安全、可控、可理解的AI,不然很难说服用户买单,尤其是企业级、政府级客户。解决这些问题,我们重点关注AI DevSecOps、AI 赋能下的信息安全和可解释AI 细分赛道的发展机遇。 AI 在各行业持续渗透,市场预期处于前所未有的高点。本次人工智能AI 热潮从2012 年开始发展,并随着谷歌AlphaGo、AlphaZero 一次又一次战胜人类棋手而引爆。在产业层面,基于深度学习的AI 确实被用于各个技术领域,如计算机视觉、语音识别、自然语言处理NLP 等,并在各行业的应用场景中持续渗透,部分应用已开始商用,比如智能语音客服、医疗影像识别等。 然而AI 离真正落地还有差距,存在安全隐患和潜在社会问题。从2012 年至今,AI 从训练到普及存在较多问题:1)AI 训练平台被发现致命漏洞;2)能通过对抗样本操控AI 的判断;3)用AI 做好事,事倍功半,用来做坏事,同样危害极大,如后门攻击、电话骚扰、伪造他人信息;4)AI 决策不可解释、算法偏见等问题引发社会争议。存在致命安全隐患、不可控、不可解释的AI 难以实现真正落地,也很难说服客户买单,尤其是企业级和政府级客户。 解决问题,打造安全可控AI,需要科研、产业、政府齐心协力。从当前AI 到安全可控的AI 是个漫长的过程,在此过程中,三个领域至关重要、值得关注。1)可解释AI、神经网络可视化帮助人们打开黑箱;2)AI DevSecOps 框架,覆盖AI 从0 到1 到100 的全生命周期安全;3)AI赋能安全,更强大的安全工具也能保障AI 稳定运行,包括基于大数据主动防御。 五大安全AI 细分领域将迎来发展机遇。五个领域在海外均出现过独角兽、市场空间可期,且安全巨头们尚未涉足:1)安全信息与事件管理平台SIEM,瀚思、青藤云;2)身份认证与管理平台AM,芯盾、通付盾;3)应用性能管理平台APM,博睿数据、基调网络;4)应用安全测试AST,几维安全、思客云;5)应用自我防护RASP,默安科技、蓝海讯通。 风险提示:对抗样本的危害存在被高估的可能性;可解释AI 研究进度不及预期;
|
|