国泰君安证券：安全可控AI：安全的“A”，可控的“I”.pdf
50墨值下载
请务必阅读正文之后的免责条款部分
[Table_Main]
[Table_Title]
产业研究半月报
2019 年 03 月 24 日
，
07 期
安全可控 AI：安全的“A”，可控的“I”
[Table_Summary]
摘要：
本期产业观察聚焦于 AI 的安全可控，近五年 AI 爆发式地发展，并持续向各行业渗透。随着渗透率提
升，AI 的局限和问题逐渐暴露，如对抗样本带来的安全隐患、原理不可解释等。能真正落地，并用于
关键应用场景的必须是安全、可控、可理解的 AI，不然很难说服用户买单，尤其是企业级、政府级客
户。解决这些问题，我们重点关注 AI DevSecOps、AI 赋能下的信息安全和可解释 AI 细分赛道的发
展机遇。
AI 在各行业持续渗透，市场预期处于前所未有的高点。本次人工智能 AI 热潮从 2012 年开始发
展，并随着谷歌 AlphaGo、AlphaZero 一次又一次战胜人类棋手而引爆。在产业层面，基于深
度学习的 AI 确实被用于各个技术领域，如计算机视觉、语音识别、自然语言处理 NLP 等，并在
各行业的应用场景中持续渗透，部分应用已开始商用，比如智能语音客服、医疗影像识别等。
然而 AI 离真正落地还有差距，存在安全隐患和潜在社会问题。从 2012 年至今，AI 从训练到普
及存在较多问题：1）AI 训练平台被发现致命漏洞；2）能通过对抗样本操控 AI 的判断；3）用
AI 做好事，事倍功半，用来做坏事，同样危害极大，如后门攻击、电话骚扰、伪造他人信息；
4）AI 决策不可解释、算法偏见等问题引发社会争议。存在致命安全隐患、不可控、不可解释的
AI 难以实现真正落地，也很难说服客户买单，尤其是企业级和政府级客户。
解决问题，打造安全可控 AI，需要科研、产业、政府齐心协力。从当前 AI 到安全可控的 AI 是
个漫长的过程，在此过程中，三个领域至关重要、值得关注。1）可解释 AI、神经网络可视化帮
助人们打开黑箱；2）AI DevSecOps 框架，覆盖 AI 从 0 到 1 到 100 的全生命周期安全；3）AI
赋能安全，更强大的安全工具也能保障 AI 稳定运行，包括基于大数据主动防御。
五大安全 AI 细分领域将迎来发展机遇。五个领域在海外均出现过独角兽、市场空间可期，且安
全巨头们尚未涉足：1）安全信息与事件管理平台 SIEM，瀚思、青藤云；2）身份认证与管理平
台 AM，芯盾、通付盾；3）应用性能管理平台 APM，博睿数据、基调网络；4）应用安全测试
AST，几维安全、思客云；5）应用自我防护 RASP，默安科技、蓝海讯通。
风险提示：对抗样本的危害存在被高估的可能性；可解释 AI 研究进度不及预期；
[Table_Author]
产业研究中心
作者：鲍雁辛
电话：0755-23976830
邮箱：baoyanxin@gtjas.com
资格证书编号：S0880513070005
作者：郑宇舟
电话：021-38676545
邮箱：zhengyuzhou@gtjas.com
资格证书编号：S0880118060037
[Table_DocReport]
往期回顾
氢能社会，未来已来—日本氢能战
略全解析
2019.03.20
京城的风，已吹向经济
2019.03.05
产业观察_解码新能源车全产业链
2019.02.01
国泰君安_产业观察_美国行之 JPM
医疗健康周，拥抱创新药
2019.01.20
国泰君安_产业观察_从田间到餐桌，
产业巨变开启生活之美
2019.01.14
产业观察：“字节跳动”，大数据+AI
重塑移动互联
2018.12.25
产业观察
产业观察
请务必阅读正文之后的免责条款部分 2 of 37
目录
1. 人工智能，并非所想 ............................................................................. 4
1.1. 处在预期高点 .................................................................................. 4
1.2. 此 AI 非彼 AI .................................................................................. 5
1.3. 持续渗透行业 .................................................................................. 6
1.4. 特性决定局限 .................................................................................. 9
2. 应用部署，问题重重 ........................................................................... 10
2.1. 训练：平台存漏洞 ........................................................................ 10
2.2. 预测：决策被操控 ......................................................................... 11
2.3. 应用：滥用危害重 ........................................................................ 13
2.4. 普及：社会新问题 ........................................................................ 16
3. 安全可控 AI，才能落地普及 .............................................................. 20
3.1. 产业：打造安全 AI ....................................................................... 20
3.2. 产业：AI 赋能安全 ....................................................................... 22
3.3. 科研：可解释可控 ........................................................................ 29
3.4. 政府：法规限增速 ........................................................................ 31
3.5. 文化：树立价值观 ........................................................................ 34
4. 风险提示 ............................................................................................... 35
of 37
50墨值下载
【版权声明】本文为墨天轮用户原创内容，转载时必须标注文档的来源（墨天轮），文档链接，文档作者等基本信息，否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容，欢迎发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。
下载排行榜
评论