

HUAWEI HiAI
• HiAI是面向移动终端的AI能力开放平台,构建三层AI生态:服务能力开放、应用能力开放和芯片能力开放。端芯云结合的三层开放平台为用户和开发者带来更多的非凡体验。
• 芯:优化原声特性,芯片能力开放 - 轻松获得NPU加速让性能最佳。
• 端:APP智能化,应用能力开放 - 让App更加智慧强大。
• 云:提供按需服务,服务能力开放 - 让服务主动找到用户。

HiAI Foundation概述
• HiAI Foundation API是移动计算平台中的人工智能计算库,该计算库面向人工智能应用程序开发人员,让开发者便捷高效地编写在移动设备上运行的人工智能应用程序。
HiAI Foundation API将作为统一的二进制文件发布。这组API主要作用是通过HiAI异构计算平台来加速神经网络的计算,当前仅支持在Kirin SoC上运行。
使用HiAI Foundation API,开发人员可以专注于开发新颖的AI应用程序,而不用关注针对计算的性能调优。
HiAI Foundation API集成到Kirin SOC芯片上,为开发者提供基于移动设备的运行环境和调试工具,开发者可以在移动设备中运行神经网络模型,调用HiAI Foundation API进行加速计算。HiAI Foundation API无需安装,使用移动设备默认镜像即可支持相关集成、开发和验证。

HiAI Foundation功能介绍
• 主要功能:
• 提供常用的人工智能业务功能API,可在移动设备上高效运行。
• 提供了一个与处理器硬件无关的加速API,应用厂商和开发者可以在HiAI异构加速系统上加速模型计算、算子计算。
• 基本功能:
• 支持模型编译、模型加载、模型运行、模型销毁等AI模型管理接口。
• 支持基本的算子计算接口,包括卷积、池化、全链接等接口。
HiAI Foundation技术介绍
• 支持针对神经网络模型运算的专用AI指令集,可以用最少的时钟周期高效并行执行更多的神经网络算子。
• 通过工具可以把神经网络各种算子,比如卷积、池化、激活、全链接等离线编译成NPU的专用AI指令序列,同时将数据和权重重新摆放,指令与数据融合在一起生成离线执行模型。在离线编译的时候,可以把前后层(卷积、Relu、Pooling)能够融合的算子进行层间融合,这种方式可以减少DDR的读写带宽,提升性能。
• 能够把神经网络模型中的相关数据(Batch、 Channel、 Height、 Width)以最高效的方式重新摆放,特别是Feature Map的通道数据,在做卷积运算的时候,对于通道相关联的计算效率会得到大幅提升。

• 支持稀疏化模型加速。在不损失计算精度的前提下,对权重进行置零稀疏优化,NPU可以跳过系数为零的乘加运算,极大地提高了计算效率,同时也降低了带宽。
HiAI Foundation执行介绍
• 将标准的神经网络模型(Caffe等)编译转换为离线模型,编译的主要目的是对网络配置进行优化,生成优化后的目标文件,即离线模型,离线模型是序列化的存储在磁盘上,这样,神经网络前向计算时,可以直接使用优化后的目标文件进行计算,速度更快。
• HiAI Foundation支持多种智能平台框架,包括Caffe、Tensorflow等,使用不同的智能平台框架,第三方需要在接口中指出本次计算需要使用的具体的智能平台框架,其他接口和参数无需修改。HiAI Foundation支持绝大部分模型和神经网络算子,并持续优化与完善。
HiAI DDK概述
• HiAI API集成在使用Kirin SoC芯片的android系统上,开发者可以在集成环境中运行神经网络模型,调用HiAI API进行加速计算。

• HiAI DDK(Device Development Kit)是海思发布的人工智能计算SDK,该SDK面向人工智能应用程序开发人员和机器学习算法人员,通过使用HiAI DDK,可以更好的提升移动端机器学习模型运行速度。
• DDK包说明
• app_source为Android demo app的源码。(提供了从输入前处理到模型加载、模型前向计算、前向计算结果后处理、模型卸载、时间统计等一系列sample code示例,同时提供了同步,异步方式的sample code。)
• DDK为HiAI开放的SDK。
• Document为开发参考文档。
• tools为Caffe/Tensorflow离线转换工具以及算子兼容性评估及分割工具。
HiAI Engine

• HUAWEI HiAI Engine为应用能力开放,轻松将多种AI能力与App集成,让App更加智慧强大。应用能力开放包括:
• 1. CV引擎:CV,即计算机视觉,计算机能够模拟人的视觉系统感知周围环境,判断、识别、理解空间组成。能力包括图像超分、人脸识别、物体识别等。
• 2. ASR引擎:ASR,即自动语音识别,将人的声音转化为文本,便于计算机进一步进行解析理解。能力包括语音识别、语音转换等。
• 3. NLU引擎:NLU,即自然语言理解,与ASR有机结合,让计算机理解人的声音或文本,进行沟通或自然的动作。能力包括分词、文本的实体识别、情感偏向分析,机器翻译等。
HiAI Service

• 快服务智慧平台:聚合开发者的内容和服务,为华为终端产品提供第三方的直达服务。
• 小艺对话开发平台:端到端地为开发者提供对话服务的开发、测试和部署的平台。
快服务智慧平台介绍
• 华为快服务智慧平台,是华为终端提供的面向开发者的原子化服务接入和分发平台。快服务智慧平台接入开发者的内容和服务,通过统一的服务分发策略,向华为泛终端(手机、平板、智能音箱、PC等)和终端上的媒体入口(如:手机上的华为智能助手、全局搜索、智慧视觉等)提供服务;实现服务一点接入,全场景和多入口精准分发。
• 通过华为快服务智慧平台,为终端用户带来更便捷和高质量服务用户体验的同时,也可以基于华为终端的超级入口和海量用户,为开发者引入高流量。
• 华为快服务智慧平台的业务架构如下所示:
• 快服务(Ability),是连接用户意图与原子化服务之间的桥梁,开发者在快服务智慧平台的开发者门户定义服务,用户可以在华为的各个终端和媒体入口来使用快服务。
• 例如:某开发者可以提供每日天气查询、空气质量查询等天气信息服务。开发者在华为快服务智慧平台上将天气信息注册成为快服务,用户在华为泛终端上就可以通过语音或者卡片查看天气相关信息。
• 华为快服务包括直达应用类服务(APP Ability)、卡片类服务(Card Ability)、内容接口类服务(Content Ability)、对话类服务(Conversation Ability)四种类型。
快服务分类
• 意图(Intent):用于表达用户想要达成的目标或完成的任务,比如:打车、查看天气等。快服务智慧平台中,意图有唯一标识和一个或多个描述意图的参数,并且和开发者的服务进行关联。
• 开发者在注册快服务的时候,需要选择以下几种触发方式来对意图实例化:
• 关键词触发:用户通过文本关键词表达意图,当用户的意图表达和快服务定义的关键词或意图匹配后会触发该快服务;例如:用户在负一屏通过文本搜索百科。
• 语音触发:用户通过语音表达意图,当用户的意图表达和快服务定义的关键词匹配后会触发该快服务;例如:用户通过语音助手查询天气。
• 图片触发:用户通过相机拍照识别等方式表达意图,当用户的意图表达和快服务关联的意图匹配后触发该快服务;例如:用户通过智慧识屏来识别花的名称。
• 扫一扫触发:用户通过扫描二维码、条码等方式表达意图,当用户的意图表达和快服务关联的意图匹配后触发该快服务。

• 事件触发:开发者定义的基于时间、地理位置等事件意图触发规则,当事件发生时触发快服务,来满足用户的意图。例如:航班延误事件发生时触发通知,让用户及时了解航班动态信息,满足用户的航班查询意图。
快应用
• 对于终端用户:
快应用是一种新型免安装应用。不仅具有安卓应用体验好、功能强的优点,还具备HTML5网页自动更新、占用内存少的便捷。用户可以将喜欢的快应用添加至桌面,方便再次访问。
• 对于开发者:
快应用是一种基于行业标准开发的新型免安装应用,使用前端技术开发成本低,可以调用设备能力用户体验好。拥有十大手机厂商的助力,获取新客成本低、留存率高。
快应用服务场景

• 应用市场首页专区和活动页:华为应用市场,可以从“快应用”专区进入,或者点击顶部活动区图片,进入精选快应用专区。
• 应用市场、快应用中心、游戏中心搜索:在应用市场、快应用中心和游戏中心的搜索框中输入对应的关键字,点击搜索到快应用的“打开”。
• 快应用管理和快应用中心:
• 打开华为应用市场,选择“管理”页签,选择“快应用管理”进入“快应用中心”,可快速访问使用过的快应用(“快应用中心”可以添加至桌面)。
• 长按快应用,可以将该快应用添加到桌面、置顶、分享、管理其权限和数据以及将快应用从“快应用中心”删除。
• 添加到桌面
网页跳转快应用:无论网页在社交平台还是在浏览器中,都可以通过发送一个分享链接打开快应用或快应用中的某一个页面,并可添加到桌面留存。


课程咨询 :400-1024-400
欢迎添加,了解腾科课程体系介绍,可获取学习资源。
官方微博:腾科教育官微
官网:www.tk-edu.com
全国统一热线:400-1024-400





