【2023 · CANN训练营第一季】昇腾AI入门课（PyTorch）.docx
5墨值下载
昇腾
AI
入门课（
PyTorch
）
笔记总结
华为公司面向计算机视觉、自然语言处理、推荐系统、类机器人等领域量身打造了基于“达芬奇
（
DaVinci
）架构”的昇腾（
Ascend
）
AI
处理器，开启了智能之旅。为提升用户开发效率和释放昇腾
AI
处理器澎湃算力，同步推出针对
AI
场景的异构计算架构
CANN
（
Compute Architecture for
Neural Networks
），
CANN
通过提供多层次的编程接口，以全场景、低门槛、高性能的优势，支持用
户快速构建基于
Ascend
平台的
AI
应用和业务。
昇腾
AI
异构计算架构（
Compute Architecture for Neural Networks
，
CANN
）被抽象成五层架
构，如下图所示。
1.
昇腾计算语言接口
昇腾计算语言（
Ascend Computing Language
，
AscendCL
）接口是昇腾计算开放编程框架，是对低
层昇腾计算服务接口的封装。它提供
Device
（设备）管理、
Context
（上下文）管理、
Stream
（流）
管理、内存管理、模型加载与执行、算子加载与执行、媒体数据处理、
Graph
（图）管理等
API
库，供
用户开发人工智能应用调用。
2.
昇腾计算服务层
本层主要提供昇腾计算库，例如神经网络（
Neural Network
，
NN
）库、线性代数计算库（
Basic
Linear Algebra Subprograms
，
BLAS
）等；昇腾计算调优引擎库，例如算子调优、子图调优、梯度
调优、模型压缩以及
AI
框架适配器。
3.
昇腾计算编译引擎
本层主要提供图编译器（
Graph Compiler
）和
TBE
（
Tensor Boost Engine
）算子开发支持。前者
将用户输入中间表达（
Intermediate Representation
，
IR
）的计算图编译成
NPU
运行的模型。后
者提供用户开发自定义算子所需的工具。
4.
昇腾计算执行引擎
本层负责模型和算子的执行，提供如运行时（
Runtime
）库（执行内存分配、模型管理、数据收发等）、
图 执 行 器 （
Graph Executor
） 、 数 字 视 觉 预 处 理 （
Digital Vision Pre-
Processing
，
DVPP
） 、 人 工 智 能 预 处 理 （
Artificial Intelligence Pre-
Processing
，
AIPP
） 、 华 为 集 合 通 信 库 （
Huawei Collective Communication
Library
，
HCCL
）等功能单元。
5.
昇腾计算基础层
本层主要为其上各层提供基础服务，如共享虚拟内存（
Shared Virtual Memory
，
SVM
）、设备虚拟
化（
Virtual Machine
，
VM
）、主机
-
设备通信（
Host Device Communication
，
HDC
）等。
AscendCL
（
Ascend Computing Language
，昇腾计算语言）是昇腾计算开放编程框架，是对底层昇
腾计算服务接口的封装，它提供运行时资源（例如设备、内存等）管理、模型加载与执行、算子加载与执
行、图片数据编解码
/
裁剪
/
缩放处理等
API
库，实现在昇腾
CANN
平台上进行深度学习推理计算、图形
图像预处理、单算子加速计算等能力。简单来说，就是统一的
API
框架，实现对所有资源的调用。
of 3
5墨值下载
【版权声明】本文为墨天轮用户原创内容，转载时必须标注文档的来源（墨天轮），文档链接，文档作者等基本信息，否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容，欢迎发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。
下载排行榜
评论