- 博客(5)
- 收藏
- 关注
RSS订阅转载 在Atlas上做推理(5)-推理
经过了这么多这么多铺垫，终于可以进入正题了！使用ACL接口在NPU上推理目前在ACL中我们一般使用aclmdlExecuteAsync[1]接口调用NPU做推理，下面是调用的流程[2]:调用aclmdlQuerySize接口查询模型需要的内存大小。 调用aclrtMalloc为模型分配device memory。 调用aclmdlLoadFromFileWithMem将模型从文件加载到device memory中，并且得到一个model id 调用aclmdlGetDesc根据model
2022-02-19 21:07:09
447
转载 在Atlas上做推理(4)-画图
颜色空间RGB是比较常用的格式，也是OpenCV画图API中接受的格式，像素的排列是RGBRGB...DVPP编解码器的输入输出都是YUV420SP[1]，如果要使用OpenCV的画图API的话需要先将解码后的图片从YUV420SP转成RGB，画图后再转回YUV420SP才能编码。而且颜色空间转换非常的慢，在Atlas200DK上将1080P的YUV420SP转成RGB就需要20ms左右，而画图加标注文字本身一般也只需要1ms左右。所以处于性能的考虑，我选择直接在YUV420SP上画图。YUV4
2022-02-19 20:58:19
200
转载 在Atlas上做推理(3)-编解码和一点点多媒体知识
在推理过程中，一个必要的步骤是将视频转换成一张张的图片。为了使用Atlas的硬件解码功能，我们选择使用ffmpeg的库完成这个相关的功能。题图来自GitHub上一个非常棒的教程。从题图中可以看出，在视频处理中主要分为4层（我自己的翻译）:协议层: HTTP,文件,RTMP,RTSP等 格式层: MP4,AVI,MKV等 编码层: H264,H265等等 像素层: YUV420,RGB等等在推理应用中，我们选择使用ffmpeg帮我们处理协议层和格式层，使用DVPP完成编解码，使用NPU在像
2022-02-19 20:43:00
392
转载 在Atlas上做推理(2)-一个推理应用的基本流程
转载自我的知乎专栏当我们谈到推理应用的时候，一个很容易想到的场景就是：输入一个视频或视频流，进行推理，输出标注后的视频流。下面的视频是在Atlas200DK上使用yolov3+deepsort得到的结果。...
2022-02-19 20:21:22
359
2
转载 在Atlas上做推理(1)-基本概念与开发流程
转载自我的知乎专栏之前买了一个Atlas200DK,花了一些业余时间写了一个多路推理的端到端的demo。在这个过程中踩了很多坑，也学习到不少新知识。最近准备写一些文章，总结一下使用atlas推理的经验。我的demo代码仓库https://github.com/lenLRX/Atlas_ACL_E2E_Demo首先介绍一些基本概念：官网：atlas相关的软件包和文档可以在这个网址上找到，网站上还有官方论坛，遇到问题可以在上面提问，有官方人员回答。 CANN：Atlas主要的软件包， 里面
2022-02-18 22:44:19
321
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人