基于NXP i.MX8MQ的人工智能效能验证软体整合测试解决方案

现今各大产业都逐渐往人工智能的领域开发,品佳集团提出了全新智能学习解决方案,为整个产业提供了快速并且简单的方式来开发人工智能。人工智能难以进入的首要原因为: 需要服务器等级的运算能力来制作机器学习的经验(即Model),此举旷时费工,非大型企业等级的公司所能承受的成本,而成为进入人工智能的第一道巨型门槛。在此因之下,许多开源公司开始开发自有的学习模型并提供产业界使用,但仍亟需解决的问题为如何整合各家开源公司所提供的学习模型。

eIQ: edge Intelligence Quotient。意指在edge端直接inference(推理) 学习模型,并得出计算结果。不须强力的服务器等级运算能力,即可在终端产品上实现机器学习以及人工智能的功能。

品佳集团提供了整合完成的开发环境以供客人快速地进入开发领域。同时提供了目前流行的开源学习模组包括opencv, tensorflow, tensorflow-lite, caffe 等。根据各家开源学习模组所擅长的领域,可以直接在i.MX8MQ上执行并且完全不受干扰可独立的进行运作,替客户节省成本以及开发时程。使用品佳集团整合完成的SDK可以立即协助客户进入测试阶段,不须再为开源程式的结合而烦恼,直接使用即可得出运算结果。客户只需考虑应用场景,软体整合的部分皆可以此方案做解决。i.MX8MQ的优势为拥有4颗Cortex-A53 以及1颗GC7000+的GPU来处理影像辨识,机器学习,资料运算等复杂且沉重的资源消耗。举凡人工智能的使用范例: 影像辨识,物件辨认,人脸识别,物品分类,结果预测,都可以直接使用品佳集团所提供的SDK上做执行并且进一步的应用。

硬体系统说明:

  1. 将所要辨识物件的图片经由网路或是储存装置输入(USB/SD CARD..)至iMX8MQ的系统
  2. iMX8MQ的系统基于eIQ的架构,并启动已经训练好的物件辨别模型
  3. 由HDMI输出画面中,即可以发现物件辨别出来的结果。

 

实体应用图如下:


实作流程:
以Linux Kernel 4.14.98为基础,使用Yocto Project做开发环境
首先在local.conf中编译Opencv, tensorflow-lite等应用程式及学习库
编译完成后,下载opencv执行范例压缩包
github.com/opencv/opencv_extra/tree/4.0.1
解压缩完后使用python下载学习模组
$cd opencv_extra-4.0.1/testdata/dnn/
$python download_models.py
将所需档案复制到/usr/share/OpenCV/samples/bin资料夹中


以影像辨识学习模型squeezeNet执行物件辨识的结果

$./example_dnn_classification --input=dog416.png --zoo=models.yml squeezenet
我们使用流行的dog416.png作为输入元素,并得出结果:

执行辨识的时间约300ms

使用物件辨识Yolov3学习模组所得出的结果

$./example_dnn_object_detection -width=1024 -height=1024 -scale=0.00392 -input=dog416.png -rgb -zoo=models.yml yolo
可得出结果
以上证明使用品佳所提供的平台
只需下载pre-trained模组后
即可直接执行影像辨识,物件辨认的机器学习行为
此方案可协助客户立即进入软体开发阶段,省去整合的麻烦工作。

硬体设计部分:



详细硬体设计可以参考附件的硬体资料

►场景应用图

►展示板照片

►方案方块图

►核心技术优势

i.MX8M: ◆ 高速四核⼼A53搭配微处理器M4单独执⾏,可完整弹性分配效能运用。 ◆ 内建4K的硬体decoder。音源品质最高可支持DOLBY ATMOS与DTSX,不论影音皆可达最高规需求。 ◆ ⽀持众多输出输入介⾯,GbEthernet, MIPI-CSI, DSI, SDIO, USB3.0, PCI-E2.0 搭配由品佳独家提供的软体整合平台,可快速帮助客户进入测试以及免去繁琐的软体移植作业。 此方案的软硬体结合之下,概括人工智能各领域的应用皆可直接进行效能测试,为客户评估专案的最佳利器。

►方案规格

4核 ARM Cortex-A53+1 Cortex-M4 OpenCV 4.0.1 Arm Compute Library 19.02 Arm NN 19.02 ONNX runtime 0.3.0 TensorFlow 1.12 TensorFlow Lite 1.12 Linux® OS, Android™, FreeRTOS®

技术文档

类型标题档案
硬件Schematics
硬件Gerber
硬件Layout