英特爾用于視頻分析的邊緣AI計算盒開發簡介
一、概述
將多路視頻流解碼與視頻分析集成。利用靈活的AI能力和參考視頻分析管道對應用進行端到端配置,以實現快速開發。
用于視頻分析的邊緣AI計算盒有兩種安裝腳本——開發和部署,適用于解決方案開發周期的不同階段。
用于視頻分析的邊緣AI計算盒可以是連接到攝像頭的獨立設備,能夠實時進行邊緣分析。此外,它還可以連接到網絡,作為網絡上的分散式 AI 服務,按需運行離線深度學習分析。
選擇配置和下載來下載以下程序包和軟件。
二、配置和下載
代表情景監測的圖標。是一個中心有斜三角形的圓圈。圓圈外部有感嘆號、圓環和檢查標記。
編程語言:Python、C、C++
可用軟件:英特爾? 發行版 OpenVINO? 工具套件 2021.4.2
三、推薦的硬件
我們建議搭配以下硬件使用此程序包。有關其他建議,請參閱推薦的硬件頁面。 (多廠商硬件支持)
四、目標系統要求
第 11 代和第 12 代智能英特爾? 酷睿? 處理器和賽揚? 處理器
操作系統:
Ubuntu* 20.04(內核版本為 5.8 或更高)
面向第 12 代智能英特爾? 酷睿? 處理器的 Ubuntu* 20.04 配備內核版本 5.15
至少 128 GB 磁盤空間
至少 8GB (4GB x2) 內存,具有 8GB 交換空間
直接互聯網接入
五、工作原理
用于視頻分析的邊緣AI計算盒為輕便型邊緣設備創建了完整的視頻分析管道。該程序包針對第 11 代和第 12 代智能英特爾? 酷睿? 處理器和賽揚? 處理器進行了優化,包含集成顯卡,可為 AI 計算加速提供增強性能與效率。
挑選解決方案所需的軟件模塊并相應地下載安裝腳本。在此版本中,提供了不同風格的安裝腳本——開發和部署。(參見圖 1)
六、開發軟件包
開發版軟件包提供了必要的模塊(參見圖 2):
英特爾? 發行版 OpenVINO? 工具套件
英特爾? Media SDK
RTSP 服務器
MQTT 服務
TensorFlow 橋
Gstreamer
英特爾? Deep Learning Streamer(英特爾? DL Streamer)
SQLite 數據庫*
Docker 社區版 (CE)*
Docker Compose*
其他組件以容器形式提供,例如云服務提供商連接器(Microsoft Azure* 和 AWS*)、InfluxDB* 數據庫和容器化 OpenVINO? 工具套件。開發軟件包旨在提供完整的 SDK 或工具套件,讓您輕松省力地設置開發環境。
七、部署軟件包
部署軟件包提供的主要軟件與開發軟件包相同,但預選的模塊主要為運行時庫。目標是最大限度減少程序包的安裝占用空間,使其適合部署到內存和存儲資源可能受限的邊緣設備。
圖表以方框圖形式展現。最左邊的模塊代表配置階段,中間則是英特爾 Developer Catalog UI,兩個箭頭指向右邊的兩個模塊:上面的開發程序包和下面的部署程序包。
圖 1:面向視頻分析的邊緣 AI 計算盒 - 開發和部署。
如圖 2 所示,集成 GPU (iGPU) 是部署 AI 工作負載的主要目標平臺。CSP 連接器提供了接口,可供邊緣 AI 計算盒利用云服務創建邊緣到云功能,例如遙測、設備入網和可管理性。此外,我們準備了許多參考實現(例如智能視頻 AI 工作負載),它們作為一種快速演示工具,供開發人員用于評估邊緣AI計算盒硬件性能。
架構以復雜的方框圖表展現。上面的模塊從左到右依次是云、Azure* 及其功能的方框、GitHub 和 Docker 的方框,最后是英特爾功能。下面的模塊最左邊是設備,然后是它右邊的多層方框。AI + 介質管道堆棧在面向 Docker 和 Kubernetes 的基礎堆棧上方。
圖 2:用于視頻分析的 AI 計算盒軟件堆棧示意圖
八、入門
必備條件
系統必須設置根密碼。
要使第 12 代英特爾? 酷睿? 處理器或賽揚? 處理器(原 Alder Lake 產品)與 GPU 加速器協同工作,請完成以下步驟:
sudo vim /etc/default/grub
將 “i915.formorce_probe=*” 附加至 GRUB_CMDLINE_LINUX_DEFAULT: 結尾
GRUB_CMDLINE_LINUX_DEFAULT="quiet splash i915.force_probe=*"
sudo update-grub
sudo reboot
注意:智能視頻AI工作負載參考實現也需要這些步驟。
安裝程序包
選擇配置和下載下載程序包,然后遵循以下步驟安裝。
配置和下載
1?打開一個新終端,進入下載的文件夾并解壓縮下載的軟件包:
unzip edge_ai_box_for_video_analytics.zip
2?轉到 edge_ai_box_for_video_analytics/ 目錄:
cd edge_ai_box_for_video_analytics
3?更改 edgesoftwar 可執行文件的權限:
chmod 755 edgesoftware
4?運行以下命令,安裝程序包:
./edgesoftware install
5?在安裝過程中,系統會提示您提供產品密鑰。產品密鑰包含在英特爾向您發送的確認下載的電子郵件中。
控制臺窗口顯示系統提示輸入產品密匙。
6?安裝完成后,您會看到消息 “Installation of package complete”(軟件包安裝完成)以及每個模塊的安裝狀態。
控制臺窗口顯示安裝期間的系統輸出。流程結束后,系統將顯示 “Installation of package complete” 和各模塊的安裝狀態。
基于程序包構建解決方案
使用硬件加速的單對象和多對象檢測教程應用程序。
另外,了解 OpenVINO? 與 TensorFlow* 集成示例目錄中的演示。
要將 Linux 上運行的物聯網即插即用橋接樣本連接至 Azure* 物聯網中樞,請通過預先安裝的 azure_cli、Azure 物聯網資源管理器和克隆的存儲庫運行樣本。
九、結論和后續步驟
您使用此應用程序,成功為輕便型邊緣設備創建了完整的視頻分析管道。
在下一步中,請嘗試智能視頻 AI 工作負載參考實現。
十、了解更多
要繼續學習,請參閱以下指南和軟件資源:
英特爾? 發行版 OpenVINO? 工具套件文檔
OpenVINO? 與 TensorFlow* 集成