7月23日訊息， 達摩院 自動駕駛實驗室提出一種高效能網路輕量化方法“動態寬度可變網路”，解決了以往演算法硬體效率低下的問題，在ImageNet資料集上達成2到4倍的理論加速和1。62倍實際加速，以最高5。9%的精度優勢超越業界最優方法。該模型將應用於達摩院的“小蠻驢”無人車，也適用於各類有模型輕量化需求的嵌入式裝置。

深度學習雖好，但很難部署到嵌入式裝置上。深度學習模型對硬體的算力和記憶體有很高要求，而嵌入式裝置往往算力有限，因此，模型輕量化是業界重要的應用研究內容。

以達摩院研發的L4級無人車小蠻驢為例，早期demo階段的無人車使用 工控機 執行所有的自動駕駛計算任務，2020年正式釋出的小蠻驢則改用達摩院自研的高效能、低功耗、低成本嵌入式異構計算單元，後者需以1/3算力實現工控機級別的智慧水平。為此，達摩院持續進行軟硬體協同最佳化設計，包括探索模型輕量化方法。

神經網路剪枝（pruning）是模型輕量化方法之一，它能減少網路引數、降低儲存要求、提高計算速度。但既有演算法存在瓶頸問題，演算法模型與硬體計算不相容，理論分析與實際加速之間存在很大差距，需要犧牲相當的計算精度和時延，這在自動駕駛應用中是不可接受的。

圖說：動態寬度可變網路透過學習一個寬度可變超網路和一個動態門控機制來實現不同樣本的動態路由

達摩院自動駕駛團隊提出了“動態寬度可變網路”（Dynamic Slimmable Network，DS-Net）演算法，在測試時，根據不同輸入，預測性地調整網路濾波器數量，既不影響計算精度，還解決了以往演算法中硬體效率低下和計算浪費的問題。

濾波器 是影象處理任務中的概念，主要作用是提取物件特徵作為影象識別的特徵模式。主流演算法通常會啟用所有濾波器，最大限度壓榨硬體算力。達摩院模型把剪枝視作動態過程，根據計算任務動態調整濾波器的啟用數量。比如，無人車在行駛中感知到行人、汽車等簡單場景，只需easy模式；如果遇到“一輛卡車拖著一棵大樹”的複雜場景，則啟用hard模式，啟用更多濾波器。

在ImageNet上，對於ResNet和MobileNet，該方法達成了2到4倍的理論加速和1。62倍的實際加速，超越現有的剪枝、網路搜尋和動態網路壓縮方法，並以最高5。9%的精度優勢超越了SOTA（state-of-the-art）方法Universally Slimmable Network。

達摩院自動駕駛實驗室工程師王兵介紹，該方法目前正在適配小蠻驢無人車。由於並非針對特定的硬體設計，演算法通用性高，適用於各類有模型輕量化需求的嵌入式裝置。

據悉，小蠻驢無人車現已量產投用，未來一年預計將有1000輛車進入全國的高校和社群，開展末端配送服務。

圖說：動態寬度可變網路成功加速ResNet-50和MobileNetV1，減少2到4倍的計算量，實現1。17倍、1。62倍的實際加速；以最高5。9%的精度優勢超越了Universally Slimmable Network

— 完 —