摘要:是一個專為移動端異構計算平臺優化的神經網絡計算框架。地址文檔鏈接打開在線文檔網頁,引入眼簾的是這里簡單介紹一下中的內容移動計算引擎是一種針對移動異構計算平臺優化的深度學習推理框架。
Mobile AI Compute Engine (MACE) 是一個專為移動端異構計算平臺優化的神經網絡計算框架。主要從以下的角度做了專門的優化:
性能
代碼經過NEON指令,OpenCL以及Hexagon HVX專門優化,并且采用 Winograd算法來進行卷積操作的加速。 此外,還對啟動速度進行了專門的優化。
功耗
支持芯片的功耗管理,例如ARM的big.LITTLE調度,以及高通Adreno GPU功耗選項。
系統響應
支持自動拆解長時間的OpenCL計算任務,來保證UI渲染任務能夠做到較好的搶占調度, 從而保證系統UI的相應和用戶體驗。
內存占用
通過運用內存依賴分析技術,以及內存復用,減少內存的占用。另外,保持盡量少的外部 依賴,保證代碼尺寸精簡。
模型加密與保護
模型保護是重要設計目標之一。支持將模型轉換成C++代碼,以及關鍵常量字符混淆,增加逆向的難度。
硬件支持范圍
支持高通,聯發科,以及松果等系列芯片的CPU,GPU與DSP(目前僅支持Hexagon)計算加速。 同時支持在具有POSIX接口的系統的CPU上運行。
地址:https://github.com/XiaoMi/mace
MACE 文檔
鏈接: https://mace.readthedocs.io/en/latest/
打開MACE 在線文檔網頁,引入眼簾的是:
Getting started
Development
FAQ
這里簡單介紹一下Getting started中的Introduction內容:
移動AI計算引擎(MACE)是一種針對移動異構計算平臺優化的深度學習推理框架。 下圖顯示了整體架構。
模型格式(Model format)
MACE定義了與Caffe2類似的自定義模型格式。MACE模型可以由TensorFlow和Caffe的導出模型轉換。YAML文件用于描述模型部署詳細信息。在下一章中,有詳細的指導說明如何創建這個YAML文件。
模型轉換(Model conversion)
目前,我們為TensorFlow和Caffe提供模型轉換器。未來將支持更多框架。
模型加載(Model loading)
MACE模型格式包含兩部分:模型圖定義和模型參數張量。圖形部分使用協議緩沖區進行序列化。所有模型參數張量一起連接成一個連續的字節數組,我們在下面的段落中稱這個數組張量數據(array tensor data)。在模型圖中,記錄張量數據偏移和長度。
模型可以通過3種方式加載:
模型圖和張量數據都是外部動態加載的(默認情況下,來自文件系統,但用戶可以自由選擇自己的實現,例如,使用壓縮或加密)。這種方法提供了較大的靈活性,但卻是最薄弱的模型保護。
模型圖和張量數據都轉換為C++代碼并通過執行編譯的代碼加載。這種方法提供了最強大的模型保護和最簡單的部署。
模型圖轉換為C++代碼并構造為第二種方法,張量數據作為第一種方法在外部加載。
MACE Model Zoo
隨著MACE一起開源的還有MACE Model Zoo項目,目前包含了物體識別,場景語義分割,圖像風格化等多個公開模型。
鏈接: https://github.com/XiaoMi/mace-models
打開上述鏈接看到下述畫面,著實蠻震撼的!這里簡單介紹一下部分現有的model:
CNN
inception-v1-v2-v3
resnet-v2-50
vgg16
mobilenet-v1-v2(輕量級)
squeezenet(輕量級)
圖像分割
deeplab-v3-plus
MACE Demo
MACE 目前還提供了Android的示例程序,大家可以下載編譯好的APK文件進行安裝,快速感受一下MACE的魅力。
鏈接: https://cnbj1.fds.api.xiaomi.com/mace/demo/mace_android_demo.apk
Amusi 這不馬上就下載好,測試感受一下,下面是測試結果。
Refrigerator
Laptop
Amusi 個人覺得識別率一般般,而且是只輸出Top1的結果。識別速度嘛,還可以吧,畢竟是魅族Mx6上跑CPU模式。如果換上驍龍845處理器的手機,應該...
如何評價小米開源的移動端深度學習框架MACE?
小米突然開源了自家的深度學習框架,是不是在為“上市”做準備呢?
讓我們看一下知乎上大佬們怎么看待這個事件?
截止2018-06-29,只有兩個人回答了該問題,大家的反映并不是很熱烈,也許知道這件事情的人不多吧。但 Amusi 覺得MACE的出現,還是一件很有意義的事情,國內能做深度學習框架開源的公司真不多!
(溫馨提示)國內有自研開源深度學習框架的公司有:
PaddlePaddle(百度)
Angel(騰訊)
Other
小米開源MACE,這是一件很正能量的事情,工業界和學術界都應該鼓勵和支持!就如左上角所示,有222位關注者,也說明了大家對這件事情的期待。
鏈接: https://www.zhihu.com/question/283030623
聲明:文章收集于網絡,如有侵權,請聯系小編及時處理,謝謝!
歡迎加入本站公開興趣群商業智能與數據分析群
興趣范圍包括各種讓數據產生價值的辦法,實際應用案例分享與討論,分析工具,ETL工具,數據倉庫,數據挖掘工具,報表系統等全方位知識
QQ群:81035754
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://m.specialneedsforspecialkids.com/yun/4789.html
摘要:小米直達服務探秘,如何保證移動體驗小米直達服務是小米推出的混合開發框架,它可以實現秒開,同時可以在瀏覽器短信微信等地方打開。本文即是小米直達服務體驗保障方面的實踐分享,討論了目前移動體驗的瓶頸小米直達服務的機制與核心關鍵等內容。 推薦 1. Node.js 8.5.0 發布 https://nodejs.org/en/blog/re... 已經發布的 Node.js 8.5.0 版本中...
摘要:這也是很多大廠都在研發的原因深度超分辨率層次結構該文作者總結了一張非常棒的圖,可以盡覽深度學習超分辨率的方方面面作者介紹了深度學習圖像超分辨的監督學習方法,從模型框架上采樣方法網絡設計方法網絡學習策略和可能的改進策略進行了細致總結。 今日arXiv新上論文《Deep Learning for Image Super-resolution:A Survey》,詳細回顧了近年來基于深度學習的圖像...
閱讀 3027·2021-11-24 10:21
閱讀 1598·2021-10-11 10:57
閱讀 2812·2021-09-22 15:24
閱讀 2674·2021-09-22 14:58
閱讀 2336·2019-08-30 13:16
閱讀 3487·2019-08-29 13:05
閱讀 3418·2019-08-29 12:14
閱讀 3456·2019-08-27 10:55