IT天空

 找回密码
 加入我们

手机号码,快捷登录

搜索

[新资讯] 小米开源自研移动端深度学习框架MACE

[复制链接]
Lacy 发表于 2018-6-29 09:44:10 | 显示全部楼层 |阅读模式


  6月28日,小米人工智能与云平台副总裁崔宝秋博士在开源中国开源世界高峰论坛上发表《小米 AI 时代的开源》演讲,并在会上宣布,开源小米自研的移动端深度学习框架 Mobile AI Compute Engine (MACE)。

3037003664906bc.png


  地址:https://github.com/XiaoMi/mace

  近年来,随着移动互联网的深入发展和IoT智能设备的普及,以及用户对智能性,低延迟和隐私保护的诉求变得越来越高,移动设备上的离线深度学习应用变得越来越普遍。

  MACE 是专门为移动设备优化的深度学习模型预测框架,MACE 从设计之初,便针对移动设备的特点进行了专门的优化:

  速度:对于放在移动端进行计算的模型,一般对整体的预测延迟有着非常高的要求。在框架底层,针对ARM CPU进行了NEON指令级优化,针对移动端GPU,实现了高效的OpenCL内核代码。针对高通DSP,集成了nnlib计算库进行HVX加速。同时在算法层面,采用Winograd算法对卷积进行加速。

  功耗:移动端对功耗非常敏感,框架针对ARM处理器的big.LITTLE架构,提供了高性能,低功耗等多种组合配置。针对Adreno GPU,提供了不同的功耗性能选项,使得开发者能够对性能和功耗进行灵活的调整。

  系统响应:对于GPU计算模式,框架底层对OpenCL内核自适应的进行分拆调度,保证GPU渲染任务能够更好的进行抢占调度,从而保证系统的流畅度。

  初始化延迟:在实际项目中,初始化时间对用户体验至关重要,框架对此进行了针对性的优化。

  内存占用:通过对模型的算子进行依赖分析,引入内存复用技术,大大减少了内存的占用。

  模型保护:对于移动端模型,知识产权的保护往往非常重要,MACE支持将模型转换成C++代码,大大提高了逆向工程的难度。

  此外,MACE 支持 TensorFlow 和 Caffe 模型,提供转换工具,可以将训练好的模型转换成专有的模型数据文件,同时还可以选择将模型转换成C++代码,支持生成动态库或者静态库,提高模型保密性。

cdcb51083c761bb.png


  目前MACE已经在小米手机上的多个应用场景得到了应用,其中包括相机的人像模式,场景识别,图像超分辨率,离线翻译(即将实现)等。

  此外,随着MACE一起开源的还有 MACE Model Zoo 项目,目前包含物体识别,场景语义分割,图像风格化等多个公开模型。后续会增加更多模型。

f447f26723045e2.png


  上方是用MACE Model Zoo中的fast style transfer(快速风格迁移)模型在手机端生成的风格化图片。

  此前小米曾参与多个国际重大的开源项目,比如Hadoop,HBase,Spark,TensorFlow等,同时,小米也积极参与自研、具有通用性的软件系统。过去几年,小米相继推出了Linden(分布式实时搜索系统),Open-Falcon(互联网企业级监控系统)、Pegasus(分布式KV存储系统)等一系列开源项目。

  在AI方面,小米开源了自研的针对移动端设备优化的深度学习框架 MACE,目前已经支持内部的多个业务。














原文链接:https://www.cnbeta.com/articles/tech/741223.htm

最近访问 头像模式 列表模式
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Lacy

34300

活跃

1

技术

6

互助
签到任务
最火的业界新闻
  • 全球第一款真无孔手机:魅族zero视频上手
  • 替代懒人支架!雷军演示小米9保护壳背带玩
  • 比米8窄40%!小米9实现3.6mm最美“下巴”:
  • 14nm量产在即 中芯国际12nm工艺也取得突破
  • 小米9下巴照公布:缩短40% 号称最窄
  • Intel即将揭秘第11代核显:10nm Ice Lake年
  • 骁龙855即将量产 大批旗舰智能机在路上
  • 优麒麟 18.04.2 LTS 版本发布
  • 1TB的SSD价格自2018年以来已腰斩,而且还会
  • 雷军称小米9将首发高通855 还强调“真首发
炫酷的硬件Show
  • 振华SUPER FLOWER 铜皇450W 铜牌电源
  • 比小更小,Mini-STX装机
  • 华擎X99E-ITX + 银欣ML06 装机记
  • 最强双路泰坦硬管水冷 制作流程
  • 银欣FT02,双路E5工作站
  • 迟到的定制机箱小钢炮清理灰尘
  • 乔思伯UMX1 Plus,小巧的家用综合主机
  • 分体水冷第二弹-Inwin 805 infinity
  • 第一次DIY硬管水冷~~
  • 樱桃MX6.0 青轴 机械键盘 开箱
有趣的美图分享
  • 要学会偶尔对世界说“去nm的”
  • 这才是真正的土味情话,真乃绝世宝典啊!!
  • 就是嘚瑟
  • 上帝创造这个世界......
  • 这小盆有友小小年纪就背负了不该有的债务
  • 可怜的娃
  • 晚上不吃饭真的能减肥吗?
  • 一个钟表的自白,简直感人肺腑,催人泪下
  • 你以为作为一个鳄鱼容易。
  • 安慰
关注官方微信
快速回复 返回顶部 返回列表