主流移动端深度学习框架大盘点 AI开发者看过来 (移动端最强设备)

简书作者 dangbo 在《移动端深度学习展望》一文中对现阶段的移动端深度学习做了相关展望。作者认为，现阶段的移动端 APP 主要通过以下两种模式来使用深度学习：

当前移动端的三大框架（Caffe2、TensorFlow Lite、Core ML）均使用 offline 方式，该方式可在无需网络连接的情况下确保用户数据的私密性。

各主流移动端深度学习框架诞生时间如下：

接下来，雷锋网 AI 研习社将介绍当前主流的移动端深度学习框架，其中包括移动端三大框架——FAcebook、谷歌、苹果三大巨头发布的 Caffe2、TensorFlow Lite、Core ML，新秀 Bender，国产百度 MDL 以及支持移动端的 MXNet，以便刚刚入坑的开发者们对这些框架有初步的了解和认识。

Facebook 开源 Caffe2，最终将其并入 PyTorch

2017 年 4 月 19 日的 F8 年度开发者大会上，Facebook 发布了一款全新的开源深度学习框架——Caffe2，按照 Caffe2 官网介绍，它最大的特点就是轻量、模块化和可扩展性，即一次编码，到处运行（和 Java 的宣传语类似）。说得更直白一点，就是 Caffe2 可以方便地为手机等移动终端设备带来 AI 加持，让 AI 从云端走向终端。

Caffe2 在此前流行的开源框架 Caffe 基础上进行了重构和升级，一方面集成了诸多新出现的算法和模型，另一方面在保证运算性能和可扩展性的基础上，重点加强了框架在轻量级硬件平台的部署能力。它可以部署在包括 iOS，Android，英伟达 Tegra X1 和树莓派（Raspberry Pi）等在内的各种移动平台上。用户只需要加载 Caffe2 框架，然后通过几行简单的 API 接口调用（Python 或 C++），就能在手机 APP 上实现图像识别、自然语言处理和计算机视觉等各种 AI 功能。此外，Caffe2 还对 Caffe 平台的另一项核心竞争力：Model Zoo 社区方面提供了完整的支持。

除了框架自身，Caffe2 还获得了一系列的云平台支持，例如亚马逊 AWS 旗下的 Deep Learning AMI和微软 Azure 旗下>

GitHub 地址：

Caffe2go 移动端项目 Github 链接:

谷歌移动端深度学习框架 TensorFlow Lite，有望成为移动端模型部署推荐解决方案

谷歌于美国时间 2017 年 11 月 14 日正式发布 TensorFlow Lite 预览版，这一框架主要用于移动端和嵌入式设备，顾名思义，相较于 TensorFlow，TensorFlow Lite 是一个轻量化版本。这个开发框架专门为机器学习模型的低延迟推理做了优化，专注于更少的内存占用以及更快的运行速度。

TensorFlow Lite 具备以下三个重要功能：

轻量级（Lightweight）：支持机器学习模型的推理在较小二进制数下进行，能快速初始化/启动

跨平台（Cross-platform）：可以在许多不同的平台上运行，现在支持 Android 和 iOS

快速（Fast）：针对移动设备进行了优化，包括大大减少了模型加载时间、支持硬件加速

结构

下图是 TensorFlow Lite 的结构设计：

模块如下:

模型

TensorFlow Lite 目前支持很多针对移动端训练和优化好的模型。

TensorFlow Lite 发布一个月后，谷歌即宣布与苹果达成合作——TensorFlow Lite 将支持 Core ML。TensorFlow Lite 为 Core ML 提供支持后，iOS 开发者就可以利用 Core ML 的优势来部署模型。

目前，该框架还在不断更新与升级中，随着 TensorFlow 的用户群体越来越多，同时得益于谷歌的背书，假以时日，TensorFlow Lite 极大可能会成为在移动端和嵌入式设备上部署模型的推荐解决方案。

TensorFlow Lite 文档页面：

Core ML 转化器页面：

pypi pip 安装包地址：

苹果 Core ML：离线状态下，隐私与 AI 可兼得

苹果在 2017WWDC 大会更新 iOS 11 时一并推出了面向开发者的全新机器学习框架——Core ML，声称能让本地数据处理愈加方便快捷。据介绍，Core ML 提供支持人脸追踪、人脸检测、地标、文本检测、条码识别、物体追踪、图像匹配等任务的 API。

据雷锋网 AI 研习社了解，Core ML 是一个基础机器学习框架，能用于众多苹果的产品，包括 Siri、相机和 QuickType。据官方介绍，Core ML 带来了极速的性能提升和机器学习模型的轻松整合，能将众多机器学习模型集成到 APP 中。它不但有 30 多种层来支持广泛的深度学习，而且还支持诸如树集成、SVM 和广义线性模型等标准模型。

苹果在 Core ML 开发文档中如此介绍：

Core ML 在设备上严格运行，确保了用户隐私数据，在无网络连接的情况下依然能够响应用户操作。

CORE ML 相关技术

可以在 iPhONE 内置应用中利用 Core ML 的优势，提升或实现如 Siri 语音识别、相机应用中识别人脸、QuickType 打字联想等新特性。Core ML+Vision 应用场景如下所示：

另外，还可以使用 Vision 驱动 Core ML，即在使用 Core ML 进行机器学习时，用 Vision 框架进行一些数据预处理。

Core ML 文档地址：

Bender：基于 Metal 的机器学习框架

2017 年 3 月份左右，XMART LABS 在 GitHub 上开源了 Bender，它是一个基于 Metal 的机器学习框架，它允许你在 IOS APP 上轻松地定义和运行神经网络，该框架在底层使用了苹果的 Metal Performance Shaders。

XMART LABS 在 Github 上对 Bender 进行了这样的描述：

优势

使用 Bender 开发 APP 的示例如下。

Bender 页面网址：

Github 地址：

百度开源移动端深度学习框架 MDL，可在苹果安卓系统自由切换

2017 年 9 月，百度在 GitHub 上开源了移动端深度学习框架 mobile-deep-learning（MDL）的全部代码以及脚本，这项研究旨在让卷积神经网络（CNNC）能更简单和高速的部署在移动端，支持 iOS GPU，目前已经在百度 APP 上有所使用。

MDL 具有体积小和速度快的特点。

特征

GitHub 地址：

MXNet： AWS 官方深度学习框架，支持移动端开发

MXNet 是一款开源的、轻量级、可移植的、灵活的深度学习库，它让用户可以混合使用符号编程模式和指令式编程模式来最大化效率和灵活性，目前已经是 AWS 官方推荐的深度学习框架。

MXNet 的核心是一个动态的依赖调度器，支持自动将计算任务并行化到多个 GPU 或分布式集群（支持 AWS、Azure、Yarn 等)。它上层的计算图优化算法可以让符号计算执行得非常快，而且节约内存，开启 mirror 模式会更加省内存，甚至可以在某些小内存 GPU 上训练其他框架因显存不够而训练不了的深度学习模型。

MXNet 支持在移动设备（Android、iOS）上运行基于深度学习的图像识别等任务，它的性能如下：

此外，MXNet 的一个很大的优点是支持多语言封装，比如 C++、Python、R、Julia、Scala、Go、MATLAB 和 JavaScript。在 MXNet 中构建一个网络需要的时间可能比 Keras、Torch 这类高度封装的框架要长，但是比直接用 Theano 等要快。MXNet 的各级系统架构（下面为硬件及操作系统底层，逐层向上为越来越抽象的接口）如下图所示。

Apache MXNet 官方网站：

（完）

原创文章，未经授权禁止转载。详情见 转载须知 。

上一篇：流量科技圈事件的结尾是十万加那些求更新流

下一篇：之父讲解Keras几行代码就能在分布式环境训