1. 首页
  2. TensorFlowNews

【2018年】11种深度学习框架影响力对比

点击上方“磐创AI”,选择“置顶公众号”

精品文章,第一时间送达

【2018年】11种深度学习框架影响力对比

源:Medium

编译:weakish

转载自:论智,未经允许不得二次转载

编者按:Jeff Hale根据网上招聘、调研报告、网络搜索、论文、教程、GitHub等数据,评估了11种深度学习框架的影响力。

现在数据科学领域最热门的方向仍旧是深度学习。相应地,深度学习框架也处于飞速变革之中。现在最流行的框架,除Theano外,5年前都不存在。

我想搜集一些哪个框架更值得关注的证据,所以我搞了这个影响力评分。我使用了7个不同类别的11个数据源,以评估框架的使用量、兴趣、流行度。接着我对这些数据进行加权组合,得到了本文的结果。具体的代码可以在Kaggle Kernel上看到:discdiver/deep-learning-framework-power-scores-2018 2018年9月20日更新:应众多读者要求,我扩大了框架的评估范围,加入了Caffe、Deeplearning4J、Caffe2、Chainer。现在的评测包括了KDNuggets使用调研中所有报告使用率在1%以上的框架。

2018年9月21日更新:我改进了一些测度的方法。

不多啰嗦了,下面是深度学习框架的影响力评分:

【2018年】11种深度学习框架影响力对比

毫无疑问,TensorFlow位居第一。不过我有一些意料之外的发现,详情见下。

框架

评测的所有框架都是开源的,除了其中一个框架外都提供了Python接口,有些框架提供了R或其他语言的接口。

【2018年】11种深度学习框架影响力对比

TensorFlow是毫无争议的赢家。GitHub上最热,谷歌搜索最多,Medium文章、亚马逊书籍、ArXiv论文最多。使用TensorFlow的开发者最多,大多数网上招聘的工作描述中也提到了它。TensorFlow背后站着Google。

【2018年】11种深度学习框架影响力对比

Keras拥有“为人类而不是机器设计的API”。几乎各项评估中,它都是第二流行的框架。Keras以TensorFlow、Theano或CNTK为底层引擎。如果你是深度学习的新手,建议从Keras开始。

【2018年】11种深度学习框架影响力对比

总体而言,PyTorch是第三流行的框架,也是第二流行的独立框架。它比TensorFlow要年轻,流行度的增速十分迅猛。它也支持TensorFlow尚不支持的一些定制。PyTorch背后站着的是Facebook。

Caffe是第四流行的框架。它差不多快5岁了。相对而言,某些雇主还要求熟悉Caffe,一些学术论文也还用Caffe,但最近使用Caffe的人不多。

【2018年】11种深度学习框架影响力对比

Theano是蒙特利尔大学2007年研发的,也是最古老的有显著影响力的Python深度学习框架。它的流行度降了一大截,主要开发者也宣布不会再发布加入新功能的大版本了。不过,目前仍有一些更新。Theano仍然是排名第五的框架。

【2018年】11种深度学习框架影响力对比

亚马逊使用Apache孵化的MXNET。它是第六流行的深度学习库。

【2018年】11种深度学习框架影响力对比

CNTK是微软的认知工具集。它让我想起了微软其他很多产品,试图和谷歌、Facebook提供的工具竞争,但没赢得多少使用。

【2018年】11种深度学习框架影响力对比

Deeplearning4J,也称为DL4J,配套Java语言使用。它是唯一不提供Python接口的准流行框架。不过,你可以导入用Keras写的模型。这也是唯一一个两个不同的搜索项(Deeplearning4J和DL4J)偶尔返回不同结果的框架。我在每项测度中使用了较高的数字。由于这个框架的评分相当低,因此这并没有带来什么实质性的改变。

【2018年】11种深度学习框架影响力对比

Caffe2是另一个Facebook开源产品。它基于Caffe构建,现在是PyTorch项目的一部分(同一GitHub仓库)。由于现在Caffe2没有自己的代码仓库,我使用了旧仓库的GitHub数据。

【2018年】11种深度学习框架影响力对比

Chainer是由日本公司Preferred Networks开发的框架。它有一小批使用者。

【2018年】11种深度学习框架影响力对比

FastAI基于PyTorch构建。它的API借鉴了Keras,只需很少的代码(比Keras还要少)就可以得到强力的结果。目前而言,FastAI属于前沿框架,目前正处于为预计2018年10月发布的1.0版本重写代码的阶段。FastAI的作者Jeremy Howard是Kaggle的主席。他曾经写过一篇Introducing Pytorch for fast.ai,讨论为何FastAI从使用Keras转向创建自己的框架。

现在还没有什么职位需要用这个框架,本身使用也不广泛。然而,由于FastAI的免费在线课程很流行,自然而然就有不少使用者。这个框架强大易用,因此可能会很快普及。

标准

我选择了以下7个类别来评估深度学习框架的流行度和关注度。

  • 在线招聘描述

  • KDnuggets使用调研

  • 谷歌搜索量

  • Medium文章

  • 亚马逊数据

  • ArXiv论文

  • GitHub热度

数据采集自2018年9月16日至2018年9月21日,源数据可以通过谷歌试算表访问:https://docs.google.com/spreadsheets/d/1mYfHMZfuXGpZ0ggBVDot3SJMU-VsCsEGceEL8xd1QBo/edit?usp=sharing

我使用了Python的pandas库探索流行度,并使用plotly库进行可视化。如果你想要查看可交互的plotly图表,请访问我在文章开头提到过的Kaggle Kernel。

在线招聘描述

现在的工作市场上哪种深度学习库需求更高?我搜集了LinkedIn、Indeed、Simply Hired、Monster、Angel List的上的数据。

【2018年】11种深度学习框架影响力对比

毫无疑问,TensorFlow是这方面的赢家。如果你想找一份深度学习的工作,可以学一下TensorFlow。

我通过“machine learning”(机器学习)加库名的方式搜索。比如,“machine learning TensorFlow”。我测试了若干搜索方法,这个方法可以得到相关性最高的结果。

之所以额外加上一个搜索词,是因为有些框架的名字可能有歧义,比如Caffe可能有多种含义。

使用量

KDnuggets是一个流行的数据科学网站。它在调研软件使用情况的时候提问:

你在过去12个月的真实项目上用了什么分析、大数据、数据科学、机器学习软件?

【2018年】11种深度学习框架影响力对比

让人有点意外的是,Keras的使用量很高——差不多快赶上TensorFlow了。有意思,美国的雇主们热衷找具备TensorFlow技术的人,而Keras的使用率差不多一样高。

KDnuggets有好几年的数据。尽管我在分析中只使用了2018年的数据,我需要指出,2017年后,Caffe、Theano、MXNET、CNTK的使用量下降了。

谷歌搜索热度

最大搜索引擎上的网络搜索量是一项很好的评估流行度的指标。我查看了过去一年谷歌趋势的搜索历史。谷歌没有提供搜索量的绝对值,不过它提供了不同搜索项的对比图形。

【2018年】11种深度学习框架影响力对比

Keras和TensorFlow的差距不大,PyTorch位居第三,其他框架的搜索量相对较低。

现在,让我们简单看下搜索量随时间的改变趋势,这能提供历史上下文。Google自带两年搜索趋势变化的图表。

【2018年】11种深度学习框架影响力对比

红:TensorFlow;黄:Keras;蓝:PyTorch;绿:Caffe

过去一年里,TensorFlow的搜索量没什么显著增长,但Keras和PyTorch的搜索量增加了。谷歌趋势只允许同时比较五个搜索项,所以其他框架在另外的图表上比较——都没显示出什么明显的趋势,除了相对TensorFlow而言极低的搜索量。

发表

我纳入了多种发表类型。让我们先看下Medium文章。

Medium文章

Medium上有很多流行的数据科学文章和指南。

【2018年】11种深度学习框架影响力对比

终于出现新赢家了,Keras超过了TensorFlow,而相比其他评估项,FastAI的表现很突出。

我猜想这可能是因为Keras和FastAI对初学者更友好。新的深度学习从业者对这两个框架的兴趣较大,而Medium上有大量教程。

我使用了谷歌的站内搜索,限定时间为12个月内,使用框架名加“learning”(学习)作为关键词——同样是为了避免“caffe”带来的歧义。相比其他关键词组合,这导致的搜索结果下降最少。

现在让我们看下亚马逊上有关这些框架的书籍数量。

亚马逊书籍

我在Amazon.com的图书 > 计算机技术分类下搜索每个深度学习框架的名称。

【2018年】11种深度学习框架影响力对比

TensorFlow又获胜了。MXNET的书比期望的多,而Theano的书比期望的少。相对其流行度而言,PyTorch的书不多,这可能是因为这个框架比较年轻。注意这一测量偏向老框架,因为书的出版周期比较长。

ArXiv论文

机器学习方面的学术论文,最常发表在ArXiv上。我同样使用谷歌站内搜索,限定时间为12个月内。

【2018年】11种深度学习框架影响力对比

TensorFlow还是第一。注意,相比学术论文而言,Keras在Meidum和亚马逊上要流行得多。PyTorch在这一类别排名第二,显示它在实现新想法方面的灵活性。Caffe的评分也相对较好。

GitHub热度

GitHub热度是另一项框架流行度的指标。我为收藏、分叉、关注、贡献者分别制作了图表,因为这些数据更适合分别呈现,而不是混在一起。

【2018年】11种深度学习框架影响力对比

TensorFlow也是最流行的,有大量活跃用户。考虑到FastAI甚至还不满一岁,它在GitHub上的热度相当不错。有意思的是,相比另外三个测度,不同框架的贡献者数量总体而言比较接近。

收集、分析了所有数据后,是时候将它们整合成一个测度了。

影响力评分过程

我是这样得出影响力评分的:

  1. 将所有特征的尺度缩放至0到1

  2. 聚合在线招聘描述和GitHub热度的子类别

  3. 根据下图的权重对类别进行加权

    【2018年】11种深度学习框架影响力对比

    如上图所示,在线招聘描述、KDnuggets一组,网络搜索、发表、GitHub热度一组,平分权重。这样划分看起来是最合适的,平衡了多种类别。

  4. 为了便于查看,各项加权评分乘以100

  5. 累加每个框架的各项评分以得到单一的影响力评分

下为各个类别的统计数据:

【2018年】11种深度学习框架影响力对比

下为加权和聚合子类别后的各项评分:

【2018年】11种深度学习框架影响力对比

这就得到了文章开头的图表:

【2018年】11种深度学习框架影响力对比

100是最高可能得分,意味着在所有类别都是第一。TensorFlow几乎达到了100分,这并不令人意外,毕竟它在每个类别中都是第一(或者几乎是第一)。Keras毫无争议地位居第二。

我再重复一遍,如果你想要以可交互的方式查看图表,或者分叉Jupyter Notebook,请访问我开头提到的Kaggle Kernel。

未来

目前为止,TensorFlow的领先地位难以动摇。短期内,它应该会继续统治深度学习领域。不过,考虑到深度学习世界的飞速变革,长期来看,TensorFlow的领先可能发生变化。

时间会告诉我们,PyTorch是否能超越TensorFlow,就像React超越Angular一样。这两对框架还挺适合类比的。PyTorch和React都是由Facebook支撑的灵活度很高的框架,通常认为要比谷歌支撑的竞争者更容易使用。

FastAI能获取课程之外的用户吗?它有一大堆自带的学生用户,比Keras对初学者更友好的API。

你觉得未来会怎么样?请留言分享你的想法。

给学习者的建议

如果你掌握了Python、numpy、pandas、sklearn、matplotlib技能,考虑学习一个深度学习框架,我建议你从Keras开始。它的用户数量很大,也受到雇主的认可,Medium上也有很多文章可以参考,API也很容易使用。

如果你已经掌握了Keras,决定下一个要学习的框架不太容易。我建议你选择TensorFlow或者PyTorch,深入学习,以做出很棒的深度学习模型。

如果你想要熟练掌握需求量最大的框架,你应该选择TensorFlow。但研究人员很喜欢用PyTorch,因为它既易用又灵活。Quora上有一个关于选TensorFlow还是PyTorch的问题:https://www.quora.com/Should-I-go-for-TensorFlow-or-PyTorch

如果你具备了这些框架的经验,我建议你留意下FastAI。如果你想学习基础和高级的深度学习技能,可以看下FastAI的免费在线课程。FastAI 1.0许诺让你可以很容易地实现最新的深度学习策略,并快速迭代。

不管你选什么框架,我希望你现在对哪个深度学习框架需求最高,使用最多,文章最多有所了解。

如果你觉得这篇文章有意思或者有帮助,请多多转发、点赞,让更多人看到这篇文章。

快乐深度学习!

原文地址:https://towardsdatascience.com/deep-learning-framework-power-scores-2018-23607ddf297a

你也许还想


 PyTorch 中使用深度学习(CNN和LSTM)的自动图像描述

   用卷积神经网络和自注意力机制实现QANet(问答网络)

   【ECCV 2018】谷歌AI超大规模图像竞赛,中国团队获目标检测冠军

欢迎扫码关注:

【2018年】11种深度学习框架影响力对比


【2018年】11种深度学习框架影响力对比 点击下方 |  | 了解更多

磐创AI:http://www.panchuangai.com/ 智能客服:http://www.panchuangai.com/ TensorFlow:http://panchuang.net 推荐关注公众号:磐创AI

原创文章,作者:fendouai,如若转载,请注明出处:http://panchuang.net/2018/10/07/526da749b7/

发表评论

电子邮件地址不会被公开。

联系我们

400-800-8888

在线咨询:点击这里给我发消息

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息