mxnet的并行计算为什么这么牛，是什么原理

它主要基于GPU运算而不是基于CPU运算。看说明：ScalesuptomultiGPUsanddistributedsettingwithautoparallelism

Amazon亲儿子MXNet与其他框架有哪些不同？|赠书

注

目前大部分深度学习框架都已开源，不仅提供了多种多样的接口和不同语言的API，而且拥有详细的文档和活跃的社区，因此设计网络更加灵活和高效。另外，几乎所有的深度学习框架都支持利用GPU训练模型，甚至在单机多卡和分布式训练方面都有很好的支持，因此训练模型的时间也大大缩短了。深度学习框架的这些优点让其在开源之初就大受欢迎，同时大大加速了学术界和工业界对深度学习算法的研究，所以最近几年各领域的算法模型如雨后春笋般不断刷新各种指标。

目前主流的深度学习框架不到10个，而且大部分框架都由大公司的工程师在维护，代码质量非常高，选择一个合适的框架不仅能加快算法的优化产出，还能提高线上部署的效率。当然不同高校实验室或者企业团队所用的深度学习框架都不大一样，不过你不用担心现在所用的框架在以后的工作中用不到，毕竟各框架的设计理念都有许多相似之处，但我建议你至少要深入了解其中一个深度学习框架，多动手写代码，读一读该框架的源码，以求能够灵活使用该框架实现自己的想法，当然，如果你能对开源社区有一定的贡献并一起推动该框架发展那自然是再好不过了。下面我们来从今天的主角开始一一介绍：

MXNet是亚马逊(Amazon)官方维护的深度学习框架。MXNet的前身是cxxnet。2015年年底，cxxnet正式迁移至MXNet，并在2016年年底成为Amazon的官方深度学习框架。MXNet采用的是命令式编程和符号式编程混合的方式，具有省显存、运行速度快等特点，训练效率非常高。2017年下半年推出的Gluon接口使得MXNet在命令式编程上更进一步，网络结构的构建更加灵活，同时混合编程的方式也使得Gluon接口兼顾了高效和灵活。2018年5月，MXNet正式推出了专门为计算机视觉任务打造的深度学习工具库GluonCV，该工具库提供了包括图像分类、目标检测、图像分割等领域的前沿算法复现模型和详细的复现代码，同时还提供了常用的公开数据集、模型的调用接口，既方便学术界研究创新，也能加快工业界落地算法。

PyTorch是Facebook官方维护的深度学习框架之一，是基于原有的Torch框架推出的Python接口。Torch是一种深度学习框架，其主要采用Lua语言，与主流的Python语言相比，学习Lua语言需要一定的成本，因此为了更加便于用户使用，基于Torch开发出了Python接口并不断优化，从而诞生了PyTorch。PyTorch采用的是命令式编程，搭建网络结构和调试代码非常方便，因此其很适合用于学术界研究试错，相信用过PyTorch的同学都会为该框架的灵活性所吸引。PyTorch于2017年年初开源，虽然比其他大部分深度学习框架开源时间要晚，但快速发展的PyTorch目前拥有较为完善的接口和文档，在众多深度学习框架中已经是出类拔萃、深受追捧。

Caffe是Facebook官方维护的深度学习框架之一，是老牌的深度学习框架，相信很多早期入门深度学习的人都用过Caffe，尤其是对安装Caffe时的依赖印象深刻。Caffe非常容易上手，同时开源时间较早，这些都为Caffe框架积累了丰富的预训练模型，使其在工业界和学术界都得到了广泛的应用。2017年4月，Facebook正式推出了Caffe的升级版Caffe2，在Facebook内部Caffe/Caffe2侧重于线上产品部署，PyTorch则侧重于研究试错。2018年4月，Caffe2的代码已经与PyTorch代码合并，目前代码已经迁移至PyTorch的GitHub地址：https://github.com/pytorch，并推出了PyTorch1.0。

TensorFlow是Google官方维护的深度学习框架。TensorFlow自2015年年底开源以来，在GitHub上的火热程度非同一般，也是目前使用最广泛的深度学习框架之一。TensorFlow为用户提供了丰富的接口、完善的社区、可视化工具TensorBord等。尤其是可视化工具TensorBord可以让用户查看和记录模型训练过程中的参数变化情况，从而方便对模型进行调优。经过几年的发展壮大，完善的生态为TensorFlow积累了越来越多的用户，这对于一个深度学习框架而言非常重要。

除了前面提到的几个深度学习框架之外，还有一些深度学习框架也非常受欢迎。Keras，一个基于TensorFlow和Theano且提供简洁的Python接口的深度学习框架，上手非常快，受欢迎程度非常高。Theano，老牌的深度学习框架之一，由蒙特利尔大学的机器学习团队开发，不过Theano的开发者在2017年下半年时宣布将终止Theano的开发和维护。CNTK，微软官方维护的深度学习框架，也是基于符号式编程。PaddlePaddle，百度官方维护的深度学习框架，是国内公司最早开源的深度学习框架。

MXNet的优势

在众多主流的深度学习框架中，很难说哪一个在各方面都占有绝对优势，但是假如你选择MXNet进行深度学习算法的开发和部署，相信你一定能体会到其运行速度快、省显存等优点。另外随着MXNet的不断推广，相关的学习资料也越来越多，社区越来越壮大，这对于MXNet而言是非常利好的。

MXNet从开源起就将命令式编程和符号式编程无缝衔接在一起，比如在设计神经网络结构时采用符号式编程得到计算图，然后根据计算图进行一系列的优化从而提高性能，而在训练模型过程中涉及的逻辑控制操作则可以通过命令式编程的方式实现。因此MXNet在灵活和高效之间取得了非常好的平衡，这使得MXNet不仅适合于学术界研究试错，也适合工业界进行线上部署。事实上，成功很少会有捷径，MXNet虽然是2015年年底开源，但在开源之前其实经历了较长的开发期，属于典型的厚积薄发。

就像任何事物都有两面性一样，几个主流的深度学习框架也各有优缺点。Caffe框架作为最优秀的深度学习框架之一，一直深受广大用户的欢迎，其优点是非常容易上手，积累的用户也很多；缺点是安装比较麻烦，会涉及各种环境依赖，另外要想灵活应用的话对新手而言还是比较困难的，而且该框架本身比较占用显存。TensorFlow是目前应用最为广泛的深度学习框架，TensorFlow的优点在于丰富的接口以及Google的强大技术支持，从开源以来，其积累了非常多的用户，并且随着学术界和工业界的不断推广，TensorFlow的用户群体也在不断壮大。TensorFlow宏观来看就是“大而全”，这种特点带来的问题就是其接口过于丰富，因此对于新人而言入门较难，往往会面临的问题是要实现一个简单的层却不知道该选择什么样的接口。PyTorch作为主流的深度学习框架中的后起之秀，是在原来已有的Torch框架上封装了Python接口并优化而成的，相信很多使用过PyTorch的读者都会被PyTorch的简洁所吸引，这得益于其命令式编程的设计方式，因此非常适合用于搞研究，或者称为快速试错；当然纯命令式编程的方式带来的问题是工业界线上部署的效率问题，所以Facebook内部对PyTorch的定位也是研究首选，而线上部署方面则是首选Caffe/Caffe2。另外由于PyTorch目前还在快速迭代中，所以文档和接口变化较大，新手需要一定的时间来适应。

那么为什么我推荐使用MXNet呢？有以下几个原因：

1）MXNet结合了命令式编程和符号式编程，因此兼顾了灵活和高效，既方便研究试错又适合线上部署。

2）框架比较稳定。MXNet从开源至今已经经历了早期开发时频繁迭代的阶段，目前接口基本上比较稳定，这将大大降低代码维护的成本。

3）MXNet在显存方面的优化做得非常好，可以帮助你节省机器资源，而且在训练相同的模型时，MXNet比大多数的深度学习框架的训练速度要快，这也能节省不少的训练时间。

4）MXNet安装方便，文档清晰，例子丰富，非常方便新人上手学习。

总结起来，对于深度学习框架而言，没有最好的，只有最适合的。如果在高校做研究，那么我会推荐使用MXNet或者PyTorch，这两者非常便于设计网络结构和调试；如果是在工业界需要上线部署模型，那么我会推荐使用MXNet、TensorFlow或Caffe。

以上内容来自《MXNet深度学习实战：计算机视觉算法实现》

《MXNet深度学习实战：计算机视觉算法实现》

出版时间：2019年6月

扫码了解详情

推荐理由：

通过阅读本书，你将学到：

MXNet、TensorFlow、Pytorch、Caffe等深度学习框架的差异

MXNet框架各主要模块的技术原理和应用实践

MXNet在图像分类、目标检测、图像分割中的应用，以及相关算法的训练、模型测试和实现细节

基于动态图构建网络结构的Gluon接口

MXNet专门为计算机视觉任务推出的深度学习库GluonCV

从零开始实现深度学习和计算机视觉算法的方法

作者介绍：

魏凯峰

资深AI算法工程师和计算机视觉工程师，在MXNet、Pytorch、深度学习相关算法等方面有深入的研究和丰富的实践经验。

目前就职于网易杭州研究院，从事计算机视觉算法相关的工作，主要研究方向包括目标检测、图像分类、图像对抗算法、模型加速和压缩。

热衷于分享，坚持在Github上分享算法相关的代码，坚持在CSDN上撰写算法相关的博客，累计百余篇，访问量过百万。（博客地址：https://blog.csdn.net/u014380165）

福利到！

CSDN联合机械工业出版社华章公司来给我们的粉丝送书啦

参与方式：只要在此文留言，发表你对深度学习框架的看法，工作人员根据留言内容随机抽取5名粉丝赠送此文书籍一本

做码书商店我们是认真的！

pytorch是什么？

PyTorch是一个开源的机器学习框架，它基于Python，并建立在Torch的基础上。它提供了一个灵活而高效的方式来构建、训练和部署深度神经网络模型。

PyTorch的主要特点是动态计算图，这意味着我们可以在运行时根据需要修改计算图，从而更好地处理变长序列数据。此外，PyTorch还具备直观的API设计，使开发者能够快速进行模型实验和迭代。

它广泛应用于图像和语音处理、自然语言处理等领域，并且得到了许多机器学习和深度学习研究者的广泛关注和支持。

TensorFlow、PyTorch、MXNet等深度学习框架在对象检测和语义分割中的优缺点分析

   对象检测和语义分割是计算机视觉领域的两个重要任务。随着深度学习技术的不断发展，出现了很多流行的深度学习框架，如TensorFlow、PyTorch、MXNet、Caffe等。这些框架提供了丰富的神经网络模型和算法，方便开发者快速搭建和训练自己的模型。

    一、TensorFlow

    TensorFlow是谷歌开发的一个开源深度学习框架，具有高度的灵活性和可扩展性。TensorFlow提供了丰富的API和工具，方便开发者进行模型设计、训练和部署。TensorFlow支持CPU和GPU加速，可以在各种硬件平台上运行。

    在对象检测任务中，TensorFlow提供了一些流行的模型，如SSD、FasterR-CNN、YOLO等。这些模型在多个数据集上取得了很好的效果。TensorFlow还提供了一些工具，如TensorBoard、ObjectDetectionAPI等，方便开发者进行模型训练和调试。

    在语义分割任务中，TensorFlow提供了一些流行的模型，如FCN、U-Net、DeepLab等。这些模型在多个数据集上取得了很好的效果。TensorFlow还提供了一些工具，如TensorBoard、SegmentationModels等，方便开发者进行模型训练和调试。

    二、PyTorch

    PyTorch是Facebook开发的一个开源深度学习框架，具有简单易用和动态计算图的特点。PyTorch提供了丰富的API和工具，方便开发者进行模型设计、训练和部署。PyTorch支持CPU和GPU加速，可以在各种硬件平台上运行。

    在对象检测任务中，PyTorch提供了一些流行的模型，如FasterR-CNN、YOLO等。这些模型在多个数据集上取得了很好的效果。PyTorch还提供了一些工具，如Torchvision、Detectron2等，方便开发者进行模型训练和调试。

    在语义分割任务中，PyTorch提供了一些流行的模型，如FCN、U-Net、DeepLab等。这些模型在多个数据集上取得了很好的效果。PyTorch还提供了一些工具，如Torchvision、SegmentationModels等，方便开发者进行模型训练和调试。

    三、MXNet

    MXNet是亚马逊开发的一个开源深度学习框架，具有高效的分布式计算和跨平台支持的特点。MXNet提供了丰富的API和工具，方便开发者进行模型设计、训练和部署。MXNet支持CPU和GPU加速，可以在各种硬件平台上运行。

    在对象检测任务中，MXNet提供了一些流行的模型，如SSD、FasterR-CNN、YOLO等。这些模型在多个数据集上取得了很好的效果。MXNet还提供了一些工具，如GluonCV等，方便开发者进行模型训练和调试。

    在语义分割任务中，MXNet提供了一些流行的模型，如FCN、U-Net、DeepLab等。这些模型在多个数据集上取得了很好的效果。MXNet还提供了一些工具，如GluonCV等，方便开发者进行模型训练和调试。

    四、Caffe

    Caffe是由伯克利的研究人员开发的一个开源深度学习框架，具有高效的计算和可移植性的特点。Caffe提供了丰富的API和工具，方便开发者进行模型设计、训练和部署。Caffe支持CPU和GPU加速，可以在各种硬件平台上运行。

    在对象检测任务中，Caffe提供了一些流行的模型，如FasterR-CNN、YOLO等。这些模型在多个数据集上取得了很好的效果。Caffe还提供了一些工具，如CaffeNet等，方便开发者进行模型训练和调试。

    在语义分割任务中，Caffe提供了一些流行的模型，如FCN、SegNet等。这些模型在多个数据集上取得了很好的效果。Caffe还提供了一些工具，如CaffeSeg等，方便开发者进行模型训练和调试。

    五、Keras

    Keras是一个高级神经网络API，可以运行在TensorFlow、Theano、CNTK等多个深度学习框架之上。Keras提供了简单易用的API和工具，方便开发者进行模型设计、训练和部署。

    在对象检测任务中，Keras可以使用TensorFlow实现一些流行的模型，如SSD、FasterR-CNN、YOLO等。这些模型在多个数据集上取得了很好的效果。Keras还提供了一些工具，如KerasRetinaNet等，方便开发者进行模型训练和调试。

    在语义分割任务中，Keras可以使用TensorFlow实现一些流行的模型，如FCN、U-Net、DeepLab等。这些模型在多个数据集上取得了很好的效果。Keras还提供了一些工具，如KerasSegNet等，方便开发者进行模型训练和调试。

    六、CNTK

    CNTK是微软开发的一个开源深度学习框架，具有高效的计算和跨平台支持的特点。CNTK提供了丰富的API和工具，方便开发者进行模型设计、训练和部署。CNTK支持CPU和GPU加速，可以在各种硬件平台上运行。

    在对象检测任务中，CNTK提供了一些流行的模型，如FasterR-CNN、YOLO等。这些模型在多个数据集上取得了很好的效果。CNTK还提供了一些工具，如CNTKFasterR-CNN等，方便开发者进行模型训练和调试。

    在语义分割任务中，CNTK提供了一些流行的模型，如FCN、U-Net、DeepLab等。这些模型在多个数据集上取得了很好的效果。CNTK还提供了一些工具，如CNTKSegNet等，方便开发者进行模型训练和调试。

    总结：

    上述介绍的深度学习框架都是目前比较流行的，它们都在对象检测和语义分割任务中得到广泛应用。不同的框架有不同的特点和优势，开发者可以根据自己的需求和背景选择适合自己的框架。同时，这些框架也在不断地发展和更新，为开发者提供更好的支持和服务。

从PyTorch到Mxnet，对比7大Python深度学习框架

选择什么深度学习框架一直是开发者非常关心的一个话题，而且深度学习框架之间的「战争」也越来越激烈。过去一段时间，我们发过多篇机器学习框架的对比文章，但随着Python逐渐成为机器学习社区最受欢迎的语言，支持Python的深度学习框架的性能也值得关注。IndicoDataSolutions的CTOMadisonMay根据他们公司在产品和开发过程中的经验对7大Python深度学习框架进行了对比，希望这篇文章能对机器之心的读者有所帮助。

最近我无意间在「BestPythonlibraryforneuralnetworks」话题下发现了一个我以前的数据科学栈交换（DataScienceStackExchange）的答案，并且Python深度学习生态系统在过去两年半中的演变打击到了我。我在2014年7月推荐的库，pylearn2，已经不再被积极地开发或者维护，大量的深度学习库开始接替它的位置。这些库每一个都各有千秋。我们已经在indico的产品或者开发中使用了以下列表中的大部分的技术，但是对于剩下一些我们没有使用的，我将会借鉴他人的经验来帮助给出2017年Python深度学习生态系统的清晰的、详尽的理解。

确切地说，我们将会关注：

Theano

Lasagne

Blocks

TensorFlow

Keras

MXNet

PyTorch

Theano

链接：https://github.com/Theano/Theano

描述：Theano是一个Python库，允许你定义、优化并且有效地评估涉及到多维数组的数学表达式。它与GPUs一起工作并且在符号微分方面表现优秀。

文档：http://deeplearning.net/software/theano/

概述：Theano是数值计算的主力，它支持了许多我们列表当中的其他的深度学习框架。Theano由FrédéricBastien创建，这是蒙特利尔大学机器学习研究所（MILA）背后的一个非常优秀的研究团队。它的API水平较低，并且为了写出效率高的Theano，你需要对隐藏在其他框架幕后的算法相当的熟悉。如果你有着丰富的学术机器学习知识，正在寻找你的模型的精细的控制方法，或者想要实现一个新奇的或者不同寻常的模型，Theano是你的首选库。总而言之，为了灵活性，Theano牺牲了易用性。

优点：

灵活

正确使用时的高性能

缺点：

较高的学习难度

低水平的API

编译复杂的符号图可能很慢

Lasagne

链接：https://github.com/Lasagne/Lasagne

描述：在Theano上建立和训练神经网络的轻量级库

文档：http://lasagne.readthedocs.org/

概述：因为Theano致力于成为符号数学中最先且最好的库，Lasagne提供了在Theano顶部的抽象，这使得它更适合于深度学习。它主要由当前DeepMind研究科学家SanderDieleman编写并维护。Lasagne并非是根据符号变量之间的函数关系来指定网络模型，而是允许用户在层级思考，为用户提供了例如「Conv2DLayer」和「DropoutLayer」的构建块。Lasagne在牺牲了很少的灵活性的同时，提供了丰富的公共组件来帮助图层定义、图层初始化、模型正则化、模型监控和模型训练。

优点：

仍旧非常灵活

比Theano更高级的抽象

文档和代码中包含了各种PastaPuns

缺点：

社区小

Blocks

链接：https://github.com/mila-udem/blocks

描述：用于构建和训练神经网络的Theano框架

文档：http://blocks.readthedocs.io/en/latest/

概述：与Lasagne类似，Blocks是在Theano顶部添加一个抽象层使深度学习模型比编写原始的Theano更清晰、更简单、定义更加标准化。它是由蒙特利尔大学机器学习研究所（MILA）编写，其中一些人为搭建Theano和第一个神经网络定义的高级接口（已经淘汰的PyLearn2）贡献了自己的一份力量。比起Lasagne，Blocks灵活一点，代价是入门台阶较高，想要高效的使用它有不小的难度。除此之外，Blocks对递归神经网络架构（recurrentneuralnetworkarchitectures）有很好的支持，所以如果你有兴趣探索这种类型的模型，它值得一看。除了TensorFlow，对于许多我们已经部署在indico产品中的API，Blocks是其首选库。

优点：

仍旧非常灵活

比Theano更高级的抽象

易于测试

缺点：

较高的学习难度

更小的社区

TensorFlow

链接：https://github.com/tensorflow/tensorflow

描述：用于数值计算的使用数据流图的开源软件库

文档：https://www.tensorflow.org/api_docs/python/

概述：TensorFlow是较低级别的符号库（比如Theano）和较高级别的网络规范库（比如Blocks和Lasagne）的混合。即使它是Python深度学习库集合的最新成员，在GoogleBrain团队支持下，它可能已经是最大的活跃社区了。它支持在多GPUs上运行深度学习模型，为高效的数据流水线提供使用程序，并具有用于模型的检查，可视化和序列化的内置模块。最近，TensorFlow团队决定支持Keras（我们列表中下一个深度学习库）。虽然TensorFlow有着自己的缺点，但是社区似乎同意这一决定，社区的庞大规模和项目背后巨大的动力意味着学习TensorFlow是一次安全的赌注。因此，TensorFlow是我们今天在indico选择的深度学习库。

优点：

由软件巨头Google支持

非常大的社区

低级和高级接口网络训练

比基于Theano配置更快的模型编译

完全地多GPU支持

缺点：

虽然Tensorflow正在追赶，但是最初在许多基准上比基于Theano的慢。

RNN支持仍不如Theano

Keras

链接：https://github.com/fchollet/keras

描述：Python的深度学习库。支持Convnets、递归神经网络等。在Theano或者TensorFlow上运行。

文档：https://keras.io/

概述：Keras也许是水平最高，对用户最友好的库了。由FrancisChollet（GoogleBrain团队中的另一个成员）编写和维护。它允许用户选择其所构建的模型是在Theano上或是在TensorFlow上的符号图上执行。Keras的用户界面受启发于Torch，所以如果你以前有过使用Lua语言的机器学习经验，Keras绝对值得一看。由于部分非常优秀的文档和其相对易用性，Keras的社区非常大并且非常活跃。最近，TensorFlow团队宣布计划与Keras一起支持内置，所以很快Keras将是TensorFlow项目的一个分组。

优点：

可供选择的Theano或者TensorFlow后端

直观、高级别的端口

更易学习

缺点：

不太灵活，比其他选择更规范

MXNet

链接：https://github.com/dmlc/mxnet

描述：MXNet是一个旨在提高效率和灵活性的深度学习框架。

文档：http://mxnet.io/api/python/index.html#python-api-reference

优点：

速度的标杆

非常灵活

缺点：

最小的社区

比Theano更困难的学习难度

PyTorch

链接：https://github.com/pytorch/pytorch

描述：Python中的张量（Tensors）和动态神经网络，有着强大的GPU加速。

文档：http://pytorch.org/docs/

概述：刚刚放出一段时间，PyTorch就已经是我们Python深度学习框架列表中的一个新的成员了。它是从Lua的Torch库到Python的松散端口，由于它由Facebook的人工智能研究团队（ArtificialIntelligenceResearchteam(FAIR)）支持且因为它用于处理动态计算图（Theano，TensorFlow或者其他衍生品没有的特性，编译者注：现在TensorFlow好像支持动态计算图），它变得非常的有名。PyTorch在Python深度学习生态系统将扮演怎样的角色还不得而知，但所有的迹象都表明，PyTorch是我们列表中其他框架的一个非常棒的选择。

优点:

来自Facebook组织的支持

完全地对动态图的支持

高级和低级API的混合

缺点：

比其他选择，PyTorch还不太成熟（用他们自己的话说—「我们正处于早期测试版本。期待一些冒险」）

除了官方文档以外，只有有限的参考文献/资源

今日好课推荐

Python作为目前最火的编程语言之一

学习Python的人日渐增多

学习了基础理论，仍然对Python实际运用一头雾水

无法独立完成一套程序的开发

这套课程中麦子学院首席讲师张凌华老师不谈理论

直接从案例入手，带大家从0完成跨平台的记事本程序开发

（完全免费哦！！快戳↓↓↓）

选自kdnuggets

作者：MadisonMay

机器之心编译

参与：王宇欣、李亚洲

目前100000+人已关注加入我们

DL框架的未来发展，TensorFlow/MXNet/Torch，选哪个

优点：支持python，模型库全，搭模型快，关注度极高，迭代快，可用GPU加速。缺点：内部许多类的抽象不合理。命名略显混乱。查看中间层输出不够直接。模型需要compile这些优缺点很大程度上都是因为现行版本将theano深度耦合

大数据开发与人工智能哪个学起来比较难？如何学好大数据与人工智能？

我的研究方向就是大数据和人工智能，目前我也在带研发团队做相关的落地项目，所以我来回答一下这个问题。

大数据的研发围绕数据展开，涉及到数据的采集、整理、传输、存储、安全、分析、呈现和应用等内容，涉及到的岗位也非常多，这其中有的岗位有一定的难度，比如数据安全、分析等，有的岗位难度相对较小，比如数据整理、数据清洗等。

大数据的发展极大促进了人工智能的发展，因为数据是智能的基础，所以从这个角度来看，大数据的发展与人工智能的发展必然是互相促进的。我就是从大数据研发转向机器学习的，进而进入人工智能领域，这也是很多人进入人工智能领域的途径。

机器学习涉及到的核心步骤包括数据收集、算法设计、算法训练、算法验证和算法应用等，这其中数据是机器学习的基础，只有具备了足够的训练数据才能让机器学习顺利进行，而大数据的特点就是海量数据。

人工智能的研究主要涉及到六大部分，分别是自然语言处理、知识表示、自动推理、机器学习、计算机视觉和机器人学，可以说人工智能是典型的多学科交叉专业，涉及到的内容多且复杂，所以人工智能虽然经历了半个多世纪的发展，但是目前仍然处在初级阶段。目前随着大数据的发展，在很多特定场景下已经有大量的智能体（Agent）在实际应用，相信未来智能体的应用将更加普遍。

大数据和人工智能都不简单，都需要一个系统的学习过程和长期的实验，二者联系紧密，可以说你中有我、我中有你。从学习的角度出发，建议从大数据开始学起，这样会更加顺利一些。

我目前在带队做基于机器学习的智能诊疗项目，我会陆续在头条上写一些相关的科普文章，感兴趣的朋友可以关注我的头条号，相信一定会有所收获。

如果有大数据或者机器学习方面的问题，也可以咨询我。

谢谢！

cuda版本和cpu版本的pytorch有啥区别？

回答如下：CUDA版本的PyTorch是指使用了CUDA（Compute Unified Device Architecture）技术的PyTorch版本，该版本可以在NVIDIA GPU上运行，利用GPU的并行计算能力加速模型训练和推断。而CPU版本的PyTorch则是指在CPU上运行的PyTorch版本。

主要区别如下：

1. 性能：CUDA版本的PyTorch可以利用GPU的并行计算能力，因此在训练和推断过程中通常比CPU版本的PyTorch更快。

2. 并行计算能力：GPU相对于CPU具有更高的并行计算能力，可以同时处理更多的数据和任务，因此CUDA版本的PyTorch可以更好地利用GPU的并行计算能力，提高模型的训练和推断效率。

3. 内存容量：GPU通常具有较大的内存容量，可以容纳更大规模的数据和模型，而CPU的内存容量较小。因此，CUDA版本的PyTorch可以处理更大规模的数据和模型。

4. 硬件要求：CUDA版本的PyTorch需要具备支持CUDA的NVIDIA GPU，而CPU版本的PyTorch可以在任何具备x86架构的CPU上运行。

5. 安装和配置：CUDA版本的PyTorch需要安装CUDA Toolkit，并进行相关配置，而CPU版本的PyTorch无需额外的安装和配置。

需要注意的是，CUDA版本的PyTorch在某些情况下可能会出现与CPU版本不同的行为，例如某些操作或函数可能在GPU上运行时会产生不同的结果。因此，在使用CUDA版本的PyTorch时，需要注意相关文档和示例的说明。

请问思腾合力SCM人工智能云平台是什么？求解答？谢谢

SCM是思腾合力推出的一款支持机器学习与深度学习框架的GPU集群调度系统，基于HadoopYarn完成了对TensorFlow、MXNet、PyTorch、Keras、XGBoost等常用框架的集成。SCM经过两年的快速发展，目前已更新到V4.0版本，可以为用户提供数据处理、模型训练、模型部署三大功能，同时提供文件管理、分布式训练、多用户管理等多种额外功能，极大地提高了GPU服务器的资源利用率，节约了用户的时间，而且具有高性能、易用性和稳定性三大特点。

【李沐】十分钟从PyTorch转MXNet

MXNet作者/亚马逊主任科学家 李沐

精彩回顾

2018新智元产业跃迁AI技术峰会圆满结束，点击链接回顾大会盛况：

爱奇艺    http://www.iqiyi.com/l_19rr3aqz3z.html 

腾讯新闻http://v.qq.com/live/p/topic/49737/preview.html 

新浪科技http://video.sina.com.cn/l/p/1722511.html 

云栖社区https://yq.aliyun.com/webinar/play/419  

斗鱼直播https://www.douyu.com/432849 

天池直播间  http://t.cn/RnQPhuY

IT大咖说http://www.itdks.com/eventlist/detail/1992

 新智元推荐  

作者：MXNet作者/亚马逊主任科学家 李沐

【新智元导读】PyTorch 是一个纯命令式的深度学习框架。它因为提供简单易懂的编程接口而广受欢迎，而且正在快速的流行开来。MXNet通过ndarray和 gluon模块提供了非常类似PyTorch的编程接口。本文将简单对比如何用这两个框架来实现同样的算法。

PyTorch 是一个纯命令式的深度学习框架。它因为提供简单易懂的编程接口而广受欢迎，而且正在快速的流行开来。例如Caffe2最近就并入了PyTorch。

可能大家不是特别知道的是，MXNet通过 ndarray 和 gluon 模块提供了非常类似PyTorch的编程接口。本文将简单对比如何用这两个框架来实现同样的算法。

PyTorch默认使用conda来进行安装，例如

而MXNet更常用的是使用pip。我们这里使用了 --pre 来安装nightly版本

多维矩阵

对于多维矩阵，PyTorch沿用了Torch的风格称之为tensor，MXNet则追随了NumPy的称呼ndarray。下面我们创建一个两维矩阵，其中每个元素初始化成1。然后每个元素加1后打印。

PyTorch:

MXNet:

忽略包名的不一样的话，这里主要的区别是MXNet的形状传入参数跟NumPy一样需要用括号括起来。

下面我们看一个稍微复杂点的例子。这里我们使用一个多层感知机（MLP）来在MINST这个数据集上训练一个模型。我们将其分成4小块来方便对比。

读取数据

这里我们下载MNIST数据集并载入到内存，这样我们之后可以一个一个读取批量。

PyTorch:

MXNet:

这里的主要区别是MXNet使用 transform_first 来表明数据变化是作用在读到的批量的第一个元素，既MNIST图片，而不是第二个标号元素。

下面我们定义一个只有一个单隐层的MLP。

PyTorch:

MXNet:

我们使用了 Sequential 容器来把层串起来构造神经网络。这里MXNet跟PyTorch的主要区别是：

不需要指定输入大小，这个系统会在后面自动推理得到

全连接和卷积层可以指定激活函数

需要创建一个 name_scope 的域来给每一层附上一个独一无二的名字，这个在之后读写模型时需要

我们需要显示调用模型初始化函数。

大家知道 Sequential 下只能神经网络只能逐一执行每个层。PyTorch可以继承 nn.Module 来自定义 forward 如何执行。同样，MXNet可以继承 nn.Block 来达到类似的效果。

PyTorch:

MXNet:

这里我们使用交叉熵函数和最简单随机梯度下降并使用固定学习率0.1

最后我们实现训练算法，并附上了输出结果。注意到每次我们会使用不同的权重和数据读取顺序，所以每次结果可能不一样。

PyTorch

MXNet

MXNet跟PyTorch的不同主要在下面这几点：

不需要将输入放进 Variable，但需要将计算放在 mx.autograd.record() 里使得后面可以对其求导

不需要每次梯度清0，因为新梯度是写进去，而不是累加

step 的时候MXNet需要给定批量大小

需要调用 asscalar() 来将多维数组变成标量。

这个样例里MXNet比PyTorch快两倍。当然大家对待这样的比较要谨慎。

下一步

更详细的MXNet的教程：http://zh.gluon.ai/

欢迎给我们留言哪些PyTorch的方便之处你希望MXNet应该也可以有

精彩回顾

2018新智元产业跃迁AI技术峰会圆满结束，点击链接回顾大会盛况：

爱奇艺    http://www.iqiyi.com/l_19rr3aqz3z.html 

腾讯新闻http://v.qq.com/live/p/topic/49737/preview.html 

新浪科技http://video.sina.com.cn/l/p/1722511.html 

云栖社区https://yq.aliyun.com/webinar/play/419  

斗鱼直播https://www.douyu.com/432849 

天池直播间  http://t.cn/RnQPhuY

IT大咖说http://www.itdks.com/eventlist/detail/1992