一、深度学习&＃xff08;deep Learning&＃xff09;
深度学习是机器学习的一个分支。是一种以人工神经网络为架构&＃xff0c;对数据进行特征学习的算法。
深度学习(DL, Deep Learning)是机器学习(ML, Machine Learning)领域中一个新的研究方向&＃xff0c;它被引入机器学习使其更接近于最初的目标——人工智能(AI, Artificial Intelligence)。
- 卷积&＃xff1a;自动提取特征值
- 全连接层&＃xff1a;主要做分类 或者 做一个识别
- Pooling层&＃xff1a;改变特征输出的大小&＃xff08;降维&＃xff09;
深度学习是学习样本数据的内在规律和表示层次&＃xff0c;这些学习过程中获得的信息对诸如文字&＃xff0c;图像和声音等数据的解释有很大的帮助。它的最终目标是让机器能够像人一样具有分析学习能力&＃xff0c;能够识别文字、图像和声音等数据。 深度学习是一个复杂的机器学习算法&＃xff0c;在语音和图像识别方面取得的效果&＃xff0c;远远超过先前相关技术。
层次分布&＃xff1a;
1、深度学习的应用
深度学习在搜索技术&＃xff0c;数据挖掘&＃xff0c;机器学习&＃xff0c;机器翻译&＃xff0c;自然语言处理&＃xff0c;多媒体学习&＃xff0c;语音&＃xff0c;推荐和个性化技术&＃xff0c;以及其他相关领域都取得了很多成果。深度学习使机器模仿视听和思考等人类的活动&＃xff0c;解决了很多复杂的模式识别难题&＃xff0c;使得人工智能相关技术取得了很大进步。
计算机视觉
香港中文大学的多媒体实验室是最早应用深度学习进行计算机视觉研究的华人团队。在世界级人工智能竞赛LFW&＃xff08;大规模人脸识别竞赛&＃xff09;上&＃xff0c;该实验室曾力压FaceBook夺得冠军&＃xff0c;使得人工智能在该领域的识别能力首次超越真人。
语音识别
微软研究人员通过与hinton合作&＃xff0c;首先将RBM和DBN引入到语音识别声学模型训练中&＃xff0c;并且在大词汇量语音识别系统中获得巨大成功&＃xff0c;使得语音识别的错误率相对减低30%。但是&＃xff0c;DNN还没有有效的并行快速算法&＃xff0c;很多研究机构都是在利用大规模数据语料通过GPU平台提高DNN声学模型的训练效率。
在国际上&＃xff0c;IBM、google等公司都快速进行了DNN&＃xff08;深度神经网络&＃xff09;语音识别的研究&＃xff0c;并且速度飞快。
国内方面&＃xff0c;阿里巴巴、科大讯飞、百度、中科院自动化所等公司或研究单位&＃xff0c;也在进行深度学习在语音识别上的研究。
自然语言处理等其他领域
很多机构在开展研究&＃xff0c;2013年&＃xff0c;Tomas Mikolov&＃xff0c;Kai Chen&＃xff0c;Greg Corrado&＃xff0c;Jeffrey Dean发表论文Efficient Estimation of Word Representations in Vector Space建立word2vector模型&＃xff0c;与传统的词袋模型&＃xff08;bag of words&＃xff09;相比&＃xff0c;word2vector能够更好地表达语法信息。深度学习在自然语言处理等领域主要应用于机器翻译以及语义挖掘等方面。
| 图像识别 | 物体识别 |
| 场景识别 |
| 人脸检测跟踪 |
| 人脸身份认证 |
| 自然语言处理技术 | 机器翻译 |
| 文本识别 |
| 聊天对话 |
| 语音技术 | 语音识别&＃xff08;科大讯飞&＃xff09; |
2、机器学习和深度学习的对比
| 机器学习 | 深度学习 |
| 算法 | 朴素贝叶斯、决策树等 | 神经网络&＃xff08;深度&＃xff09; 卷积神经网络&＃xff1a;图像 循环神经网络&＃xff1a;自然语言处理&＃xff08;NLP&＃xff09; |
| 领域 | 传统预测 | 图像、NLP等方向 |
&＃xff08;1&＃xff09;特征提取方面
最常用的框架当属Tensor Flow和PyTorch&＃xff0c;而Caffe和Caffe2次之
- PyTorch和Torch更适合用于学术研究&＃xff08;research&＃xff09;
- TensorFlow、Caffe、Caffe2更适用于工业界的生产环境部署&＃xff08;industrial production&＃xff09;
- Caffe适用于处理静态图像&＃xff08;static graph&＃xff09;&＃xff1b;Torch和PyTorch更适用于动态图像&＃xff08;dynamic graph&＃xff09;&＃xff1b;TensorFlow在两种情况下都适用
- TensorFlow和Kears是Google推出的
- PyTorch是由Facebook公司推出
4、深度学习必备基础
- 数学&＃xff1a;高等数学、线性代数、概率论与数理统计、最优化&＃xff08;凸优化&＃xff09;、博弈论
- 编程&＃xff1a;python语言
- 理论&＃xff1a;常见的理论&＃xff1a;CNN等
- 架构
- 熟悉一个平台&＃xff1a;TensorFlow(初学推荐)、PyTorch
- 常见架构&＃xff1a;VGG、YOLO系列&＃xff08;v1、v2、v3、v4、v5&＃xff09;
- 论文&＃xff1a;自己所研究领域的论文都可以
二、Tensorflow基础
1、认识Tensorflow
TensorFlow™是一个基于数据流编程&＃xff08;dataflow programming&＃xff09;的符号数学系统&＃xff0c;被广泛应用于各类机器学习&＃xff08;machine learning&＃xff09;算法的编程实现&＃xff0c;其前身是谷歌的神经网络算法库DistBelief 。
Tensorflow拥有多层级结构&＃xff0c;可部署于各类服务器、PC终端和网页并支持GPU和TPU高性能数值计算&＃xff0c;被广泛应用于谷歌内部的产品开发和各领域的科学研究 。
TensorFlow由谷歌人工智能团队谷歌大脑&＃xff08;Google Brain&＃xff09;开发和维护&＃xff0c;拥有包括TensorFlow Hub、TensorFlow Lite、TensorFlow Research Cloud在内的多个项目以及各类应用程序接口&＃xff08;Application Programming Interface, API&＃xff09;。自2015年11月9日起&＃xff0c;TensorFlow依据阿帕奇授权协议&＃xff08;Apache 2.0 open source license&＃xff09;开放源代码 。
2、Tensorflow特点
3、使用Tensorflow的代表性公司
4、分类
Tensorflow分为 CPU版本 和 GPU版本
CPU&＃xff1a;运行操作系统&＃xff0c;处理业务&＃xff0c;计算能力不是很突出
GPU&＃xff1a;图像处理显卡&＃xff0c;专门为计算设计&＃xff0c;计算部件比较多
&＃xff08;1&＃xff09;CPU和GPU比较
CPU&＃xff1a;核芯数少&＃xff08;仅几个&＃xff09;——> 综合能力比较强&＃xff08;班长&＃xff09;
- 每个核芯的速度更快、性能更强&＃xff0c;更适应于处理连续性&＃xff08;sequential&＃xff09;任务
GPU&＃xff1a;核芯数量多&＃xff08;几千个&＃xff09;——> 专做某一件事情&＃xff08;xx员工&＃xff09;
- 每个核芯的处理速度慢&＃xff0c;更适用于并行&＃xff08;parallel&＃xff09;任务
5、安装&＃xff08;cpu版本&＃xff09;
pip install tensorflow&＃61;&＃61;1.8 -i https://mirrors.aliyun.com/pypi/simple
京公网安备 11010802041100号