热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

图解python电子版_图解Numpy精翻版,一文带你入门Python数据处理

(关注AI新视野公众号,发送‘资料’二字,免费获取50G人工智能视频教程!)本文精心翻译自JayAlammar的博客:ht

(关注'AI新视野'公众号,发送‘资料’二字,免费获取50G人工智能视频教程!)

本文精心翻译自Jay Alammar的博客:https://jalammar.github.io/visual-numpy/,其用图解的方式详细介绍了 NumPy的功能和使用示例。

17e0ef619677

image

NumPy 是 Python 生态中数据分析、机器学习和科学计算的基础。它极大地简化了向量和矩阵的操作处理。Python 的一些主要软件包(如 scikit-learn、SciPy、pandas 和 tensorflow)都以 NumPy 作为其架构的基础部分。除了能对数值数据进行切片(slice)和切块(dice)之外,使用 NumPy 还能为处理和调试上述库中的高级实例带来极大的便利。

本文将介绍 NumPy 的一些主要方法,以及在将数据送入机器学习模型之前,numpy是如何表示不同类型数据(表格、图像、文本等)的。

import numpy as np

创建数组

通过传递一个 python 列表,并使用 np.array()来创建 NumPy 数组。python 创建的数组如下图右所示:

17e0ef619677

image

NumPy 提供了一些初始化数组的方法,例如 ones()、zeros() 和 random.random() 等方法。只要传递希望 NumPy 生成的元素维数即可:

17e0ef619677

image

一旦创建了数组,就可以随意操作啦。

数组运算

下面创建两个 NumPy 数组来展示数组运算功能。下图两个数组分别为 data 和 ones:

17e0ef619677

image

将它们按位置相加(即每行对应相加),直接输入 data + ones 即可:

17e0ef619677

image

除了加,还可以进行如下操作:

17e0ef619677

image

数组和单个数字之间也可以进行运算操作(即向量和标量之间的运算)。比如说,数组表示以英里为单位的距离,希望将其单位转换为千米。只需输入 data * 1.6 即可:

17e0ef619677

image

NumPy 是通过广播机制(broadcasting)来实现的,通过判断维数,来推测要进行的运算。

索引

可以像对 python 列表进行切片一样,对 NumPy 数组进行任意的索引和切片:

17e0ef619677

image

聚合

NumPy 还提供聚合功能:

17e0ef619677

image

除了 min、max 和 sum 之外,还可以使用 mean 得到平均值,使用 prod 得到所有元素的乘积,使用 std 得到标准差等等。

更多维度

上述的例子都是在一个维度上处理向量。NumPy 优雅的关键在于能够将上述所有方法应用到任意数量的维度。

创建矩阵

可以传递下列形状的 python 列表,使 NumPy 创建一个矩阵来表示它:

np.array([[1,2],[3,4]])

也可以使用上面提到的方法(ones()、zeros() 和 random.random()),只要传入一个描述创建的矩阵维数的元组即可:

17e0ef619677

image

矩阵运算

如果两个矩阵大小相同,可以使用算术运算符(+-*/)对矩阵进行加和乘。NumPy 将其视为 position-wise 运算:

17e0ef619677

image

也可以对不同大小的两个矩阵执行此类算术运算,但前提是某一个维度为 1(如矩阵只有一列或一行),在这种情况下,NumPy 使用广播规则执行算术运算:

点乘

算术运算和矩阵运算的一个关键区别是矩阵乘法使用点乘。NumPy 为每个矩阵赋予 dot() 方法,可以用它与其他矩阵执行点乘操作:

17e0ef619677

image

在上图的右下角添加了矩阵维数,来强调这两个矩阵的临近边必须有相同的维数。可以把上述运算视为:

17e0ef619677

image

矩阵索引

当处理矩阵时,索引和切片操作将更加有用:

17e0ef619677

image

矩阵聚合

可以像聚合向量一样聚合矩阵:

17e0ef619677

image

不仅可以聚合矩阵中的所有值,还可以使用 axis 参数执行跨行或跨列聚合:

17e0ef619677

image

转置和维度重塑

处理矩阵时的一个常见需求是旋转矩阵。当需要对两个矩阵执行点乘运算并对齐它们共享的维度时,通常需要进行转置。NumPy 数组有一个方便的方法 T 来求得矩阵转置:

17e0ef619677

image

在某些应用中,需要对特定矩阵的变换维度。在机器学习应用中,经常会有当某个模型对输入形状的要求与的数据集不同。NumPy 中的 reshape() 方法就可以发挥作用。只需将矩阵所需的新维度赋值给它即可。可以为维度赋值-1,NumPy 可以根据的矩阵推断出正确的维度:

17e0ef619677

image

更多维度

NumPy 可以在任意维度实现上述提到的所有内容。其中心数据结构被叫作 ndarray(N 维数组)。

17e0ef619677

image

在很多情况下,处理一个新的维度只需在 NumPy 函数的参数中添加一个逗号:

17e0ef619677

image

实际用法

以下是 NumPy 可实现的有用功能的实例演示。

公式

均方差公式,它是监督机器学习模型处理回归问题的核心:

17e0ef619677

image

在 NumPy 中实现该公式很容易:

17e0ef619677

image

这样做的好处在于,NumPy 并不关心 predictions 和 labels 包含一个值还是一千个值(只要它们大小相同)。可以通过一个示例依次执行上面代码行中的四个操作:

17e0ef619677

image

预测和标签向量都包含三个值,也就是说 n 的值为 3。减法后,得到的值如下:

17e0ef619677

image

然后将向量平方得到:

17e0ef619677

image

对这些值求和:

17e0ef619677

image

得到的结果即为该预测的误差值和模型质量评分。

数据表达

电子表格、图像、音频等需要处理和构建模型所需的数据类型,其中很多都适合在 n 维数组中表示:

表格

电子表格就是二维矩阵。电子表格中的每个工作表都可以是它自己的变量。python 中最流行的表格抽象是 pandas 数据帧,其在 NumPy 之上构建。

17e0ef619677

image

音频

音频文件是样本的一维数组。每个样本都是一个数字,代表音频信号的一小部分。CD 质量的音频每秒包含 44,100 个样本,每个样本是-65535 到 65536 之间的整数。这意味着如果有一个 10 秒的 CD 质量 WAVE 文件,可以将它加载到长度为 10 * 44,100 = 441,000 的 NumPy 数组中。如果想要提取音频的前一秒,只需将文件加载到 audio 的 NumPy 数组中,然后获取 audio[:44100]。

下面是一段音频文件:

17e0ef619677

image

其他时间序列数据也可以同样表示(如股票随时间变化的价格)。

图像

图像是尺寸(高度 x 宽度)的像素矩阵。

如果图像是黑白(即灰度)的,则每个像素都可以用单个数字表示(通常在 0(黑色)和 255(白色)之间)。

下图是一个图像文件的部分:

17e0ef619677

image

如果图像是彩色的,则每个像素由三个数字表示------红、绿和蓝。在这种情况下,需要一个三维数组(因为每个单元格只能包含一个数字)。因此彩色图像由尺寸为(高 x 宽 x3)的 ndarray 表示:

17e0ef619677

image

欢迎关注全平台AI自媒体 “AI新视野”,第一时间获取人工智能学术、产业前沿!



推荐阅读
  • 2018年人工智能大数据的爆发,学Java还是Python?
    本文介绍了2018年人工智能大数据的爆发以及学习Java和Python的相关知识。在人工智能和大数据时代,Java和Python这两门编程语言都很优秀且火爆。选择学习哪门语言要根据个人兴趣爱好来决定。Python是一门拥有简洁语法的高级编程语言,容易上手。其特色之一是强制使用空白符作为语句缩进,使得新手可以快速上手。目前,Python在人工智能领域有着广泛的应用。如果对Java、Python或大数据感兴趣,欢迎加入qq群458345782。 ... [详细]
  • 本文介绍了Python语言程序设计中文件和数据格式化的操作,包括使用np.savetext保存文本文件,对文本文件和二进制文件进行统一的操作步骤,以及使用Numpy模块进行数据可视化编程的指南。同时还提供了一些关于Python的测试题。 ... [详细]
  • 开发笔记:Python之路第一篇:初识Python
    篇首语:本文由编程笔记#小编为大家整理,主要介绍了Python之路第一篇:初识Python相关的知识,希望对你有一定的参考价值。Python简介& ... [详细]
  • 微软头条实习生分享深度学习自学指南
    本文介绍了一位微软头条实习生自学深度学习的经验分享,包括学习资源推荐、重要基础知识的学习要点等。作者强调了学好Python和数学基础的重要性,并提供了一些建议。 ... [详细]
  • 一、Hadoop来历Hadoop的思想来源于Google在做搜索引擎的时候出现一个很大的问题就是这么多网页我如何才能以最快的速度来搜索到,由于这个问题Google发明 ... [详细]
  • 搭建Windows Server 2012 R2 IIS8.5+PHP(FastCGI)+MySQL环境的详细步骤
    本文详细介绍了搭建Windows Server 2012 R2 IIS8.5+PHP(FastCGI)+MySQL环境的步骤,包括环境说明、相关软件下载的地址以及所需的插件下载地址。 ... [详细]
  • 第四章高阶函数(参数传递、高阶函数、lambda表达式)(python进阶)的讲解和应用
    本文主要讲解了第四章高阶函数(参数传递、高阶函数、lambda表达式)的相关知识,包括函数参数传递机制和赋值机制、引用传递的概念和应用、默认参数的定义和使用等内容。同时介绍了高阶函数和lambda表达式的概念,并给出了一些实例代码进行演示。对于想要进一步提升python编程能力的读者来说,本文将是一个不错的学习资料。 ... [详细]
  • svnWebUI:一款现代化的svn服务端管理软件
    svnWebUI是一款图形化管理服务端Subversion的配置工具,适用于非程序员使用。它解决了svn用户和权限配置繁琐且不便的问题,提供了现代化的web界面,让svn服务端管理变得轻松。演示地址:http://svn.nginxwebui.cn:6060。 ... [详细]
  • 背景应用安全领域,各类攻击长久以来都危害着互联网上的应用,在web应用安全风险中,各类注入、跨站等攻击仍然占据着较前的位置。WAF(Web应用防火墙)正是为防御和阻断这类攻击而存在 ... [详细]
  • 本文总结了使用不同方式生成 Dataframe 的方法,包括通过CSV文件、Excel文件、python dictionary、List of tuples和List of dictionary。同时介绍了一些注意事项,如使用绝对路径引入文件和安装xlrd包来读取Excel文件。 ... [详细]
  • Python脚本编写创建输出数据库并添加模型和场数据的方法
    本文介绍了使用Python脚本编写创建输出数据库并添加模型数据和场数据的方法。首先导入相应模块,然后创建输出数据库并添加材料属性、截面、部件实例、分析步和帧、节点和单元等对象。接着向输出数据库中添加场数据和历程数据,本例中只添加了节点位移。最后保存数据库文件并关闭文件。文章还提供了部分代码和Abaqus操作步骤。另外,作者还建立了关于Abaqus的学习交流群,欢迎加入并提问。 ... [详细]
  • 本文介绍了利用ARMA模型对平稳非白噪声序列进行建模的步骤及代码实现。首先对观察值序列进行样本自相关系数和样本偏自相关系数的计算,然后根据这些系数的性质选择适当的ARMA模型进行拟合,并估计模型中的位置参数。接着进行模型的有效性检验,如果不通过则重新选择模型再拟合,如果通过则进行模型优化。最后利用拟合模型预测序列的未来走势。文章还介绍了绘制时序图、平稳性检验、白噪声检验、确定ARMA阶数和预测未来走势的代码实现。 ... [详细]
  • {moduleinfo:{card_count:[{count_phone:1,count:1}],search_count:[{count_phone:4 ... [详细]
  • 在本教程中,我们将看到如何使用FLASK制作第一个用于机器学习模型的RESTAPI。我们将从创建机器学习模型开始。然后,我们将看到使用Flask创建AP ... [详细]
  • 2018年数字化转型调查
    PointSource发布了2018年数字化转型调查,主要发现包括:1、由于缺乏战略,企业迫切需要进行数字化转型。2、企业急于开始数字化转型过程,但他们缺乏进行智能投资的战 ... [详细]
author-avatar
深碍是碍u不是爱
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有