热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

csv导入pgsql不成功_PostgreSQL导入和导出CSV文件

PostgreSQL导入和导出CSV文件#psql-d数据库-U用户名#\encoding#showclient_en

PostgreSQL 导入和导出 CSV 文件

# psql -d 数据库 -U 用户名

# \encoding

# show client_encoding;

# set client_encoding = 'iso-8859-1'; //CSV文件字符格式,不然会乱码

# COPY 表名 FROM 'CSV文件' WITH DELIMITER ',' NULL AS '' CSV HEADER QUOTE AS '|';

# \q

***************************COPY 说明文档*********************

COPY

名称

COPY -- 在表和文件之间拷贝数据

语法

COPY tablename [ ( column [, ...] ) ]

FROM { 'filename' | STDIN }

[ [ WITH ]

[ BINARY ]

[ OIDS ]

[ DELIMITER [ AS ] 'delimiter' ]

[ NULL [ AS ] 'null string' ]

[ CSV [ HEADER ]

[ QUOTE [ AS ] 'quote' ]

[ ESCAPE [ AS ] 'escape' ]

[ FORCE NOT NULL column [, ...] ]

COPY { tablename [ ( column [, ...] ) ] | ( query ) }

TO { 'filename' | STDOUT }

[ [ WITH ]

[ BINARY ]

[ HEADER ]

[ OIDS ]

[ DELIMITER [ AS ] 'delimiter' ]

[ NULL [ AS ] 'null string' ]

[ CSV [ HEADER ]

[ QUOTE [ AS ] 'quote' ]

[ ESCAPE [ AS ] 'escape' ]

[ FORCE QUOTE column [, ...] ]描述

COPY 在表和文件之间交换数据。COPY TO 把一个表的所有内容都拷贝到一个文件,而 COPY FROM 从一个文件里拷贝数据到一个表里(把数据附加到表中已经存在的内容里)。COPY TO 还能拷贝 SELECT 查询的结果。

如果声明了一个字段列表,COPY 将只在文件和表之间拷贝已声明字段的数据。如果表中有任何不在字段列表里的字段,那么 COPY FROM 将为那些字段插入缺省值。

带文件名的 COPY 指示 PostgreSQL 服务器直接从文件中读写数据。如果声明了文件名,那么服务器必须可以访问该文件,而且文件名必须从服务器的角度声明。如果指定了 STDIN 或 STDOUT ,那么数据将在客户前端和服务器之间流动。

参数

tablename

现存表的名字(可以有模式修饰)

column

可选的待拷贝字段列表。如果没有声明字段列表,那么将使用所有字段。

query

一个必须用圆括弧包围的 SELECT 或 VALUES 命令,其结果将被拷贝。

filename

输入或输出文件的绝对路径。Windows 用户可能需要使用 E'' 字符串和双反斜线作为路径分割符。

STDIN

声明输入是来自客户端应用

STDOUT

声明输入前往客户端应用

BINARY

使用二进制格式存储和读取,而不是以文本的方式。在二进制模式下,不能声明 DELIMITER, NULL, CSV 选项。

OIDS

声明为每行拷贝内部对象标识(OID)。如果为一个 query 拷贝或者没有 OID 的表声明了 OIDS 选项,则抛出一个错误。

delimiter

在文件中分隔各个字段的单个字符。在文本模式下,缺省是水平制表符,在 CSV 模式下是一个逗号。

null string

这是一个代表 NULL 值的字符串。在文本模式下缺省是 \N ,在 CSV 模式下是一个没有引号的 NULL 。如果你不想区分 NULL 和空字符串,那么即使在文本模式下你可能也会使用一个空字符串。

【注意】在使用 COPY FROM 的时候,任何匹配这个字符串的字符串将被存储为 NULL 值,所以你应该确保你用的字符串和 COPY TO 相同。

CSV

打开逗号分隔变量(CSV)模式

HEADER

声明文件包含一个标题头行,包含文件中每个字段的名字。输出时,第一行包含表的字段名;输入时,第一行被忽略。

quote

声明 CSV 模式里的引号字符。缺省是双引号。

escape

声明在 CSV 模式下应该出现在数据里 QUOTE 字符值前面的字符。缺省是 QUOTE 值(通常是双引号)。

FORCE QUOTE

在 CSV COPY TO 模式下,强制在每个声明的字段周围对所有非 NULL 值都使用引号包围。NULL 输出从不会被引号包围。

FORCE NOT NULL

在 CSV COPY FROM 模式下,把声明的每个字段都当作它们有引号包围来处理,因此就没有 NULL 值。对于在 CSV 模式下的缺省空字符串(''),这样导致一个缺失的数值当作一个零长字符串输入。

输出

成功完成时,COPY 按照如下格式返回一个命令标签:

COPY count其中的 count 是拷贝的行数。

注意

COPY 只能用于表,不能用于视图。当然也可以用于 COPY (SELECT * FROM viewname) TO ...

BINARY 关键字将强制使用二进制对象而不是文本存储/读取所有数据。这样做在一定程度上比传统的拷贝命令快,但二进制拷贝文件在不同机器体系和 PostgreSQL 版本之间的移植性不是很好。

你对任何要 COPY TO 出来的数据必须有选取数据的权限,对任何要 COPY FROM 入数据的表必须有插入权限。

COPY 命令里面的文件必须是由服务器直接读或写的文件,而不是由客户端应用读写。因此,它们必须位于数据库服务器上或者可以被数据库服务器所访问,这些事情不应该由客户端来做。它们必须被运行 PostgreSQL 服务器的用户可读或写,而不是客户端。只允许数据库超级用户 COPY 一个文件,因为它允许读写任意服务器有权限访问的文件。

不要混淆 COPY 和 psql 的 \copy 指令。\copy 调用 COPY FROM STDIN 或 COPY TO STDOUT ,然后把数据抓取/存储到一个 psql 客户端可以访问的文件中。因此,使用 \copy 的时候,文件访问权限是由客户端而不是服务器端决定的。

建议在 COPY 里的文件名字总是使用绝对路径。在 COPY TO 的时候是由服务器强制进行的,但是对于 COPY FROM ,你的确可从一个相对路径的文件里读取。该路径将解释为相对于服务器的工作目录(通常是数据目录),而不是客户端的工作目录。

COPY FROM 会激活所有触发器和检查约束。不过,不会激活规则。

COPY 输入和输出被 DateStyle 影响。为了和其它 PostgreSQL 安装移植(它们可能是非缺省 DateStyle 设置),应该在使用 COPY TO 前把 DateStyle 设置为 ISO 。

COPY 在第一个错误处停下来。这些在 COPY TO 中不应该导致问题,但在 COPY FROM 时目标表会已经接收到早先的行,这些行将不可见或不可访问,但是仍然会占据磁盘空间。如果你碰巧拷贝大块数据文件的话,这些东西积累起来可能会占据相当大的磁盘空间。你可以调用 VACUUM 来恢复那些磁盘空间。

文件格式

文本格式

当不带 BINARY 或 CSV 选项使用 COPY 时,读写的文件是一个文本文件,每行代表表中一个行。行中的列(字段)用分隔符分开。字段值本身是由与每个字段类型相关的输出函数生成的字符串,或者是输入函数可接受的字符串。数据中使用特定的 NULL 字符串表示那些值为 NULL 的字段。如果输入文件的任意行包含比预期多或者少的字段,那么 COPY FROM 将抛出一个错误。如果声明了 OIDS ,那么 OID 将作为第一个字段读写,放在所有用户字段前面。

数据的结束可以用一个只包含反斜杠和句点(\.)的行表示。如果从文件中读取数据,那么数据结束的标记是不必要的,因为文件结束起的作用就很好了;但是在 3.0 之前的客户端协议里,如果在客户端应用之间拷贝数据,那么必须要有结束标记。

反斜杠字符(\)可以用在 COPY 里给那些会有歧义的字符进行逃逸(否则那些字符会被当做行或者字段分隔符处理)。特别是下面的字符如果是字段值的一部分时,必须前缀一个反斜杠:反斜杠本身、换行符、回车符、当前分隔符。

声明的空字符串被 COPY TO 不加任何反斜杠发送;与之相对,COPY FROM 在删除反斜杠之前拿它的输入与空字符串比较。因此,像 \N 这样的空字符串不会和实际数据值 \N 之间混淆(因为后者会表现成 \\N)。

COPY FROM 能够识别下列特殊反斜杠序列:

序列 含义

\b 反斜杠 (ASCII 8)

\f 进纸 (ASCII 12)

\n 换行符 (ASCII 10)

\r 回车符 (ASCII 13)

\t 水平制表符 (ASCII 9)

\v 垂直制表符 (ASCII 11)

\digits 反斜杠后面跟着一到三个八进制数,表示 ASCII 值为该数的字符

\xdigits 反斜杠 x 后面跟着一个或两个十六进制位声明指定数值编码的字符

目前,COPY TO 绝不会发出一个八进制或者十六进制反斜杠序列,但是它的确使用了上面列出的其它字符用于控制字符。

任何上表列出之外的其它反斜杠逃役字符将使用其字面含义。因此要小心添加不必要的反斜杠,因为这样做可能会生成一个含有数据结束标志(\.)的字符串或 NULL(默认为 \N)。这些字符串将在识别任何其它反斜杠逃逸之前被识别。

强烈建议生成 COPY 数据的应用把换行符和回车分别转换成 \n 和 \r 序列。目前可以用一个反斜杠和一个回车表示一个数据回车,以及用一个反斜杠和一个换行符表示一个数据换行符。不过,这样的表示在将来的版本中可能不会被接受。并且,如果在不同机器之间传递 COPY 文件,也非常容易出错(比如在 Unix 和 Windows 之间)。

COPY TO 将在每行的结尾用一个换行符(Unix 上是"\n",Windows 上是"\r\n")标记一行终止,但只是用于 COPY 到服务器文件里;为了在不同平台之间一致,COPY TO STDOUT 总是发送 "\n" 而不管服务器平台是什么。COPY FROM 可以处理那些以回车符、换行符、回车换行符作为行结束的数据。为了减少在数据中出现的未逃逸的新行或者回车导致的错误,如果输入的行结尾不像上面这些符号,COPY FROM 会发出警告。

CSV 格式

这个格式用于输入和输出逗号分隔数值(CSV)文件格式,许多其它程序都用这个文件格式,比如电子报表。这个模式下生成并识别逗号分隔的 CSV 逃逸机制,而不是使用 PostgreSQL 标准文本模式的逃逸。

每条记录的值都是用 DELIMITER 字符分隔的。如果数值本身包含分隔字符、QUOTE 字符、NULL 字符串、回车符、换行符,那么整个数值用 QUOTE 字符前缀和后缀(包围),并且数值里任何 QUOTE 字符或 ESCAPE 字符都前导逃逸字符。你也可以使用 FORCE QUOTE 在输出非 NULL 的指定字段值时强制引号包围。

CSV 格式没有标准的办法区分一个 NULL 值和一个空字符串。PostgreSQL 的 COPY 通过引号包围来处理这些。一个当作 NULL 输出的 NULL 值是没有引号包围的,而匹配 NULL 字符串的数据值是用引号包围的。因此,使用缺省设置时,一个 NULL 是写做一个无引号包围的空字符串,而一个空字符串写做双引号包围("")。读取数值也遵循类似的规则。你可以使用 FORCE NOT NULL 来避免为特定字段进行 NULL 比较。

因为对于 CSV 格式而言,反斜杠不是特殊字符,数据的结束标志(\.)可以作为数据值出现。为了避免任何可能的歧意,一个单独的 \. 数据值在输出中将被自动使用引号包围;在输入中,如果被引号界定,那么将不会当作数据结束标志。如果你要加载其它程序创建的、有未用引号界定字段的文件,并且其中含有 \. 值,你就必须用引号进行界定。

【注意】在 CSV 模式下,所有字符都是有效的。一个被空白包围的引号界定数值,或者任何非 DELIMITER 字符,都会被包含这些字符。如果你从会给 CSV 行填充空白的系统里导入数据到定长字段,那么可能会导致错误。如果出现这种情况,你可能需要先处理一下 CSV 文件,删除结尾空白,然后再向 PostgreSQL 里导入数据。

【注意】CSV 模式可以识别和生成引号包围的回车和换行的 CVS 文件。因此这些文件并不像文本模式的文件那样严格地每条记录一行。

【注意】许多程序生成奇怪的并且有时候不正确的 CVS 文件,所以这个文件格式更像一种惯用格式,而不是一种标准。因此你可能碰到一些不能使用这个机制输入的文件,而 COPY 也可能生成一些其它程序不能处理的文件。

二进制格式

在 PostgreSQL 7.4 中 COPY BINARY 的文件格式发生了变化。新格式由一个文件头、零或多条行、文件尾组成。文件头和数据现在是网络字节顺序。

文件头

文件头由 15 个字节的固定域组成,后面跟着一个变长的头扩展区。固定域是:

签名

11 字节的序列 PGCOPY\n\377\r\n\0(请注意字节零是签名必须的一部分)。使用这个签名是为了能够很容易看出文件是否已经被一个非 8 位安全的转换器给破坏了。这个签名会被行尾转换过滤器、删除字节零、删除高位、奇偶变化而改变。

标志域

32 位整数掩码表示该文件格式的重要方面。位是从 0(LSB)到 31(MSB)编码的,请注意这个域是以网络字节顺序存储的(高位在前),后继的整数都是如此。位 16-31 是保留用做关键文件格式信息的;如果阅读器发现一个不认识的位出现在这个范围内,那么它应该退出。位 0-15 都保留为标志向后兼容的格式使用;阅读器可以忽略这个范围内的不认识的位。目前只定义了一个标志位,而其它的必须是零:

Bit 16

如果为 1 ,那么在数据中包括了 OID ;如果为 0 ,则没有。

头扩展范围长度

32 位整数,以字节计的头剩余长度,不包括自身。目前,它是零,后面紧跟第一条记录行。对该格式的更多修改都将允许额外的数据出现在头中。阅读器应该忽略任何它不知道该如何处理的头扩展数据。

头扩展数据用来保存自定义数据序列块。这个标志域无意告诉阅读器扩展区的内容是什么。头扩展的具体设计内容留给以后的版本使用。

这样设计就允许向后兼容的头扩展(增加头扩展块或设置低位序标志位)以及非向后兼容的修改(设置高位标志位以标识这样的修改,并且根据需要向扩展区域增加支持数据)。

每条行都以一个 16 位整数计数开头,该计数是行中字段的数目(目前,在一个表里的每条行都有相同的计数,但可能不会永远这样)。然后后面不断出现行中的各个字段,字段先是一个 32 位的长度字,后面跟着那么长的字段数据。长度字并不包括自己,并且可以为零。一个特例是:-1 表示一个 NULL 字段值。在 NULL 情况下,后面不会跟着数值字节。

在数据域之间没有对齐填充或者任何其它额外的数据。

目前,一个 COPY BINARY 文件里的所有数据值都假设是二进制格式的(格式代码为一)。预计将来的扩展可能增加一个头域,允许为每个字段声明格式代码。

为了判断实际行数据的正确二进制格式,你应该阅读 PostgreSQL 源代码,特别是该字段数据类型的 *send 和 *recv 函数(典型的函数可以在源代码的 src/backend/utils/adt/ 目录找到)。

如果在文件中包括了 OID ,那么该 OID 域立即跟在字段计数字后面。它是一个普通的字段,只不过它没有包括在字段计数。但它包括长度字,这样就允许方便的处理 4 字节和 8 字节的 OID ,并且如果某个家伙允许 OID 是可选的话,那么还可以把 OID 显示成空。

文件尾

文件尾包括保存着 -1 的一个 16 位整数字。这样就很容易与一条行的域计数字相区分。

如果一个域计数字既不是 -1 也不是预期的字段的数目,那么阅读器应该报错。这样就提供了对丢失与数据同步的额外检查。

例子

下面的例子把一个表拷贝到客户端,使用竖直条(|)作为域分隔符:

COPY country TO STDOUT WITH DELIMITER '|';从文件中拷贝数据到 country 表中:

COPY country FROM '/usr1/proj/bray/sql/country_data';使用一个会被自动删除的临时表,把'A'开头的国家名拷贝到一个文件里:

COPY (SELECT * FROM country WHERE country_name LIKE 'A%') TO '/usr1/proj/bray/sql/a_list_countries.copy';下面是一个可以从 STDIN 中拷贝数据到表中的例子:

AF      AFGHANISTAN

AL      ALBANIA

DZ      ALGERIA

ZM      ZAMBIA

ZW      ZIMBABWE注意,每行里的空白实际上是一个水平制表符。

下面的是同样的数据,以二进制形式输出。这些数据是用 Unix 工具 od -c 过滤之后输出的。该表有三个字段;第一个是 char(2) ,第二个是 text ,第三个是 integer 。所有的行在第三个域都是一个 null 值。

0000000   P   G   C   O   P   Y  \n 377  \r  \n  \0  \0  \0  \0  \0  \0

0000020  \0  \0  \0  \0 003  \0  \0  \0 002   A   F  \0  \0  \0 013   A

0000040   F   G   H   A   N   I   S   T   A   N 377 377 377 377  \0 003

0000060  \0  \0  \0 002   A   L  \0  \0  \0 007   A   L   B   A   N   I

0000100   A 377 377 377 377  \0 003  \0  \0  \0 002   D   Z  \0  \0  \0

0000120 007   A   L   G   E   R   I   A 377 377 377 377  \0 003  \0  \0

0000140  \0 002   Z   M  \0  \0  \0 006   Z   A   M   B   I   A 377 377

0000160 377 377  \0 003  \0  \0  \0 002   Z   W  \0  \0  \0  \b   Z   I

0000200   M   B   A   B   W   E 377 377 377 377 377 377兼容性

SQL 标准里没有 COPY 语句。

PostgreSQL 7.3 以前使用下面的语法,现在仍然支持:

COPY [ BINARY ] tablename [ WITH OIDS ]

FROM { 'filename' | STDIN }

[ [USING] DELIMITERS 'delimiter' ]

[ WITH NULL AS 'null string' ]

COPY [ BINARY ] tablename [ WITH OIDS ]

TO { 'filename' | STDOUT }

[ [USING] DELIMITERS 'delimiter' ]

[ WITH NULL AS 'null string' ]

eg : ./psql -U cdc -d cdc -c "COPY regionlist TO stdout with csv" > /tmp/lzh.config

./psql -U cdc -d cdc -c "COPY regionlist TO stdout " > /tmp/lzh.config


版权声明:本文为weixin_39755952原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。
原文链接:https://blog.csdn.net/weixin_39755952/article/details/111811764
推荐阅读
  • Day2列表、字典、集合操作详解
    本文详细介绍了列表、字典、集合的操作方法,包括定义列表、访问列表元素、字符串操作、字典操作、集合操作、文件操作、字符编码与转码等内容。内容详实,适合初学者参考。 ... [详细]
  • Nginx使用(server参数配置)
    本文介绍了Nginx的使用,重点讲解了server参数配置,包括端口号、主机名、根目录等内容。同时,还介绍了Nginx的反向代理功能。 ... [详细]
  • 基于layUI的图片上传前预览功能的2种实现方式
    本文介绍了基于layUI的图片上传前预览功能的两种实现方式:一种是使用blob+FileReader,另一种是使用layUI自带的参数。通过选择文件后点击文件名,在页面中间弹窗内预览图片。其中,layUI自带的参数实现了图片预览功能。该功能依赖于layUI的上传模块,并使用了blob和FileReader来读取本地文件并获取图像的base64编码。点击文件名时会执行See()函数。摘要长度为169字。 ... [详细]
  • 本文介绍了在Hibernate配置lazy=false时无法加载数据的问题,通过采用OpenSessionInView模式和修改数据库服务器版本解决了该问题。详细描述了问题的出现和解决过程,包括运行环境和数据库的配置信息。 ... [详细]
  • 本文介绍了OC学习笔记中的@property和@synthesize,包括属性的定义和合成的使用方法。通过示例代码详细讲解了@property和@synthesize的作用和用法。 ... [详细]
  • 图解redis的持久化存储机制RDB和AOF的原理和优缺点
    本文通过图解的方式介绍了redis的持久化存储机制RDB和AOF的原理和优缺点。RDB是将redis内存中的数据保存为快照文件,恢复速度较快但不支持拉链式快照。AOF是将操作日志保存到磁盘,实时存储数据但恢复速度较慢。文章详细分析了两种机制的优缺点,帮助读者更好地理解redis的持久化存储策略。 ... [详细]
  • 后台获取视图对应的字符串
    1.帮助类后台获取视图对应的字符串publicclassViewHelper{将View输出为字符串(注:不会执行对应的ac ... [详细]
  • 基于PgpoolII的PostgreSQL集群安装与配置教程
    本文介绍了基于PgpoolII的PostgreSQL集群的安装与配置教程。Pgpool-II是一个位于PostgreSQL服务器和PostgreSQL数据库客户端之间的中间件,提供了连接池、复制、负载均衡、缓存、看门狗、限制链接等功能,可以用于搭建高可用的PostgreSQL集群。文章详细介绍了通过yum安装Pgpool-II的步骤,并提供了相关的官方参考地址。 ... [详细]
  • 搭建Windows Server 2012 R2 IIS8.5+PHP(FastCGI)+MySQL环境的详细步骤
    本文详细介绍了搭建Windows Server 2012 R2 IIS8.5+PHP(FastCGI)+MySQL环境的步骤,包括环境说明、相关软件下载的地址以及所需的插件下载地址。 ... [详细]
  • HDU 2372 El Dorado(DP)的最长上升子序列长度求解方法
    本文介绍了解决HDU 2372 El Dorado问题的一种动态规划方法,通过循环k的方式求解最长上升子序列的长度。具体实现过程包括初始化dp数组、读取数列、计算最长上升子序列长度等步骤。 ... [详细]
  • 本文介绍了如何使用php限制数据库插入的条数并显示每次插入数据库之间的数据数目,以及避免重复提交的方法。同时还介绍了如何限制某一个数据库用户的并发连接数,以及设置数据库的连接数和连接超时时间的方法。最后提供了一些关于浏览器在线用户数和数据库连接数量比例的参考值。 ... [详细]
  • Mac OS 升级到11.2.2 Eclipse打不开了,报错Failed to create the Java Virtual Machine
    本文介绍了在Mac OS升级到11.2.2版本后,使用Eclipse打开时出现报错Failed to create the Java Virtual Machine的问题,并提供了解决方法。 ... [详细]
  • 在说Hibernate映射前,我们先来了解下对象关系映射ORM。ORM的实现思想就是将关系数据库中表的数据映射成对象,以对象的形式展现。这样开发人员就可以把对数据库的操作转化为对 ... [详细]
  • 本文介绍了关于apache、phpmyadmin、mysql、php、emacs、path等知识点,以及如何搭建php环境。文章提供了详细的安装步骤和所需软件列表,希望能帮助读者解决与LAMP相关的技术问题。 ... [详细]
  • 猜字母游戏
    猜字母游戏猜字母游戏——设计数据结构猜字母游戏——设计程序结构猜字母游戏——实现字母生成方法猜字母游戏——实现字母检测方法猜字母游戏——实现主方法1猜字母游戏——设计数据结构1.1 ... [详细]
author-avatar
hedongsheng
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有