热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

数据迁移服务参数说明

AliyunOSSEndpointOSS的Endpoint支持如下四种格式:序号正确格式说明1http:oss-cn-hangzhou.aliyuncs.com使用公

Aliyun OSS

Endpoint

OSS的Endpoint支持如下四种格式:

序号正确格式说明
1http://oss-cn-hangzhou.aliyuncs.com使用公网,以http方式上传/下载数据
2http://oss-cn-hangzhou-internal.aliyuncs.com使用内网,以http方式上传/下载数据
3https://oss-cn-hangzhou.aliyuncs.com使用公网,以https方式上传/下载数据
4https://oss-cn-hangzhou-internal.aliyuncs.com使用内网,以https方式上传/下载数据

当OSS作为数据源时,迁移服务会自动使用内网下载;其它数据源时,OSS会使用内网上传。以下格式均为非法:

# 带存储空间名称
http://bucket.oss-cn-hangzhou.aliyuncs.com
# 带其它资源
http://oss-cn-hangzhou.aliyuncs.com/bucket
http://oss-cn-hangzhou.aliyuncs.com/bucket/object
# 带有其它限制条件
http://oss-cn-hangzhou.aliyuncs.com/
http://oss-cn-hangzhou.aliyuncs.com?
http://oss-cn-hangzhou.aliyuncs.com/?qs=
http://oss-cn-hangzhou.aliyuncs.com/?qs=val
# CDN域名、Cname等费OSS域名
http://d1.d2.d3.com
# 不携带指定协议
oss-cn-hangzhou.aliyuncs.com/

OSS的Endpoint详细列表,参见访问域名。

Bucket

请填写正确的存储空间名称,前后不带空格、换行、制表符等非法字符。

Prefix

迁移指定“目录”下的文件,即指定前缀的文件,不包括文件名称为前缀的文件。请以 / 结尾,不要以 / 开头,如 docs/

AccessKeyId/SecretAccessKey

访问密钥,简称为AK/SK。迁移服务的AK/SK可以是主用户、子用户的密钥,不能是临时用户的密钥,上述概念的解释请参考访问控制。目前尚不支持服务费授权。
如果OSS做为迁移服务的数据源,子用户可以使用以下Policy授权:

{"Version": "1","Statement": [{"Effect": "Allow","Action": ["oss:GetObject","oss:ListObjects"],"Resource": ["acs:oss:*:*:mybucket"],"Condition": {}}]
}

如果OSS做为起迁移服务的目标,子用户可以使用以下Policy授权:

{"Version": "1","Statement": [{"Effect": "Allow","Action": ["oss:GetObject","oss:PutObject","oss:ListObjects","oss:DeleteObject","oss:AbortMultipartUpload"],"Resource": ["acs:oss:*:*: mybucket"],"Condition": {}}]
}

你可以为迁移服务创建特定子用户,生成专用的AK/SK;迁移任务完成后相应的AK/SK。

迁移存储量/迁移文件个数

存储空间下的存储量和文件数可以通过OSS的控制台查看。

AWS S3

迁移服务尚不支持AWS S3的白名单访问。如果有白名单配置,请先暂时取消白名单或提工单。

Endpoint

迁移服务支持以下区域及格式,其它的格式均不支持。协议支持HTTPS的域名还可以使用https。

RegionNameRegionEndpointProtocol
US East (Ohio)us-east-2 http://s3.us-east-2.amazonaws.com
http://s3-us-east-2.amazonaws.com
HTTP/HTTPS
US East (N. Virginia)us-east-1 http://s3.us-east-1.amazonaws.com
http://s3-us-east-1.amazonaws.com
HTTP/HTTPS
US West (N. California)us-west-1 http://s3.us-west-1.amazonaws.com
http://s3-us-west-1.amazonaws.com
HTTP/HTTPS
US West (Oregon)us-west-2 http://s3.us-west-2.amazonaws.com
http://s3-us-west-2.amazonaws.com
HTTP/HTTPS
Canada (Central)ca-central-1 http://s3.ca-central-1.amazonaws.com
http://s3-ca-central-1.amazonaws.com
HTTP/HTTPS
Asia Pacific (Seoul)ap-northeast-2 http://s3.ap-northeast-2.amazonaws.com
http://s3-ap-northeast-2.amazonaws.com
HTTP/HTTPS
Asia Pacific (Osaka-Local)ap-northeast-3 http://s3.ap-northeast-3.amazonaws.com
http://s3-ap-northeast-3.amazonaws.com
HTTP/HTTPS
Asia Pacific (Singapore)ap-southeast-1 http://s3.ap-southeast-1.amazonaws.com
http://s3-ap-southeast-1.amazonaws.com
HTTP/HTTPS
Asia Pacific (Sydney)ap-southeast-2 http://s3.ap-southeast-2.amazonaws.com
http://s3-ap-southeast-2.amazonaws.com
HTTP/HTTPS
Asia Pacific (Tokyo)ap-northeast-1 http://s3.ap-northeast-1.amazonaws.com
http://s3-ap-northeast-1.amazonaws.com
HTTP/HTTPS
China (Beijing)cn-north-1http://s3.cn-north-1.amazonaws.com.cnHTTP/HTTPS
China (Ningxia)cn-northwest-1http://s3.cn-northwest-1.amazonaws.com.cnHTTP/HTTPS
EU (Frankfurt)eu-central-1 http://s3.eu-central-1.amazonaws.com
http://s3-eu-central-1.amazonaws.com
HTTP/HTTPS
EU (Ireland)eu-west-1 http://s3.eu-west-1.amazonaws.com
http://s3-eu-west-1.amazonaws.com
HTTP/HTTPS
EU (London)eu-west-2 http://s3.eu-west-2.amazonaws.com
http://s3-eu-west-2.amazonaws.com
HTTP/HTTPS
EU (Paris)eu-west-3 http://s3.eu-west-3.amazonaws.com
http://s3-eu-west-3.amazonaws.com
HTTP/HTTPS
South America (São Paulo)sa-east-1 http://s3.sa-east-1.amazonaws.com
http://s3-sa-east-1.amazonaws.com
HTTP/HTTPS

Bucket

请填写正确的存储空间名称,前后不带空格、换行、制表符等非法字符。

Prefix

迁移指定“目录”下的文件,即指定前缀的文件,不包括文件名称为前缀的文件。请以 / 结尾,不要以 / 开头,如 docs/

AccessKeyId/SecretAccessKey

请在AWS控制台的IAM页面,创建用户并授予 AmazonS3ReadOnlyAccess 权限,然后再创建访问密钥。迁移完成后删除用户。

迁移存储量/迁移文件个数

请认真评估,确保与实际值相符。

Azure blob

存储账户/密钥/连接字符串

国际版,进入Azure的管理控制台,在路径 主页 > 存储帐户 > {存储帐户名称} > 访问密钥 中找到存储账户、密钥、连接字符串信息。如下图:

azure_blob

容器

容器即Azure中的container。

前缀

迁移指定“目录”下的文件,即指定前缀的文件,不包括文件名称为前缀的文件。请以 / 结尾,不要以 / 开头,如 docs/

迁移存储量/迁移文件个数

在路径 主页 > testbucket2018 - Blob > container - 属性计算大小 按钮可以
计算出容器大小。如下图:

azure_blob_2

Tencent cos

迁移服务支持V4版本的COS,采用V4版本的API访问COS。

所属地区

V4版本的COS可以地域如下表,所属地区请填写地域简称:

地域地域简称说明
北京一区(华北)tj
北京bj
上海(华东)sh
广州(华南)gz
成都(西南)cd
新加坡sgp
香港hk
多伦多ca
法兰克福ger

Bucket

COS Bucket(存储桶)名称由 [自定义名称]-[开发商APPID] 构成。数据迁移服务的bucket配置项请填写自定义名称部分,比如 mingdi-1252883280,迁移服务的bucket项填 mingdi

Prefix

迁移指定目录下的文件,即指定前缀的文件。请以 / 开头,以 / 结尾,如 /docs/

APPID

请到控制台账号信息页面查看,如下图。

t_cos_1

SecretId/SecretKey

请从控制台 云产品 > 管理工具 > API密钥管理 进入访问控制页面,查看或新建密钥。推荐您为迁移服务新建密钥,迁移完成后删除。

迁移存储量/迁移存储量

请从控制台 云产品 > 存储 > 对象存储 进入对象存储页面,然后进入监控报表的基础数据统计页面,查看待迁移Bucket的存储量和
对象数量,如下图。

t_cos_2

七牛qiniu

Endpoint

从七牛控制台进入对象存储页面,选择指定的存储空间后,在 融合CDN测试域名融合CDN加速域名 栏可以看到域名,如下图。

qiniu_0

Endpoint即http://域名,如

http://oy4jki81y.bkt.clouddn.com
http://78rets.com1.z0.glb.clouddn.com
http://cartoon.u.qiniudn.com

上面3个均为有效Endpoint,其它格式均无效。

Bucket

七牛对象存储的存储空间。

Prefix

迁移指定“目录”下的文件,即指定前缀的文件,不包括文件名称为前缀的文件。请以 / 结尾,不要以 / 开头,如 docs/

AccessKey/SecretKey

管理控制台 > 个人面板 > 密钥管理 页面可以看到AK/SK,即AccessKey/SecretKey。请使用状态为使用中的有效AK/SK。

迁移存储量/迁移文件个数

从七牛控制台进入对象存储页面,选择指定的存储空间后,进入内容管理页面,可以看到文件数和存蔟量。如下图。

qiniu_1

Baidu bos

Endpoint

目前支持“华北-北京”、“华南-广州”和“华东-苏州”三个区域。迁移服务使用Endpoint如下表:

区域服务域名访问协议Endpoint
北京bj.bcebos.comhttp/httpshttp://bj.bcebos.com
广州gz.bcebos.comhttp/httpshttp://gz.bcebos.com
苏州su.bcebos.comhttp/httpshttp://su.bcebos.com

Bucket的区域请到控制台的 产品服务 / 对象存储BOS - Bucket管理 查看,如下图。

qiniu_0

Prefix

迁移指定“目录”下的文件,即指定前缀的文件,不包括文件名称为前缀的文件。请以 / 结尾,不要以 / 开头,如 docs/

AccessKeyID/SecretAccessKey

请到控制台的 安全认证 / Access Key 页面上查看,如下图。

qiniu_1

迁移存储量/迁移文件个数

控制台的 产品服务 / 对象存储BOS - Bucket管理 / Bucket概览 页面可以查看Bucket的存储量,文件个数请认真评估,尽量准确。

Http/https

列表地址

列表文件格式

列表文件有两列,第一列是http/https地址,地址中特殊字符请URL编码。迁移服务用该链接的Get请求下载文件内容,Head请求获取文件元数据;第二列是的文件名,迁移后的object name是prefix + 文件名,两列用制表符\t分割;每行之间换行\n分割。格式如下:

http://127.0.0.1/docs/my.doc docs/my.doc
http://127.0.0.1/pics/my.jpg pics/my.jpg
http://127.0.0.1/exes/my.exe exes/my.exe

列表地址格式

迁移文件生成后,请上传到OSS。迁移服务会下载列表文件,并根据指定的地址迁移文件。列表地址的格式是 oss://{bucket}/{列表文件},示例如下:

oss://mybucket/httplist.txt

列表访问Endpoint

OSS的Endpoint支持如下四种格式:

序号正确格式说明
1http://oss-cn-hangzhou.aliyuncs.com使用公网,以http方式上传/下载数据
2http://oss-cn-hangzhou-internal.aliyuncs.com使用内网,以http方式上传/下载数据
3https://oss-cn-hangzhou.aliyuncs.com使用公网,以https方式上传/下载数据
4https://oss-cn-hangzhou-internal.aliyuncs.com使用内网,以https方式上传/下载数据

OSS的Endpoint详细列表,参见访问域名。

列表访问AK/SK

迁移服务需要使用该AK/SK下载列表文件。该AK/SK可以是主账号的AK/SDK;也可以是子账号的AK/SK,需要授予GetObject权限。

迁移存储量/迁移文件个数

请认真评估,确保与实际值相符。

又拍youpai

地址

即对象存储SDK的接入点,REST API中的域名,如下表。如果您不能确定自己的网络类型,请使用 http://v0.api.upyun.com

网络类型地址说明
智能选路http://v0.api.upyun.com推荐
电信线路http://v1.api.upyun.com
联通(网通)线路http://v2.api.upyun.com
移动(铁通)线路http://v3.api.upyun.com

服务名称

请在控制台的云存储中查看。

迁移目录

迁移指定目录下的文件,请以 / 结尾,不要以 / 开头,如 docs/

操作员名/操作员密码

请在控制台的账号管理页面查看和添加操作员。添加您为迁移服务新建操作员,并授予 可读取 权限,如下图。

youpai_1

然后进入控制台的云存储页面,选择待迁移的服务名称,进入配置页面,选择内容管理,并授权操作员,如下图。

youpai_2

迁移存储量/迁移文件个数

请到控制台云存储的配置页面查看Bucket的存蔟量,文件个数请认真评估,尽量准确。

Kingsoft ks3

Endpoint

Region(区域)与Endpoint(域名)的对应关系如下,Bucket(存储空间)的Region请在控制台上的 存储与内容传输 > 对象存储 > 我的空间 > 空间详情 页面查看。

RegionEndpoint
中国(北京)ks3-cn-beijing.ksyun.com
中国(上海)ks3-cn-shanghai.ksyun.com
中国(香港)ks3-cn-hk-1.ksyun.com
中国(杭州)kss.ksyun.com
俄罗斯ks3-rus.ksyun.com
新加坡ks3-sgp.ksyun.com

Bucket

即金山云对象存储的空间。

Prefix

迁移指定“目录”下的文件,即指定前缀的文件,不包括文件名称为前缀的文件。请以 / 结尾,不要以 / 开头,如 docs/

AccessKey/SecretKey

请在控制台的身份与管理下的用户管理页面,创建用户并授予 KS3FullAccess 权限,然后在用户页面新建密钥。迁移完成后删除该用户。

迁移存储量/迁移文件个数

请到控制台的 存储与内容传输 > 对象存储 > 我的空间 > 空间详情 页面查看Bucket的存储量,文件个数请认真评估,尽量准确。



推荐阅读
  • 向QTextEdit拖放文件的方法及实现步骤
    本文介绍了在使用QTextEdit时如何实现拖放文件的功能,包括相关的方法和实现步骤。通过重写dragEnterEvent和dropEvent函数,并结合QMimeData和QUrl等类,可以轻松实现向QTextEdit拖放文件的功能。详细的代码实现和说明可以参考本文提供的示例代码。 ... [详细]
  • sklearn数据集库中的常用数据集类型介绍
    本文介绍了sklearn数据集库中常用的数据集类型,包括玩具数据集和样本生成器。其中详细介绍了波士顿房价数据集,包含了波士顿506处房屋的13种不同特征以及房屋价格,适用于回归任务。 ... [详细]
  • XML介绍与使用的概述及标签规则
    本文介绍了XML的基本概念和用途,包括XML的可扩展性和标签的自定义特性。同时还详细解释了XML标签的规则,包括标签的尖括号和合法标识符的组成,标签必须成对出现的原则以及特殊标签的使用方法。通过本文的阅读,读者可以对XML的基本知识有一个全面的了解。 ... [详细]
  • Java导入Excel文件返回数据对应属性类字段,Java导出Excel文件如何让数据对应指定的标题字段
    Java导入Excel文件如何对应属性类对应的字段?Java导出Excel文件如何实现?下面分为两段供各位测试,要是不懂或者实在不行可以评论一下,看到我会回复的jar这些你们可以自 ... [详细]
  • 小白的Python 学习笔记(八)推导式详解
    大家好,今天我总结一下Python的推导式,首先让我们来看定义推导式(comprehensions)是Python的一种独有特性,是可以从一个数据序列构建另一个新的数据序列的结构体 ... [详细]
  • MySQL 数据库基础学习 一、SQL的作用及分类 二、数据类型 三、存储引擎  (建库建表、数据插入等))
    MySQL 数据库基础学习 一、SQL的作用及分类 二、数据类型 三、存储引擎 (建库建表、数据插入等)) ... [详细]
  • 基于layUI的图片上传前预览功能的2种实现方式
    本文介绍了基于layUI的图片上传前预览功能的两种实现方式:一种是使用blob+FileReader,另一种是使用layUI自带的参数。通过选择文件后点击文件名,在页面中间弹窗内预览图片。其中,layUI自带的参数实现了图片预览功能。该功能依赖于layUI的上传模块,并使用了blob和FileReader来读取本地文件并获取图像的base64编码。点击文件名时会执行See()函数。摘要长度为169字。 ... [详细]
  • 不同优化算法的比较分析及实验验证
    本文介绍了神经网络优化中常用的优化方法,包括学习率调整和梯度估计修正,并通过实验验证了不同优化算法的效果。实验结果表明,Adam算法在综合考虑学习率调整和梯度估计修正方面表现较好。该研究对于优化神经网络的训练过程具有指导意义。 ... [详细]
  • 本文详细介绍了Spring的JdbcTemplate的使用方法,包括执行存储过程、存储函数的call()方法,执行任何SQL语句的execute()方法,单个更新和批量更新的update()和batchUpdate()方法,以及单查和列表查询的query()和queryForXXX()方法。提供了经过测试的API供使用。 ... [详细]
  • 本文详细介绍了Java中vector的使用方法和相关知识,包括vector类的功能、构造方法和使用注意事项。通过使用vector类,可以方便地实现动态数组的功能,并且可以随意插入不同类型的对象,进行查找、插入和删除操作。这篇文章对于需要频繁进行查找、插入和删除操作的情况下,使用vector类是一个很好的选择。 ... [详细]
  • Java学习笔记之面向对象编程(OOP)
    本文介绍了Java学习笔记中的面向对象编程(OOP)内容,包括OOP的三大特性(封装、继承、多态)和五大原则(单一职责原则、开放封闭原则、里式替换原则、依赖倒置原则)。通过学习OOP,可以提高代码复用性、拓展性和安全性。 ... [详细]
  • C++字符字符串处理及字符集编码方案
    本文介绍了C++中字符字符串处理的问题,并详细解释了字符集编码方案,包括UNICODE、Windows apps采用的UTF-16编码、ASCII、SBCS和DBCS编码方案。同时说明了ANSI C标准和Windows中的字符/字符串数据类型实现。文章还提到了在编译时需要定义UNICODE宏以支持unicode编码,否则将使用windows code page编译。最后,给出了相关的头文件和数据类型定义。 ... [详细]
  • 本文介绍了iOS数据库Sqlite的SQL语句分类和常见约束关键字。SQL语句分为DDL、DML和DQL三种类型,其中DDL语句用于定义、删除和修改数据表,关键字包括create、drop和alter。常见约束关键字包括if not exists、if exists、primary key、autoincrement、not null和default。此外,还介绍了常见的数据库数据类型,包括integer、text和real。 ... [详细]
  • Oracle seg,V$TEMPSEG_USAGE与Oracle排序的关系及使用方法
    本文介绍了Oracle seg,V$TEMPSEG_USAGE与Oracle排序之间的关系,V$TEMPSEG_USAGE是V_$SORT_USAGE的同义词,通过查询dba_objects和dba_synonyms视图可以了解到它们的详细信息。同时,还探讨了V$TEMPSEG_USAGE的使用方法。 ... [详细]
  • 结合“性能监视器”排查、处理性能瓶颈导致应用吞吐率等指标上不去的问题
    双11备战前夕,总绕不过性能压测环节,TPS一直上不去不达标,除了代码上的问题外,服务器环境、配置、网络、磁盘、CPU亦是导致性能瓶颈的重要一环,本文旨在分享最近项目性能 ... [详细]
author-avatar
斯宾诺沙漏
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有