热门标签 | HotTags
当前位置:  开发笔记 > 运维 > 正文

对象存储与Hadoop、OpenStack的整合

对象存储初创公司Scality将其存储添加到Hadoop,使用户可避免通过Hadoop自己的文件系统加载数据。他们还推出了一款针对Cinder——在OpenStack项目里面的块存储层的插件。RING是基于一组X86服务器节点的对象存储基础架构,存储对象而不是文件或块,而且可以

对象存储初创公司Scality将其存储添加到Hadoop,使用户可避免通过Hadoop自己的文件系统加载数据。他们还推出了一款针对Cinder——在OpenStack项目里面的块存储层的插件。

RING是基于一组X86服务器节点的对象存储基础架构,存储对象而不是文件或块,而且可以并行操作。

Scality提供的一个被称为“生产级Hadoop存储实施”使用了CDMI——由SNIA开发和推广的面向云计算数据管理的云存储标准。CDMI开始缓慢被供应商支持但处于回升的步伐。

Scality已经使用自己的元数据架构替换了Hadoop命名节点(Name Node)服务器,从而消除了Hadoop架构中的单点故障。该公司表示,其Hadoop实现可以在存储节点自身上面适当的处理、计算,并通过与作业跟踪共享数据位置显著地降低了数据传输的需求。

Scality表示,其RING的擦除编码意味着省去了由于复制产生的任何Hadoop硬件开销。另外“用户可以通过一个标准的文件系统写入和读取文件,并在相同的时间用Hadoop处理过程,而不需要通过HDFS(Hadoop分布式文件系统)加载文件”。

Scality公司首席执行官Jerome Lecat说:“我们已经贡献我们的Hadoop解决方案到CDMI社区,确保它可以与任何的CDMI兼容存储一起使用。...我们的CDMI框架(framework)可以直接从我们的向外扩展(scale-out)文件系统读取数据,没有必要在执行一个MapReduce作业之前做HDFS获取。“

Scality的产品兼容、并且已经与Hortonworks HDP 1.0和Cloudera CDH4测试过——没有显现出Scality正在寻求替代或者与现有的Hadoop发行版竞争。通过添加一个RING后端,在某种程度上,Scality 表示它提供了一个更具成本效益、更容易使用、更有弹性和更高性能的Hadoop基??础设施,同时用户从Scality的SOFS(Scale-Out文件系统)中受益。

Lecat表示:“我们的角度是,我们认为人们想要做到在“普通”的数据上进行Hadoop工作,不只是他们特别为Hadoop准备的(数据)。在我的印象中,这对于Hadoop是非常有价值的,但它被事实扼杀了,人们需要在任何MapReduce作业之前做一个HDFS摄取。由于我们不再需要这样了。”

Lecat说:“试想一下,如果你现在使用MapReduce你可以做什么——这是工作在存储节点上的——去做数据转换,如新的编码,作为一个新的版本得出结果,这节省了大量的处理时间。它在以前需要将数据从存储移动到服务器,进行转换然后写回存储。”

OpenStack对象存储

OpenStack是一个云或基础设施即服务(IaaS),基于免费的、开放源码的软件来控制在数据中心里的计算,存储和网络资源池,用户通过一个门户自助分配,而管理人员通过仪表盘(dashboard)管理整个群。Rackspace和许多其他供应商都积极和大声支持OpenStack。现在Scality也来凑热闹。

Cinder是对在OpenStack中的一个块存储层的代码名称,它使虚拟机(VM)发现和使用持久的块级卷,而Scality针对它提供了一个RING插件。 Lecat表示:“这个贡献使OpenStack的采用者追赶上了亚马逊针对虚拟机的EBS持久卷。随着Grizzly(版本)释放,OpenStack 计算将有一个存储伙伴,部署在有高需求的云计算环境,这将提高OpenStack在市场上的采用率。”

Scality并不孤单。Coraid公司也提供了ATA-over-以太网(AOE)和Coraid EtherCloud的驱动程序到OpenStack的Cinder块存储开源项目,所以OpenStackers可以使用其存储阵列作为块存储。全闪存 “云”存储阵列初创厂商SolidFire做了同样的事情,它现在已经参与了Cinder项目好几年。Coraid声称,传统的存储供应商如 NetApp、EMC、惠普和戴尔等在他们的OpenStack驱动程序中只完成了部分功能,而他们已经作为一个企业赞助商加入OpenStack社区。

针对OpenStack的RING通过向外扩展文件系统(SOFS)封装提供了一个POSIX文件接口。Scality叙述道:

Cinder整合是建立在Scality的嵌入在SOFS中分布式的稀疏文件技术。每个Cinder卷实际上是在Scality Scale-Out存储里面的一个文件。这确保了简便的管理、无缝的可扩展性,并提供了像在计算节点硬件故障的情况下,实时迁移虚拟机和即时故障转移这样的先进虚拟化功能。

Scality的产品战略总监Philippe Nicolas表示:“这个块存储接口完成了我们的统一存储战略。Scality是实际交付承诺的真实和完整的统一存储访问,包括对象、文件和块的第一批厂商之一。”


推荐阅读
  • Hadoop入门与核心组件详解
    本文详细介绍了Hadoop的基础知识及其核心组件,包括HDFS、MapReduce和YARN。通过本文,读者可以全面了解Hadoop的生态系统及应用场景。 ... [详细]
  • Hadoop发行版本选择指南:技术解析与应用实践
    本文详细介绍了Hadoop的不同发行版本及其特点,帮助读者根据实际需求选择最合适的Hadoop版本。内容涵盖Apache Hadoop、Cloudera CDH等主流版本的特性及应用场景。 ... [详细]
  • 深入解析Hadoop的核心组件与工作原理
    本文详细介绍了Hadoop的三大核心组件:分布式文件系统HDFS、资源管理器YARN和分布式计算框架MapReduce。通过分析这些组件的工作机制,帮助读者更好地理解Hadoop的架构及其在大数据处理中的应用。 ... [详细]
  • 深入解析BookKeeper的设计与应用场景
    本文介绍了由Yahoo在2009年开发并于2011年开源的BookKeeper技术。BookKeeper是一种高效且可靠的日志流存储解决方案,广泛应用于需要高性能和强数据持久性的场景。 ... [详细]
  • MapReduce原理是怎么剖析的
    这期内容当中小编将会给大家带来有关MapReduce原理是怎么剖析的,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。1 ... [详细]
  • 深入解析Spark核心架构与部署策略
    本文详细探讨了Spark的核心架构,包括其运行机制、任务调度和内存管理等方面,以及四种主要的部署模式:Standalone、Apache Mesos、Hadoop YARN和Kubernetes。通过本文,读者可以深入了解Spark的工作原理及其在不同环境下的部署方式。 ... [详细]
  • 深入解析:主流开源分布式文件系统综述
    本文详细探讨了几款主流的开源分布式文件系统,包括HDFS、MooseFS、Lustre、GlusterFS和CephFS,重点分析了它们的元数据管理和数据一致性机制,旨在为读者提供深入的技术见解。 ... [详细]
  • 本文详细分析了Hive在启动过程中遇到的权限拒绝错误,并提供了多种解决方案,包括调整文件权限、用户组设置以及环境变量配置等。 ... [详细]
  • HBase运维工具全解析
    本文深入探讨了HBase常用的运维工具,详细介绍了每种工具的功能、使用场景及操作示例。对于HBase的开发人员和运维工程师来说,这些工具是日常管理和故障排查的重要手段。 ... [详细]
  • 本文探讨了2012年4月期间,淘宝在技术架构上的关键数据和发展历程。涵盖了从早期PHP到Java的转型,以及在分布式计算、存储和网络流量管理方面的创新。 ... [详细]
  • 全面解析运维监控:白盒与黑盒监控及四大黄金指标
    本文深入探讨了白盒和黑盒监控的概念,以及它们在系统监控中的应用。通过详细分析基础监控和业务监控的不同采集方法,结合四个黄金指标的解读,帮助读者更好地理解和实施有效的监控策略。 ... [详细]
  • 从码农到创业者:我的职业转型之路
    在观察了众多同行的职业发展后,我决定分享自己的故事。本文探讨了为什么大多数程序员难以成为架构师,并阐述了我从一家外企离职后投身创业的心路历程。 ... [详细]
  • 本文探讨了Hive作业中Map任务数量的确定方式,主要涉及HiveInputFormat和CombineHiveInputFormat两种InputFormat的分片计算逻辑。通过调整相关参数,可以有效控制Map任务的数量,进而优化Hive作业的性能。 ... [详细]
  • 本文详细介绍了使用ZooKeeper构建高可用集群的方法,包括必要的软件环境准备、配置文件调整及集群启动等关键步骤。通常,一个ZooKeeper集群由奇数个节点组成,以确保Leader选举的有效性。 ... [详细]
  • 优化使用Apache + Memcached-Session-Manager + Tomcat集群方案
    本文探讨了使用Apache、Memcached-Session-Manager和Tomcat集群构建高性能Web应用过程中遇到的问题及解决方案。通过重新设计物理架构,解决了单虚拟机环境无法真实模拟分布式环境的问题,并详细记录了性能测试结果。 ... [详细]
author-avatar
我是王健值得信赖
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有