热门标签 | HotTags
当前位置:  开发笔记 > 后端 > 正文

中科曙光张新凤:以分布式存储加速数字化转型

曙光存储的实践顺应了解决海量数据增长的需求,在技术路线上,一开始就选

刚刚结束的北京冬奥会,综合运用了人工智能、超高清渲染、5G、8K等一系列高新技术,打造出了一场既恢宏壮美又空灵浪漫的视听盛宴。这些新技术的应用都离不开海量数据的支撑。


随着“十四五规划”的逐步落地,“东数西算”工程的全面启动,5G、AI、区块链等技术的应用与推广,数字化全面加速,必然带来海量数据的规模化聚集。


赛迪顾问指出,2021年存储销售额将以30%的速度增长,销量将达到20%的增速。整体上,存储整体的增长高于IT其他领域。


中科曙光存储事业部副总经理张新凤

 

“身处大数据的时代,大到国家的战略,小到个人的工作生活与娱乐,每个人每个单位都是离不开存储技术。”中科曙光存储事业部副总经理张新凤表示。


面对越来越复杂的IT环境和业务环境,用户对存储系统的稳定性、性能和弹性扩展能力有着更高的期待,传统集中式存储烟囱式的部署模式在扩展性和管理性上都遇到非常多的挑战,分布式存储备受市场关注。


分布式存储面临的挑战与曙光的对策


面对海量爆发的数据,分布式存储更加引人瞩目。当然,分布式存储本身也面临非常多的挑战。


首先是数据的海量。五年前,用户提出的PB级需求,这对厂商来说就是一个非常大的需求了。如今,数十个P的需求已经是常见,上百个PB的应用也屡见不鲜,有用户对存储系统未来能扩展到EB级已经提出希望。但是,海量不简简单单的是设备的堆积,对应的技术难度是指数级的增长。


其二是技术发展趋势快迅,5G、AI、区块链等技术应用到了从数据的采集到数据的应用到数据的分析,数据的归档全链条。这个过程对存储的要求是更多协议的支持,比如,在处理的时候用NAS协议,到分析的时候又是HDFS协议,到归档的时候更多使用S3,各种不一样的接口。


三是性能的极致优化、功能的深度定制是未来存储系统的支撑。如数据处理过程的采集,分析处理的多个节点并发,在归档数据的策略灵活性等。


曙光存储的实践顺应了解决海量数据增长的需求,在技术路线上,一开始就选择了分布式存储路线。


作为国内首批自研分布式存储的厂商,曙光从2006年就开始技术的积累,2009年推出第一代商业产品,当年在上海部署了16PB的系统,是当时规模最大的应用;2018年,给用户提供的单一系统达到了56 PB;2019年,曙光首次部署了100 PB的系统;2020年,曙光第一套200 PB的系统上线。


今年,曙光将有300PB的系统将很快交付给客户。


在对协议支持方面,曙光也一直在进行迭代升级。2009年,面对数据处理的应用,曙光推出了POSIX高性能的客户端协议;2013年,针对数据中心和云的综合发展,曙光升级为对NAS协议的支持;2019年,基于各个行业的云化需求,又完善了块的协议。现在,曙光ParaStor实现了对文件存储、块存储、对象存储以及HDFS协议的完全支持,几乎可以覆盖所有的应用场景。


“曙光已经积累了大量的技术,当市场需要的时候,就能以最快的速度推到市场上。” 张新凤表示,这一切,都是曙光基于对用户、对各行业的理解,根据市场的诉求进行性能优化、定制化更新,在用户应用过程中一步一步完善起来。


快速的响应市场需求没有捷径


在张新凤看来,快速的响应市场需求并没有捷径可以走,更多的是天长日久的积累和演进。这里面有几个非常关键的因素。


一是要有一个强有力的研发团队做支撑。这个团队需要具有市场考验过的存储系统开发经验,较好地把握前端市场需求,在转化为产品需求后快速研发设计,完成系统化的验证,通过这个闭环快速推出满足用户应用的产品。


二是对行业的深耕和理解。很多行业客户并不是特别关注底层的存储,问及它们对存储的具体需求,很多情况下的答复都说不清楚,顶多是可靠性要高一些,性能要好一些,寿命要长一些。所以厂商一定要比行业用户更了解业务场景的需求,快速抓到需求的痛点,避免陷进误区,帮助客户做更优的选择。


看好分布式存储应用前景

    

“分布式存储现在应用的场景越来越广。” 张新凤说。


张新凤(右)出席主题为“破解海量异构数据存储难题,成就数字化转型”的曙光技术圆桌派


早期分布式存储更多用在计算领域,因为要共享存储。随着数据特别是视频数据越来越大,云、大数据技术也得以应用,分布式存储应用越来越广泛。无论是手机里的音视频,还是影视制作、石油勘探等领域,背后都是大规模分布式存储的平台作支撑,而且可能是分布在不同地区的多个数据中心。


在行业方面,运营商对集中式存储的替代一直走在行业的前面。从2019年开始,曙光连续两年都入围了运营商分布式块的集采,支持运营商各种业务的运营。


把握“东数西算”工程带来的新机遇


“东数西算”是一个国家战略工程项目,肩负着东西数据中心协同发展,包括碳达峰、碳中和的历史使命。


张新凤指出,“东数西算”工程对数据存储的主要诉求有四个。


 一是实现数据的有效流通。可能是在内部的有效流通,如从采集、存储到分析到归档,也可能是多个中心之间的流通。这对存储来说意味着多协议的统一支持。


二是对数据的智能化应用要求更高。就存储来说,对HDFS接口的性能也提出更高的要求。曙光2021年做了大量的工作,推出了原生的HDFS协议支持,可根据用户不同的应用,快速实现对新组件灵活的支持。


三是数据安全。要解决这个问题,首先要保证设备本身的安全。无论是硬件还是软件,采用国产自主研发的产品更加放心。2021年,曙光与国内科研机构和相关组织展开数据加密整体方案的集成化的研究,今年上半年将亮相的新产品在一些应用场景中解决全流程数据安全的问题,其性能也有很好的表现。


四是绿色节能。2022年,曙光将推出一套新的采用冷板的设计的液冷的分布式存储,这个一体化的液冷方案将有助于PUE的指标实现1.04。


总体而言,曙光已经针对“东数西算”工程展开了大量的基础准备工作,张新凤希望曙光在这过程中能为国家的数字化发展贡献自己的一份力量。


END



更多信息请点击“阅读原文”进入官网



推荐阅读
  • 创邻科技成功举办Graph+X生态合作伙伴大会,30余家行业领军企业共聚杭州
    9月22日,创邻科技在杭州举办“Graph+X”生态合作伙伴大会,汇聚了超过30家行业头部企业的50多位企业家和技术领袖,共同探讨图技术的前沿应用与发展前景。 ... [详细]
  • 随着网络安全威胁的不断演变,电子邮件系统成为攻击者频繁利用的目标。本文详细探讨了电子邮件系统中的常见漏洞及其潜在风险,并提供了专业的防护建议。 ... [详细]
  • 2018年3月31日,CSDN、火星财经联合中关村区块链产业联盟等机构举办的2018区块链技术及应用峰会(BTA)核心分会场圆满举行。多位业内顶尖专家深入探讨了区块链的核心技术原理及其在实际业务中的应用。 ... [详细]
  • 本文探讨了Java编程的核心要素,特别是其面向对象的特性,并详细介绍了Java虚拟机、类装载器体系结构、Java类文件和Java API等关键技术。这些技术使得Java成为一种功能强大且易于使用的编程语言。 ... [详细]
  • 本文作者分享了在阿里巴巴获得实习offer的经历,包括五轮面试的详细内容和经验总结。其中四轮为技术面试,一轮为HR面试,涵盖了大量的Java技术和项目实践经验。 ... [详细]
  • Netflix利用Druid实现高效实时数据分析
    本文探讨了全球领先的在线娱乐公司Netflix如何通过采用Apache Druid,实现了高效的数据采集、处理和实时分析,从而显著提升了用户体验和业务决策的准确性。文章详细介绍了Netflix在系统架构、数据摄取、管理和查询方面的实践,并展示了Druid在大规模数据处理中的卓越性能。 ... [详细]
  • 网络运维工程师负责确保企业IT基础设施的稳定运行,保障业务连续性和数据安全。他们需要具备多种技能,包括搭建和维护网络环境、监控系统性能、处理突发事件等。本文将探讨网络运维工程师的职业前景及其平均薪酬水平。 ... [详细]
  • Hadoop入门与核心组件详解
    本文详细介绍了Hadoop的基础知识及其核心组件,包括HDFS、MapReduce和YARN。通过本文,读者可以全面了解Hadoop的生态系统及应用场景。 ... [详细]
  • 【行业专题报告】 人力资源专题资料
    每项专题报告都是从2019开始更新到至今,后续将持续更新如需查看完整报告和报告下载或了解更多,公众号:参一江湖今天为大家分享专题 ... [详细]
  • 探讨架构师在项目中应如何平衡对产品的关注和对团队成员的关注,以实现最佳的开发成果。 ... [详细]
  • 本文详细介绍了网络存储技术的基本概念、分类及应用场景。通过分析直连式存储(DAS)、网络附加存储(NAS)和存储区域网络(SAN)的特点,帮助读者理解不同存储方式的优势与局限性。 ... [详细]
  • 云计算的优势与应用场景
    本文详细探讨了云计算为企业和个人带来的多种优势,包括成本节约、安全性提升、灵活性增强等。同时介绍了云计算的五大核心特点,并结合实际案例进行分析。 ... [详细]
  • 深入解析Serverless架构模式
    本文将详细介绍Serverless架构模式的核心概念、工作原理及其优势。通过对比传统架构,探讨Serverless如何简化应用开发与运维流程,并介绍当前主流的Serverless平台。 ... [详细]
  • 本文深入探讨了MySQL中常见的面试问题,包括事务隔离级别、存储引擎选择、索引结构及优化等关键知识点。通过详细解析,帮助读者在面对BAT等大厂面试时更加从容。 ... [详细]
  • 江苏启动鲲鹏生态产业园首批应用孵化项目
    2019年9月19日,在华为全联接大会上,江苏鲲鹏生态产业园正式启动了首批鲲鹏应用孵化项目。南京市委常委、江北新区党工委专职副书记罗群等多位嘉宾出席并见证了这一重要时刻。 ... [详细]
author-avatar
腾龙娱乐开户
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有