热门标签 | HotTags
当前位置:  开发笔记 > 后端 > 正文

中科曙光张新凤:以分布式存储加速数字化转型

曙光存储的实践顺应了解决海量数据增长的需求,在技术路线上,一开始就选

刚刚结束的北京冬奥会,综合运用了人工智能、超高清渲染、5G、8K等一系列高新技术,打造出了一场既恢宏壮美又空灵浪漫的视听盛宴。这些新技术的应用都离不开海量数据的支撑。


随着“十四五规划”的逐步落地,“东数西算”工程的全面启动,5G、AI、区块链等技术的应用与推广,数字化全面加速,必然带来海量数据的规模化聚集。


赛迪顾问指出,2021年存储销售额将以30%的速度增长,销量将达到20%的增速。整体上,存储整体的增长高于IT其他领域。


中科曙光存储事业部副总经理张新凤

 

“身处大数据的时代,大到国家的战略,小到个人的工作生活与娱乐,每个人每个单位都是离不开存储技术。”中科曙光存储事业部副总经理张新凤表示。


面对越来越复杂的IT环境和业务环境,用户对存储系统的稳定性、性能和弹性扩展能力有着更高的期待,传统集中式存储烟囱式的部署模式在扩展性和管理性上都遇到非常多的挑战,分布式存储备受市场关注。


分布式存储面临的挑战与曙光的对策


面对海量爆发的数据,分布式存储更加引人瞩目。当然,分布式存储本身也面临非常多的挑战。


首先是数据的海量。五年前,用户提出的PB级需求,这对厂商来说就是一个非常大的需求了。如今,数十个P的需求已经是常见,上百个PB的应用也屡见不鲜,有用户对存储系统未来能扩展到EB级已经提出希望。但是,海量不简简单单的是设备的堆积,对应的技术难度是指数级的增长。


其二是技术发展趋势快迅,5G、AI、区块链等技术应用到了从数据的采集到数据的应用到数据的分析,数据的归档全链条。这个过程对存储的要求是更多协议的支持,比如,在处理的时候用NAS协议,到分析的时候又是HDFS协议,到归档的时候更多使用S3,各种不一样的接口。


三是性能的极致优化、功能的深度定制是未来存储系统的支撑。如数据处理过程的采集,分析处理的多个节点并发,在归档数据的策略灵活性等。


曙光存储的实践顺应了解决海量数据增长的需求,在技术路线上,一开始就选择了分布式存储路线。


作为国内首批自研分布式存储的厂商,曙光从2006年就开始技术的积累,2009年推出第一代商业产品,当年在上海部署了16PB的系统,是当时规模最大的应用;2018年,给用户提供的单一系统达到了56 PB;2019年,曙光首次部署了100 PB的系统;2020年,曙光第一套200 PB的系统上线。


今年,曙光将有300PB的系统将很快交付给客户。


在对协议支持方面,曙光也一直在进行迭代升级。2009年,面对数据处理的应用,曙光推出了POSIX高性能的客户端协议;2013年,针对数据中心和云的综合发展,曙光升级为对NAS协议的支持;2019年,基于各个行业的云化需求,又完善了块的协议。现在,曙光ParaStor实现了对文件存储、块存储、对象存储以及HDFS协议的完全支持,几乎可以覆盖所有的应用场景。


“曙光已经积累了大量的技术,当市场需要的时候,就能以最快的速度推到市场上。” 张新凤表示,这一切,都是曙光基于对用户、对各行业的理解,根据市场的诉求进行性能优化、定制化更新,在用户应用过程中一步一步完善起来。


快速的响应市场需求没有捷径


在张新凤看来,快速的响应市场需求并没有捷径可以走,更多的是天长日久的积累和演进。这里面有几个非常关键的因素。


一是要有一个强有力的研发团队做支撑。这个团队需要具有市场考验过的存储系统开发经验,较好地把握前端市场需求,在转化为产品需求后快速研发设计,完成系统化的验证,通过这个闭环快速推出满足用户应用的产品。


二是对行业的深耕和理解。很多行业客户并不是特别关注底层的存储,问及它们对存储的具体需求,很多情况下的答复都说不清楚,顶多是可靠性要高一些,性能要好一些,寿命要长一些。所以厂商一定要比行业用户更了解业务场景的需求,快速抓到需求的痛点,避免陷进误区,帮助客户做更优的选择。


看好分布式存储应用前景

    

“分布式存储现在应用的场景越来越广。” 张新凤说。


张新凤(右)出席主题为“破解海量异构数据存储难题,成就数字化转型”的曙光技术圆桌派


早期分布式存储更多用在计算领域,因为要共享存储。随着数据特别是视频数据越来越大,云、大数据技术也得以应用,分布式存储应用越来越广泛。无论是手机里的音视频,还是影视制作、石油勘探等领域,背后都是大规模分布式存储的平台作支撑,而且可能是分布在不同地区的多个数据中心。


在行业方面,运营商对集中式存储的替代一直走在行业的前面。从2019年开始,曙光连续两年都入围了运营商分布式块的集采,支持运营商各种业务的运营。


把握“东数西算”工程带来的新机遇


“东数西算”是一个国家战略工程项目,肩负着东西数据中心协同发展,包括碳达峰、碳中和的历史使命。


张新凤指出,“东数西算”工程对数据存储的主要诉求有四个。


 一是实现数据的有效流通。可能是在内部的有效流通,如从采集、存储到分析到归档,也可能是多个中心之间的流通。这对存储来说意味着多协议的统一支持。


二是对数据的智能化应用要求更高。就存储来说,对HDFS接口的性能也提出更高的要求。曙光2021年做了大量的工作,推出了原生的HDFS协议支持,可根据用户不同的应用,快速实现对新组件灵活的支持。


三是数据安全。要解决这个问题,首先要保证设备本身的安全。无论是硬件还是软件,采用国产自主研发的产品更加放心。2021年,曙光与国内科研机构和相关组织展开数据加密整体方案的集成化的研究,今年上半年将亮相的新产品在一些应用场景中解决全流程数据安全的问题,其性能也有很好的表现。


四是绿色节能。2022年,曙光将推出一套新的采用冷板的设计的液冷的分布式存储,这个一体化的液冷方案将有助于PUE的指标实现1.04。


总体而言,曙光已经针对“东数西算”工程展开了大量的基础准备工作,张新凤希望曙光在这过程中能为国家的数字化发展贡献自己的一份力量。


END



更多信息请点击“阅读原文”进入官网



推荐阅读
  • 兆芯X86 CPU架构的演进与现状(国产CPU系列)
    本文详细介绍了兆芯X86 CPU架构的发展历程,从公司成立背景到关键技术授权,再到具体芯片架构的演进,全面解析了兆芯在国产CPU领域的贡献与挑战。 ... [详细]
  • Python 数据可视化实战指南
    本文详细介绍如何使用 Python 进行数据可视化,涵盖从环境搭建到具体实例的全过程。 ... [详细]
  • 当前物联网领域十大核心技术解析:涵盖哪些关键技术?
    经过近十年的技术革新,物联网已悄然渗透到日常生活中,对社会产生了深远影响。本文将详细解析当前物联网领域的十大核心关键技术,包括但不限于:1. 军事物联网技术,该技术通过先进的感知设备实现战场环境的实时监测与数据传输,提升作战效能和决策效率。其他关键技术还包括传感器网络、边缘计算、大数据分析等,这些技术共同推动了物联网的快速发展和广泛应用。 ... [详细]
  • 在前一篇文章《Hadoop》系列之“踽踽独行”(二)中,我们详细探讨了云计算的核心概念。本章将重点转向物联网技术,全面解析其基本原理、应用场景及未来发展前景。通过深入分析物联网的架构和技术栈,我们将揭示其在智能城市、工业自动化和智能家居等领域的广泛应用潜力。此外,还将讨论物联网面临的挑战,如数据安全和隐私保护等问题,并展望其在未来技术融合中的重要角色。 ... [详细]
  • 夸克网盘电脑版上线,实现三端同步备份与高效编辑播放功能 ... [详细]
  • 智能制造数据综合分析与应用解决方案
    在智能制造领域,生产数据通过先进的采集设备收集,并利用时序数据库或关系型数据库进行高效存储。这些数据经过处理后,通过可视化数据大屏呈现,为生产车间、生产控制中心以及管理层提供实时、精准的信息支持,助力不同应用场景下的决策优化和效率提升。 ... [详细]
  • 本体获邀入驻公益在线教育平台,主讲“区块链助力慈善事业”核心课程
    近日,本体全球生态合作负责人Gloria Wu受公益在线教育平台邀请,参与了“新媒体新技术新公益”系列直播课程,深入探讨了区块链技术在慈善公益领域的应用前景及其潜在影响。 ... [详细]
  • 数字经济浪潮下企业人才需求变化,优质IT培训机构助力技能提升
    随着云计算、大数据、人工智能、区块链和5G等技术的迅猛发展,数字经济已成为推动经济增长的重要动力。据信通院数据,2020年中国数字经济占GDP比重达38.6%,整体规模突破39.2万亿元。本文探讨了企业在数字化转型中对技术人才的需求变化,并介绍了优质IT培训机构如何助力人才培养。 ... [详细]
  • 数字化转型:CRM系统助力企业突破管理瓶颈,实现高效运营
    数字化转型:CRM系统助力企业突破管理瓶颈,实现高效运营 ... [详细]
  • 本文探讨了利用Python编程语言开发自动化脚本来实现文件的全量和增量备份方法。通过详细分析不同备份策略的特点,文章介绍了如何使用Python标准库中的os和shutil模块来高效地管理和执行备份任务。此外,还提供了示例代码和最佳实践,帮助读者快速掌握自动化备份技术,确保数据的安全性和完整性。 ... [详细]
  • 机顶盒,即数字电视机顶盒(Digital TV Set-Top Box,简称STB),是一种放置在电视机旁的设备。它主要用于将数字信号转换为电视能够识别的模拟信号,从而实现高质量的视频和音频播放。机顶盒不仅支持基本的电视节目接收功能,还具备多种增值服务,如互动点播、网络浏览等。随着技术的发展,现代机顶盒集成了更多的智能功能,成为家庭娱乐的重要组成部分。 ... [详细]
  • 2021年度回顾与深度分析
    2021年度回顾与深度分析 ... [详细]
  • HBase在金融大数据迁移中的应用与挑战
    随着最后一台设备的下线,标志着超过10PB的HBase数据迁移项目顺利完成。目前,新的集群已在新机房稳定运行超过两个月,监控数据显示,新集群的查询响应时间显著降低,系统稳定性大幅提升。此外,数据消费的波动也变得更加平滑,整体性能得到了显著优化。 ... [详细]
  • 步入人工智能新时代,掌握这些关键知识点至关重要。AI技术将成为人类的重要辅助工具,不仅能够扩展和增强人类的智能,还能帮助我们实现更加卓越的成就。新一代人工智能技术的发展将为各行各业带来深远的影响,推动社会进步与创新。 ... [详细]
  • 掌握DSP必备的56个核心问题,我已经将其收藏以备不时之需! ... [详细]
author-avatar
腾龙娱乐开户
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有