作者:博仔Mmi | 来源:互联网 | 2023-08-15 12:32
数据定义未来——2016数据库技术大会总结背景作为国内数据库与大数据领域最大规模的技术盛宴,2016第七届中国数据库技术大会(DTCC)如约于2016年5月12
数据定义未来——2016数据库技术大会总结 背景 作为国内数据库与大数据领域最大规模的技术盛宴,2016第七届中国数据库技术大会(DTCC)如约于2016年5月12日-14日再度震撼来袭。大会以数据定义未来为主题,云集了国内外顶尖专家,共同探讨MySQL、NoSQL、Oracl
DT时代
数据库大会首次出现的产品
ElasticSearch
目前最火的开源搜索引擎,Elasticsearch是一个基于Apache Lucene(TM)的开源搜索引擎。无论在开源还是专有领域,Lucene可以被认为是迄今为止最先进、性能最好的、功能最全的搜索引擎库。
不过,Elasticsearch不仅仅是Lucene和全文搜索,我们还能这样去描述它:
分布式的实时文件存储,每个字段都被索引并可被搜索
分布式的实时分析搜索引擎
可以扩展到上百台服务器,处理PB级结构化或非结构化数据
以上摘自 http://es.xiaoleilu.com/
Elasticsearch有时候看起来更像是一个具备强大搜索引擎的数据库系统,他对内部数据管理很精细,它对每个字段都有索引,而且查询时可以很方便的做条件运算(如大于、小于之类的),可以很方便的管理基础数据(增删改查),查询与结果集都支持JSON格式,数据结构化做得很好,便于程序里处理。
Elasticsearch已经进入DB-Engines Ranking排名,目前排名第11位,可以说非常有潜力,数据库在全文检索方面一直是大痛点。附上2016.5月数据库排名情况:
2.《阿里数据库团队服务产品化之路的持续探索》,这是我的主题,请鄙视我重点说一下。这个主题主要介绍了阿里巴巴数据库技术团队近几年在服务产品化方面的探索与思考。数据库技术团队已经从前几年的去IOE工作,全面转型为提升服务和产品能力。我们提供了iDB、DBFree、DRC等内部产品服务,也发布了数据传输DTS、数据管理DMS、OceanBase云服务。这中间有很多思考,也只有产品之路上才能体会。
我把数据库产品化分为4个阶段:
2[email protected]#com搞(%代@[email protected]&003~2010-》运维工具时代
2011~2014-》平台服务时代
2015~~数据库云服务时代
2020~~数据云时代
从2003~2010年,我们一直在做运维工具,这个过程很长,在老一辈大师级DBA的带领下,我们的DBA技术及人才积累非常不错,全国近一半的Oracle顶级专家都在这里,我们曾经管理了全亚州最大的Oracle RAC集群。这个时代我们开始做很多工具,包括备份恢复、监控告警、安装配置、巡检、数据查询订正导出、SQL审核,基本是自给自足,但是规划方面较少。
2011~2014,平台服务时代,这是我们去IOE、分布式数据库、异地容灾多活全面发展的时代,我们重点在思考建设更强的平台服务,直到去年初,这个目标已经基本完成了,我们建设了iDB、DBFree、DRC等数据库基础平台,可以说是双11、去IOE、异地多活的核心产品,支撑阿里巴巴集团业务快速发展。平台服务时代在服务成本、用户体验方面还有很多提升空间,2014年,我们开始思考在云计算时代如何建设数据库服务,我们在持续梳理内部的技术与产品,目前在阿里云上输出了3款数据库云服务,帮助用户更好的使用云计算,我们在云上还输出了OceanBase云服务,这是新一代分布式金融级云数据库,另外我们内部也在建设新一代数据库云服务,通过技术与产品突破,与RDS一起更好的支撑阿里巴巴、蚂蚁金服及阿里云的业务发展。
附件数据库服务产品化上的一些小体会:
我们正处于建设数据库云服务时代,未来几年重点是要建设很好的服务体验,说说我对平台服务与云服务的理解:
平台服务:组织机构会很大影响产品规划,团队职能划分会很大影响产品形态,产品特性与SLA不清晰,更多聚焦在完成平台建设。
云服务:产品以云服务提供,用户可以非常清楚的知道产品特性与SLA,用户只要选择服务模式就可以自己完成工作。 云服务会全面以客户为中心,减少组织职能对产品体验的影响。云服务建设完成后,客户他可以从实例购买,数据库结构设计、变更、发布,数据库优化诊断,数据查询、变更、导出、迁移、同步等工作可以全部在自己的业务线完成,不会关心后端有没有DBA支持。DBA会通过产品提供基础通用的保障,包括数据库备份、安全检查、HA容灾。业务线可以找DBA一起设计数据库架构,业务DBA也会更关注提升研发同学整体数据库技能,DBA也会投入更多资源研发更先进的数据库引擎。
数据库云服务对基础技术及产品设计方面都有很大的挑战。
我们对未来数据云时代非常期待,也正在朝这个方向努力,也希望更多人能一起来建设。
数据云与大数据关系密切,但说实话,我不喜欢大数据这个词,因为他总是会让人比较数据有多大。数据云是通往更高人工智能的必经之路,在数据云时代,大数据技术已经非常成熟,大家不再关注数据 有多大,计算能力有多强,大家更关注的是谁的数据更有价值,数据采集与交易也会非常简单。数据分析挖掘与深度学习能力开始变得非常有竞争力,
数据云时代每个人做数据交易会像今天发微博或微信一样简单,人人可以选择把自己的数据贡献出来,包括家庭、爱好、日常生活信息、个人能力等等,而且可以很好的处理公共信息与隐私信息。公司也可以很方便的将自己积累的数据放在交易平台上售卖,并且解决了隐私与安全问题。当所有人都能提供与交易数据,加上强大的云端处理能力,数据云会对人类生活产生革命性的变化。
今天alphago只会下围棋,大家感觉很强,但是并不会对我们产生多大影响。在数据云时代,alphago只要连上数据云端,数据结构化了,所有人类的已知的技能学习方面都有了,它能30秒获取与学习相应领域的技巧,当你说要下象棋时,它连接云端30秒学会了下象棋,结果你玩不过他。你搬出了最拿手的Dota游戏,然后他30秒学习了Dota,你还是玩不过他,你发现面前就不是一个只会下围棋的家伙,你会感觉到数据云的威力开始不可想像,加上各种强大传感技术,真正的强AI时代就到了。
总结
Oracle在全面转型到云计算,外面开始流行DT时代的说明,MongoDB在国内非常火,国产数据库南大通用GBase下血本了,大数据概念还在膨胀,阿里巴巴集团是技术最开放分享的公司。
叶正盛(斗佛)
2016-5-18