您可以捐助,支持我们的公益事业。

1元 10元 50元





认证码:  验证码,看不清楚?请点击刷新验证码 必填



  求知 文章 文库 Lib 视频 iProcess 课程 角色 咨询 工具 讲座 Modeler   Code  
会员   
 
   
 
  
每天15篇文章
不仅获得谋生技能
更可以追随信仰
 
 
     
   
 订阅
  捐助
Azure的NoSQL技术
 
作者:张天雷 来源:InFoQ 发布于:2015-1-22
1253 次浏览     评价:      
 

长期以来,传统关系型数据库占据了数据存储的大片江山。但是随着互联网web2.0网站的兴起,传统的关系数据库在应付web2.0网站,特别是超大规模和高并发的SNS类型的web2.0纯动态网站已经显得力不从心,暴露了很多难以克服的问题。NoSQL,泛指非关系型的数据库,由于其本身的特点得到了非常迅速的发展。

作为云计算领域大型厂商的Azure云,对NoSQL技术有一系列很好的支持。Azure云将数据大概分为两种:运行时数据和分析数据。所谓运行时数据就是云计算应用在运行过程中产生的数据,比如购物车添加的某个商品,比如人力资源系统中员工信息以及股票交易系统里的股票买入卖出价格。所谓分析数据,则是通过对运行时数据进行分析后的数据,比如对用户购买数据进行分析后得到的市场预测或者用户购买行为建模数据。这些数据随着应用的运行不断积累,通常来讲要比运行时数据大得多。虽然这种分类不是那么清晰,但是业界通常用这种方式来选择是否使用NoSQL技术。如下图所示:

图中的绿色部分,就是Azure云提供的数据库相关工具,而黑色部分则是可以运行在Azure云上的其他数据库相关工具。在NoSQL方面,Azure可以提供如下服务:

文档存储

使用Azure的DocumentDB,类似MongoDB。它包括了一系列由JSON格式构成的文档。注意这里面的Document跟以往微软Word软件给出的Document不是一个意思。下图给出了DocumentDB的一个例子:

从例子可以看出,DocumentDB跟关系数据库最大的区别,也是NoSQL数据库的最大特点,就是它没有特定的Schema,并将全部的数据以字符串的形式存储。在访问数据的时候,通常通过NoSQL给定的RESTful接口进行增删查改数据,可一次提交一个或多个类似SQL的查询语句。RESTful接口支持的语言很多如.NET、Node.js、JavaScript和Python等。

跟大多数的NoSQL数据库一样,DocumentDB可以处理海量数据。其数据存储可以分布在多台机器,而且为了防止数据访问出错,DocumentDB还对一份数据进行了多份备份。当然多备份通常意味着对数据更新和修改的成本会增加,这就需要开发者自己来权衡开发效率和开发效果了。DocumentDB提供了四种数据访问格式:增强型,最慢但是可以保证数据的正确性。过期数据标注型,告诉开发者正在访问的数据是否过期,让开发者决定是否对数据进行更新。会话型,同一个应用内部可以保证数据的正确性,不保证跨应用的数据正确性。快速型,提供最快的数据访问速度,但是返回过期数据的概率也是最大的。

DocumentDB是Azure的内置服务,用户无需安装就可以创建新的数据库和数据集合。并且它通过“运算能力单元”(Capacity Units)来保证在多租户的情况下单一用户的性能需要。此外Azure云存储还提供MongoDB、RavenHQ和Redis等其他NoSQL技术。

对于开发者来讲,从本地通过Visual Studio对DocumentDB进行访问是轻而易举的事情。他们只需要通过NuGet包管理工具下载安装DocumentDB.NET开发包,就可以从容地创建数据库和数据集合、修改JSON文档以及查询等。如果开发者想要在一次transaction中修改多个文档,则可通过服务端脚本来开发类似SQL Procedure来完成,从一定程度商来讲,现代化的JavaScript脚本取代了传统的T-SQL,使得开发者用起来更加得心应手。

关于DocumentDB的入门教程可以参考Gaston Hillar在Dobbs给出的教程。

Key/value存储

使用Azure的Tables,类似Riak,来满足快速访问大量数据的需求。比如一个电商应用,存储了大量的在线购物车。数据非常简单,就是用户感兴趣想要购买的商品列表。而且开发者对这些数据的操作也相对简单,就是对一个特定的购物车键值进行读和写。

这种情况下,不能使用传统的关系型数据库。因为它限制了购物车的数量。因此对于这种大规模简单数据的读写操作,Azure云开发了Tables来帮助开发者更好的完成。

Key/Value存储的思想很简单,根据一个特定的键值,来增删查改跟其相关的数据。在Azure Tables中,数据存储在分区中,每个分区存储一些实体,而实体则有属性。每个属性都有名字和类型比如整数或者字符和日期。每个实体都有一个属性是分区的Key,整个这个分区的所有实体的该属性都是一样的值。每个实体还有另外一个属性行值,用来区分同一个分区内的各个实体。因此,开发者想要访问某一个实体,就可以通过分区Key和行Key来定位它。

如同其它的NoSQL数据库,Tables没有Schema的概念。分区中的每个实体都可以包含不同数量的属性,只保留对应用最重要的部分数据。在上面图中的例子里,A1所对应的实体可能包含名字、国籍、年龄以及上次登录的日期。而A2则只包括了名字、国籍和年龄。不管数据是什么类型的,Tables都可以保证这些实体的快速访问。当然要注意的是,Tables对数据的访问相对来讲比较简单,不提供存储过程或者出发这类功能。类似DocumentDB,Tables也对数据进行了多备份的处理,所以哪怕是几台机器失效,数据也会尽可能的被保护。此外,跟DocumentDB不同的是,Tables对数据的一致性也有很好的处理,这意味着开发者总是会得到最后修改过的数据。Tables还提供跨数据中心的存储,让开发者将数据存储在Azure不同地区的数据中心里,通过异步来更新数据的改动。

最后,Tables最吸引人的地方,实际上是其低廉的价格。虽然这跟开发者选用的存储形式有关系,比如跨数据中心存储会稍微贵一些,但是整体上来讲是比DocumentDB要便宜的。这么便宜是因为基本上这都是一些存储费用,Tables并不保证CPU资源。总之Tables这种Key/Value形式的存储非常简单、可扩展而且价格低廉,是很多应用开发的首选。

列对象存储

使用Azure的HBase,类似Cassandra。主要是为了应对这样的场景:之前使用了传统的关系型数据库,但是随着业务的增长,关系型数据库无法容纳这么多的数据。而经过研究发现这些数据很多都是稀疏的,即大部分字段都是没有值的。就可以使用列优先的数据库来进行存储。

再举一个例子,比如现在有个应用想要存储关于很多网页的数据。一行数据描述一个网页,每一列都是关于这个网页的一些信息。通常来讲,都会有很多行,因为网页很多,而且也会有很多列,因为网页的信息包含方方面面。但是大部分的字段都是空的,因为不是每个网页都包含了方方面面。如下图所示:

跟Tables不太一样的是,以列为先的HBase,还是有一点点Schema的味道,将其称作“列组”。上面的例子还是存储了Tables里面同样的例子数据。列组使用一个特定的命名来区分彼此,组内则维持原有的列名字。注意,类似关系数据库,每一列不一定都被填满,但是这种独特的将列划分的组织形式,使得HBase能够将稀疏数据做进一步的处理和优化存储。跟DocumentDB和Tables不同,HBase并没有以文档或者实体的形式来看待数据,而是只有当新的数据需要存储的时候,才会为某一行增加新的列。

HBase跟传统数据库也有不同的地方,即存储的内容没有类型的区别,每个字段存储的都是bytestring。而且每个字段都可以保留相当长的历史数据以及不同版本的数据,这对于需要访问先前数据的应用就有用了。此外,为了跨机器存储,HBase还将不同的行组合起来形成Region区域,当然这对于应用开发者来讲是透明的。这就跟DocumentDB的容器和Tables中的分区不一样了,这些都是开发者在创建数据库的时候必须手动给定的。

HBase并不提供查询语言,应用只需提供列组、列名称和行Key就可以访问对应的数据,这种访问方式类似上面提到的Key/Value Tables。下表给出了Azure云中支持的数据库类型的比较:

大数据分析

使用Azure的HDInsight,类似Hadoop。在大数据这个概念深入人心之前,应用开发者对数据所做的,就是保证应用的功能性。比如让用户完成购买、招聘新人、更新游戏排名榜之类的。但是,随着越来越多历史数据的积累,分析运行时数据的模式、趋势以及相关信息能够让开发者获得更进一步对应用的认识,获取第一手的评估资料。因此,Azure云还为开发者提供了商业智能相关的数据库支持,如数据仓库等。对于分析数据来讲,传统的关系数据库技术就显得不是很合适了,因为这种数据可能并不能用关系来表示。

非常赞的是,开源的Hadoop软件给了我们分析这种数据的可能,Azure包含了多种Hadoop相关技术,如下:

HDFS:用来存储集群中大型二进制文件的文件系统;

MapReduce:用来处理HDFS中数据的并行计算方法;

Hive:提供类似SQL语言的HiveQL来查询数据;

Pig:利用Pig脚本来创建分布式计算实例;

上述这些服务,被Azure云以HDInsight开发包的形式提供给开发者,如下:

结语

海量数据的今天,关系型数据库不再独霸天下,NoSQL数据也成为了开发者开发应用过程中不可或缺的有力工具。Azure云致力解决开发者遇到的数据操作问题,力争以最简单的封装来完成最复杂的需求。

   
1253 次浏览  评价: 差  订阅 捐助
相关文章

我们该如何设计数据库
数据库设计经验谈
数据库设计过程
数据库编程总结
 
相关文档

数据库性能调优技巧
数据库性能调整
数据库性能优化讲座
数据库系统性能调优系列
相关课程

高性能数据库设计与优化
高级数据库架构师
数据仓库和数据挖掘技术
Hadoop原理、部署与性能调优
 

MySQL索引背后的数据结构
MySQL性能调优与架构设计
SQL Server数据库备份与恢复
让数据库飞起来 10大DB2优化
oracle的临时表空间写满磁盘
数据库的跨平台设计
更多...   


并发、大容量、高性能数据库
高级数据库架构设计师
Hadoop原理与实践
Oracle 数据仓库
数据仓库和数据挖掘
Oracle数据库开发与管理


GE 区块链技术与实现培训
航天科工某子公司 Nodejs高级应用开发
中盛益华 卓越管理者必须具备的五项能力
某信息技术公司 Python培训
某博彩IT系统厂商 易用性测试与评估
中国邮储银行 测试成熟度模型集成(TMMI)
中物院 产品经理与产品管理
更多...   
 
 
 
 
 
每天2个文档/视频
扫描微信二维码订阅
订阅技术月刊
获得每月300个技术资源
 
 

关于我们 | 联系我们 | 京ICP备10020922号 京公海网安备110108001071号