什么是大数据

大数据是具有海量、高增长率和多样化的信息资产，它需要全新的处理模式来增强决策力、洞察发现力和流程优化能力。

Big data is high volume, high velocity, and/or high variety information assets that require new forms of processing to enable enhanced decision making, insight discovery and process optimization.

大数据通常都拥有海量的数据存储。仅根据2013年的统计，互联网搜索巨头百度已拥有数据量接近EB级别、阿里、腾讯声明自己存储的数据总量都达到了百PB以上。此外，电信、医疗、金融、公共安全、交通、气象等各个方面保存的数据量也都达到数十或者上百PB级别。

面对这样规模的数据存储量，依靠单台数据库服务器显然是不够的，需要以分布式文件系统（例如 HDFS）作为基石。

大数据通常都拥有海量的数据存储。仅根据2013年的统计，互联网搜索巨头百度已拥有数据量接近EB级别、阿里、腾讯声明自己存储的数据总量都达到了百PB以上。此外，电信、医疗、金融、公共安全、交通、气象等各个方面保存的数据量也都达到数十或者上百PB级别。

面对这样规模的数据存储量，依靠单台数据库服务器显然是不够的，需要以分布式文件系统（例如 HDFS）作为基石。

在传统的关系型数据库中，所存储的数据都是结构化的，例如：

但是在现实生活中，信息往往并没有严格的结构限制。比如一个电商网站需要记录如下用户行为：

用户张三， 于某某时间在商品搜索栏搜索了“苹果手机”一词，然后进入 XXX 商铺进行浏览，经过与店家沟通，讨价还价，最终以6000元的价格购买了 iPhone 7 “钢琴黑”款式手机一部。

诸如此类的用户行为数据属于非结构化数据，很难用关系型数据库存储。因此诸多No-SQL数据库（例如 HBase）成为了存储大数据的更好选择。

如果没有更加快速有效的海量数据解决方案，那么如此大量多样的数据不但没有带来更多价值，反而成为了系统的负担。关于这一点，谷歌公司率先提出的MapReduce模型为我们带来了新的道路。

MapReduce可以简单的理解成一种分治方法：把庞大的任务分成若干小任务，交给多个节点进行并行处理，然后再把所有节点的处理结果合并起来，从而大大提升了数据处理效率。（关于MapReduce的详细流程，将会在以后的文章中进行讲解。）