“大数据”一词时下的热门程度无需赘言,这一两年来互联网相关的任何活动、会议必不可少“大数据”板块。刚刚结束的第13届“中国互联网大会”也专设了大数据论坛。
对于任何一个大数据的从业者或初接触者,或许都会有个共同的感触:大数据很有用!大数据该怎么用?
关于大数据的著作和文章铺天盖地,似乎也共同在传递一个信息:越来越多的行业、人士开始关注并实际探索大数据的应用,我们正在一起描绘着大数据巨大效用的蓝图,但在实践的路上,我们都还在起步阶段小步前行。
大数据根基于互联网,数据仓库、数据挖掘、云计算等互联网技术的发展为大数据的应用奠定了基础。然而实践应用尚处于在探索中前进。同样作为探索学习,我想从我个人的理解角度,分享并与大家探讨四个问题:大数据是什么?大数据可以做什么?大数据实际做了什么?大数据要怎么做?
首先,大数据是什么?
引用3个比较常用的大数据定义:
(1)需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。
——Gartner
(2)海量的数据规模(Volume)、快速的数据流转和动态的数据体系(Velocity)、多样的数据类型(Variety)、巨大的数据价值(Value)。
—— IDC
(3)或称巨量数据、海量数据、大资料,指所涉及的数据量规模巨大到无法通过人工,在合理时间内达到截取、管理、处理、并整理成为人类所能解读的信息。
—— Wiki
其他关于大数据的定义也大抵类似,我们可以用几个关键词对大数据做一个界定。
首先,“规模大”,这种规模可以从两个维度来衡量,一是从时间序列累积大量的数据,二是在深度上更加细化的数据。
其次,“多样化”,可以是不同的数据格式,如文字、图片、视频等,可以是不同的数据类别,如人口数据,经济数据等,还可以有不同的数据来源,如互联网、传感器等。
第三,“动态化”。数据是不停地变化的,可以随着时间快速增加大量数据,也可以是在空间上不断移动变化的数据。
这三个关键词对大数据从形象上做了界定。
但还需要一个关键能力,就是“处理速度快”。如果这么大规模、多样化又动态变化的数据有了,但需要很长的时间去处理分析,那不叫大数据。从另一个角度,要实现这些数据快速处理,靠人工肯定是没办法实现的,因此,需要借助于机器实现。
最终,我们借助机器,通过对这些数据进行快速的处理分析,获取想要的信息或者应用的整套体系,才能称为大数据。
我们可以用下面的图示给大数据定义:
对大数据概念有了界定后,那大数据可以做什么呢?
想要应用大数据,从流程上来说,大概是这样。
首先我们要有数据源,然后对数据进行收集和存储,在这基础上,再进行分析和应用,形成我们的产品和服务,而产品和服务也会产生新的数据,这些新数据会循环进入我们的流程中。
当这整个循环体系成为一个智能化的体系,通过机器可以实现自动化,那也许就会成为一种新的模式,不管是商业的,或者是其他。
然后具体到实际的应用中,我认为,大数据能够实现的应用,可以概括为两个方向,一是精准化定制,二是预测。
首先,精准化定制。
主要是针对供需两方的,获取需方的个性化需求,帮助供方定准定位目标,然后依据需求提供产品,最终实现供需双方的最佳匹配。