大数据的诞生,引爆了这个时代一场深刻的互联网革命,其对传统的互联网的格局带来的影响也将是颠覆性的。中培伟业《大数据分析及可视化技术应用实战》专家钟老师指出,大数据之所以能够产生如此深远的影响,其中的一个重要原因就是它与传统数据在价值上存在着明显的差异。
大数据包括交易数据和交互数据集在内的所有数据集,具体由海量交易数据、海量交互数据和海量处理数据三种主要技术汇聚组成。
海量交易数据指企业内部的经营交易信息数据,主要包括联机交易数据和联机分析数据,是结构化的、通过关系数据库进行管理和访问的静态、历史数据。通过这些数据,我们能了解过去发生了什么。
海量交互数据来自社交平台和门户网站及其他来源的社交媒体数据。它包括呼叫详细记录CDR、设备和传感器信息、GPS和地理定位映射数据、通过管理文件传输Manage File Transfer协议传送的海量图像文件、Web文本和点击流数据、科学信息、电子邮件等。这些数据可以告诉我们未来会发生什么。
海量数据处理是一种应对复杂、海量数据的能力,大数据的涌现已经催生出了设计用于数据密集型处理的架构。例如具有开放源码、在商品硬件群中运行的Apache Hadoop,难题在于以具备成本效益的方式快速可靠地从Hadoop中存取数据。
有人说,大数据是对传统数据的终结和替代。这种观点并不被学者们普遍接受。但大数据的价值和处理方式的确与传统数据有很大程度的不同。
在宗旨上,传统数据处理遵循的是固化业务优于高效,高效优于发现业务。整体上讲这是一种求稳策略。而大数据处理却将传统方法的顺序整体颠倒过来,首先是发现业务,其次是高效,最后是固化业务。
在数据特点上,传统数据面对的一般是企业内部数据,数据量一般不会超过10亿量级。大数据处理的却是多样化的数据,从数据来源上有内部和外部,数据结构上有结构化和非结构化,数据量可处理xPB级。
在技术手段上,传统数据处理方法使用商务智能的开源RDBMS,昂贵的分析挖掘工具,甚至是商用集群。大数据处理方法则更多的是使用开源技术,更注重数据本身,使用多种技术解决业务问题。
在场景上,传统数据主要处理实时、事务性、在线业务,而大数据则会处理大量的批量数据和少量的在线实时型数据。总而言之,传统数据是以业务为中心,大数据则是以数据为中心,数据为业务服务。