大数据基础架构过程中要考虑的重要因素

DOIT.com.cn 12年05月18日 14:39 【转载】作者：网络责任编辑：王振

导读：随着IT行业持续地灌输廉价存储的优势，企业较以往拥有者更多的数据，那么在评估大数据基础架构的过程中需要深入地调查哪些因素。本篇涉及到了在容量、延迟、访问性、安全性和成本这些重要因素的评估。

随着IT行业持续地灌输廉价存储的优势，企业较以往拥有者更多的数据，那么在评估大数据基础架构的过程中需要深入地调查哪些因素。本篇涉及到了在容量、延迟、访问性、安全性和成本这些重要因素的评估。

大数据发展的驱动因素

除了存储比以往更多的数据，我们所面临的数据种类也变得更加繁杂。这些数据源包括互联网事务交易、社交网络的活动、自动化传感器、移动设备以及科研仪器等。除了静态的数据增长方面，事务交易也会保持一个固定的数据“增长速度”。例如飞速增长的社交信息所产生的大量交易事务和记录。不过现有的不断扩大数据集无法确保能够为业务搜索出有价值的信息。

当今的信息是一项重要的生产因素

数据业已成为了一种生产资料，就如何资本、劳动力和原始材料那样，而且也不限于某一行业内的特定应用。企业中所有部门都旨在整合比较越来越多的数据集合，致力于降低成本、提升品质、增强生产能力以及开发新产品。举例来说，对于现场产品的直接数据分析有助于提升设计。又例如企业可以通过对用户习惯的深入分析，比较整体市场的增长特性，大幅提升自己在竞争分析方面的能力。

存储发展的必要性

大数据意味着数据的增长超过了其本身的基础架构，这驱动着应对这些特殊挑战的存储、网络和计算系统进一步的发展。软件应用需求最终推动了硬件功能的发展，同时在这种情况下，大数据分析的处理过程正在影响着数据存储基础架构的发展。这对于存储和IT基础架构企业而言是一项机遇。随着结构化和非结构化数据集的持续增长，这类数据的分析方式也更为多样化，当前的存储系统设计难以应对大数据基础架构所需。存储供应商已经开始推出基于数据块和基于文件的系统来应对许多这方面的需求。以下列出了一些大数据存储基础架构的特性，这些都是源自大数据的挑战。

容量。“大”在很多时候可以理解为PB级别的数据，因此大数据基础架构当然要能够可以扩展。不过其同样必须能够简易地完成扩展，以模块化或阵列的方式为用户直接增加容量，或者至少保持系统不会宕机。横向扩展式存储由于能够满足这种需求，变得十分流行。横向扩展集群体系架构的特征是由存储节点构成，每个节点具备处理能力和可连接性，可以无缝地扩展，避免传统系统可能产生的烟囱式存储的问题。

大数据还意味着大量的文件。管理元数据文件系统的累计会降低可扩展性并影响性能，用传统的NAS系统就会在这种情况下出现问题。基于对象的存储体系架构则通过另一种方式，支持在大数据存储系统中扩展至十亿级别的文件数量，而不会产生传统文件系统中会遇到的负载问题。基于对象的存储可以在不同的地理位置进行扩展，可以在多个不同地点扩展出大型的基础架构。

延迟。大数据基础架构中或许同样会包含实时性的组件，尤其是在网页交互或金融处理事务中。存储系统必须能够应对上述问题同时保持相应的性能，因为延迟可能产生过期数据。在这一领域，横向扩展式基础架构同样能够通过应用存储节点集群，随着容量扩展的同时增强处理能力和可连接性。基于对象的存储系统可能并发数据流，更大程度上改善吞吐量。