一般用哪些工具做大数据分析？

勿忘初心提问于 2018-11-27 11:26

• 未来已来2018-11-27 11:52

  大数据是一个含义广泛的术语，是指庞大而复杂的数据集，他们需要专门设计的硬件和软件工具进行处理。该数据集通常是万亿或EB的大小。这些数据集收集来自各种各样的来源：传感器，气候信息，公开的信息，如杂志，报纸，文章。大数据产生的其他例子包括购买交易记录，网络日志，病历，军事监控，视频和图像档案，及大型电子商务。

  大数据分析是研究大量数据的过程中寻找模式，相关性和其他有用的信息，可以帮助企业更好地适应变化，并做出更明智的决策。

  
  

  大数据分析工具首选Hadoop，Hadoop 是一个能够对大量数据进行分布式处理的软件框架。但是 Hadoop 是以一种可靠、高效、可伸缩的方式进行处理的。Hadoop 是可靠的，因为它假设计算元素和存储会失败，因此它维护多个工作数据副本，确保能够针对失败的节点重新分布处理。Hadoop 是高效的，因为它以并行的方式工作，通过并行处理加快处理速度。Hadoop 还是可伸缩的，能够处理 PB 级数据。此外，Hadoop 依赖于社区服务器，因此它的成本比较低，任何人都可以使用。Hadoop是一个能够让用户轻松架构和使用的分布式计算平台。用户可以轻松地在Hadoop上开发和运行处理海量数据的应用程序。它主要有以下几个优点：

  ⒈高可靠性。Hadoop按位存储和处理数据的能力值得人们信赖。

  ⒉高扩展性。Hadoop是在可用的计算机集簇间分配数据并完成计算任务的，这些集簇可以方便地扩展到数以千计的节点中。

  ⒊高效性。Hadoop能够在节点之间动态地移动数据，并保证各个节点的动态平衡，因此处理速度非常快。

  ⒋高容错性。Hadoop能够自动保存数据的多个副本，并且能够自动将失败的任务重新分配。

  Hadoop带有用 Java 语言编写的框架，因此运行在 Linux 生产平台上是非常理想的。Hadoop 上的应用程序也可以使用其他语言编写，比如 C++。

  
  

  对于实时数据的分析，可以使用Strom。Storm是自由的开源软件，一个分布式的、容错的实时计算系统。Storm可以非常可靠的处理庞大的数据流，用于处理Hadoop的批量数据。Storm很简单，支持许多种编程语言，使用起来非常有趣。Storm由Twitter开源而来，其它知名的应用企业包括Groupon、淘宝、支付宝、阿里巴巴、乐元素、Admaster等等。

  Storm有许多应用领域：实时分析、在线机器学习、不停顿的计算、分布式RPC（远过程调用协议，一种通过网络从远程计算机程序上请求服务）、 ETL（Extraction-Transformation-Loading的缩写，即数据抽取、转换和加载）等等。Storm的处理速度惊人：经测试，每个节点每秒钟可以处理100万个数据元组。Storm是可扩展、容错，很容易设置和操作。

  
  

  RapidMiner是世界领先的数据挖掘解决方案，在一个非常大的程度上有着先进技术。它数据挖掘任务涉及范围广泛，包括各种数据艺术，能简化数据挖掘过程的设计和评价。

  功能和特点

  免费提供数据挖掘技术和库

  100%用Java代码（可运行在操作系统）

  数据挖掘过程简单，强大和直观

  内部XML保证了标准化的格式来表示交换数据挖掘过程

  可以用简单脚本语言自动进行大规模进程

  多层次的数据视图，确保有效和透明的数据

  图形用户界面的互动原型

  命令行（批处理模式）自动大规模应用

  Java API（应用编程接口）

  简单的插件和推广机制

  强大的可视化引擎，许多尖端的高维数据的可视化建模

  400多个数据挖掘运营商支持

  耶鲁大学已成功地应用在许多不同的应用领域，包括文本挖掘，多媒体挖掘，功能设计，数据流挖掘，集成开发的方法和分布式数据挖掘。

  但是，搭建大数据集群是一件耗时耗力的事情，需要多台机器组成集群，集群之上使用其他处理分析工具，数据之间还需要打通，在集群出现故障的时候，必须有精通大数据技术的人员予以协助，在数据处理的过程中，还要面临数据质量，数据安全等问题。

  
  

  网易猛犸大数据平台是一站式的大数据应用开发和数据管理平台，主要分为大数据开发套件和Hadoop发行版两部分。放上猛犸大数据平台的一张架构图。

  
  

  
  

  大数据开发套件主要包含数据开发、任务运维、自助分析、数据管理、项目管理以及多租户管理等。大数据开发套件将数据开发、数据分析、数据ETL等数据科学工作通过工作流的方式有效的串联起来，提高了数据开发工程师和数据分析师的工作效率。

  自助分析提供交互式数据分析的Notebook和单个查询Query。Query可以是单个查询，书写SQL语句，采用不同执行引擎查询数据，可视化执行结果。Notebook切分成不同段落，便于分析师使用多个段落同时进行交互式分析。除了交互式数据分析， 用户可以使用自助分析进行历史数据查询和自助取数。

  Hadoop发行版涵盖了网易大数据所有底层平台组件，包括自研组件、基于开源改造的组件。丰富而全面的组件，提供完善的平台能力，使其能够轻易的构建不同领域的解决方案，满足不同类型的业务需求。

  猛犸平台提供多租户支持，不同租户之间相互隔离。底层使用Kerberos认证，实现了数据的安全性和隔离性。除了认证系统，利用Ranger实现了细粒度权限控制，保证了各个租户只能查看授权访问的库、表或字段。此外，平台提供审计功能，通过对用户平台行为的记录、分析和汇报，用来帮助事后生成合规报告、事故追根溯源，提高平台安全性。

  同时基于业务场景的用户操作界面提高了系统的易用性，结束了平台命令行运维的繁琐状态。数据开发工程师和数据分析师通过简单拖拽和表单填写就可以完成数据科学相关的工作。放上一张猛犸大数据平台的数据开发界面。

  
  

  
  

  用户可以通过调度系统领会方便的配置和调度发数据ETL任务，支持sqoop,hive,spark,MR,script等类型的大数据任务，通过配置任务之间的依赖关系，可以灵活的组织任务流。支持任务流的定期调度、历史回溯调度、历史任务重跑等多种调度方式。支持夸任务流的任务依赖和任务的细粒度分配，并且所有服务节点都实现了高可用机制。

  
  

  点击可免费试用猛犸大数据平台