Flume (产品编号:13784)

Flume是一个分布式、可靠、和高可用的海量日志聚合系统

标签:

开发商: Apache

当前版本: v1.6

产品类型:控件

产品功能:网络通讯

平台语言:

开源水平:不提供源码

本产品的分类与介绍仅供参考,具体以商家网站介绍为准,如有疑问请来电 023-68661681 咨询。

Flume是一个可高效收集、聚合和移动大量日志数据的可靠的分布式系统。它拥有一个基于流动数据流的简单而灵活的架构;它包含了许多故障转移和恢复机制,拥有健壮的可靠性和高容错性;它使用的数据模型是简单和可扩展的,可以进行应用程序的在线分析。

产品质量分析及预测

* 关于本产品的分类与介绍仅供参考,精准产品资料以官网介绍为准,如需购买请先行测试。

特点:

可靠性

当节点出现故障时,日志能够被传送到其他节点上而不会丢失。Flume提供了三种级别的可靠性保障,从强到弱依次分别为:end-to-end(收到数据agent首先将event写到磁盘上,当数据传送成功后,再删除;如果数据发送失败,可以重新发送。),Store on failure(这也是scribe采用的策略,当数据接收方crash时,将数据写到本地,待恢复后,继续发送),Best effort(数据发送到接收方后,不会进行确认)。

可扩展性

Flume采用了三层架构,分别为agent,collector和storage,每一层均可以水平扩展。其中,所有agent和collector由master统一管理,这使得系统容易监控和维护,且master允许有多个(使用ZooKeeper进行管理和负载均衡),这就避免了单点故障问题。

可管理性

所有agent和colletor由master统一管理,这使得系统便于维护。多master情况,Flume利用ZooKeeper和gossip,保证动态配置数据的一致性。用户可以在master上查看各个数据源或者数据流执行情况,且可以对各个数据源配置和动态加载。Flume提供了web 和shell script command两种形式对数据流进行管理。

功能可扩展性

用户可以根据需要添加自己的agent,collector或者storage。此外,Flume自带了很多组件,包括各种agent(file, syslog等),collector和storage(file,HDFS等)。

架构:

Flume采用了分层架构:分别为agent,collector和storage。其中,agent和collector均由两部分组成:source和sink,source是数据来源,sink是数据去向。

Flume

Flume使用了两个组件:Master和Node,Node根据在Master shell或web中动态配置,决定其是作为Agent还是Collector。

agent

agent的作用是将数据源的数据发送给collector。Flume自带了很多直接可用的数据源,同时提供了很多sink。

collector

collector的作用是将多个agent的数据汇总后,加载到storage中。它的source和sink与agent类似。

storage

storage是存储系统,可以是一个普通file,也可以是HDFS,HIVE,HBase,分布式存储等。

Master

Master是管理协调agent和collector的配置等信息,是flume集群的控制器。

Flume

在Flume中,最重要的抽象是data flow(数据流),data flow描述了数据从产生,传输、处理并最终写入目标的一条路径。

  1. 对于agent数据流配置就是从哪得到数据,把数据发送到哪个collector。

  2. 对于collector是接收agent发过来的数据,把数据发送到指定的目标机器上。

更新时间:2017-06-05 15:08:54.000 | 录入时间:2016-02-01 11:56:06.000 | 责任编辑:陈俊吉

相关产品
SocketTools ActiveX Edition

一套使你能够在你的应用程序中添加互联网功能的ActiveX控件。

SocketTools Library Edition

SocketTools库版是一套Windows库,可简化互联网应用开发

SocketTools Subscription

一套用于Windows软件开发的互联网组件和库

TOP Server OPC Server

工业4.0工业控制软件Software Toolbox's OPC和原生HMI设备的连接软件,采用业界领先的Kepware技术。

IoT Solutions

MQTT, Azure, Amazon, Google, Rest, & Edge物联网方案

扫码咨询


添加微信 立即咨询

电话咨询

客服热线
023-68661681

TOP