# 数据总线架构

# 概述

数据采集总线可以理解为一个水平采集数据的中间件,负责从不同类型不同种类的应用、终端、数据文件、数据库中收集数据

# 本内容你将获得

  • 数据采集总线的架构设计
  • 使用场景

# 架构

数据采集总线提供公共的采集数据接口,便于客户将各种数据发送到数据采集总线, 是数据治理中的重要一环

以下为架构设计:

架构说明 :

  • 数据采集总线封装了消息的统一管理能力,包括接收消息接口、统计、记录和重发失败消息等,规避消息的复杂度
  • 接收多种消息能力
  • 应用、APP等发送消息到数据采集总线后,提供给多个消费者使用数据,提取出有用的信息

# 使用场景

数据采集总线在大数据应用场景下具有广泛的应用,常见的场景包括:

  • 收集历史数据: 用户将多种异构数据,包括历史访问日志、消息、数据库、文件等发送到数据采集总线
  • 收集实时数据: 用户将各个应用、APP等产生的消息实时发送到数据采集总线
  • 统一存储: 原始数据可能分布在多个节点上,数据采集总线可以将数据传输、存储到统一的数据服务器上
  • 消息队列中间件: 用于搭建消息队列中间件,实现系统间的异步消息通信,从而提高系统整体的可扩展性和可维护性
  • 应用接入: 应用程序可以通过数据采集总线获得最新的数据,经过处理得到最新的结果,以便实时监控和调整应用程序行为

# 其它