Skip to content

GitLab

  • Projects
  • Groups
  • Snippets
  • Help
    • Loading...
  • Help
    • Help
    • Support
    • Community forum
    • Submit feedback
    • Contribute to GitLab
  • Sign in / Register
K
kb
  • Project overview
    • Project overview
    • Details
    • Activity
    • Releases
  • Repository
    • Repository
    • Files
    • Commits
    • Branches
    • Tags
    • Contributors
    • Graph
    • Compare
  • Issues 2
    • Issues 2
    • List
    • Boards
    • Labels
    • Service Desk
    • Milestones
  • Merge requests 0
    • Merge requests 0
  • Operations
    • Operations
    • Incidents
  • Analytics
    • Analytics
    • Repository
    • Value Stream
  • Wiki
    • Wiki
  • Members
    • Members
  • Activity
  • Graph
  • Create a new issue
  • Commits
  • Issue Boards
Collapse sidebar
  • granite
  • kb
  • Wiki
    • Business_doc
  • get_update_data

get_update_data · Changes

Page history
update: 增量数据提取 authored Sep 29, 2021 by 李子健's avatar 李子健
Hide whitespace changes
Inline Side-by-side
Showing with 4 additions and 1 deletion
+4 -1
  • business_doc/get_update_data.md business_doc/get_update_data.md +4 -1
  • No files found.
business_doc/get_update_data.md
View page @ 9953a2ca
...@@ -23,7 +23,10 @@ topic_maxwell_test --> 处理数据消费组: 根据需求对数据进行清洗 ...@@ -23,7 +23,10 @@ topic_maxwell_test --> 处理数据消费组: 根据需求对数据进行清洗
@enduml @enduml
``` ```
``` ```
由maxwell监控业务需求的mysql库表,将binlog数据发送到kafka,以tablename的hash值作为partiti_key,通过同一个表的数据落在同一个分区中以保证binlog数据的时序性。由data_pump消费kafka数据,分两个方面,一方面对数据不做处理,将原始binlog文件持久化到磁盘做原始数据存储;一方面根据业务需求增加自定义udm模块对数据进行清洗转换,后持久化到指定目录。 由maxwell监控业务需求的mysql库表,将binlog数据发送到kafka,以tablename的hash值作为partiti_key,
通过同一个表的数据落在同一个分区中以保证binlog数据的时序性。由data_pump消费kafka数据,分两个方面,
一方面对数据不做处理,将原始binlog文件持久化到磁盘做原始数据存储;
一方面根据业务需求增加自定义udm模块对数据进行清洗转换,后持久化到指定目录。
``` ```
## 监控表分布详情 ## 监控表分布详情
......
Clone repository
  • README
  • basic_guidelines
  • basic_guidelines
    • basic_guidelines
    • dev_guide
    • project_build
    • 开发流程
  • best_practice
  • best_practice
    • AlterTable
    • RDS
    • azkaban
    • create_table
    • design
    • elasticsearch
    • elasticsearch
      • ES运维
    • logstash
View All Pages