Skip to content

GitLab

  • Projects
  • Groups
  • Snippets
  • Help
    • Loading...
  • Help
    • Help
    • Support
    • Community forum
    • Submit feedback
    • Contribute to GitLab
  • Sign in / Register
project-collie
project-collie
  • Project overview
    • Project overview
    • Details
    • Activity
    • Releases
  • Repository
    • Repository
    • Files
    • Commits
    • Branches
    • Tags
    • Contributors
    • Graph
    • Compare
  • Issues 5
    • Issues 5
    • List
    • Boards
    • Labels
    • Service Desk
    • Milestones
  • Merge requests 2
    • Merge requests 2
  • Operations
    • Operations
    • Incidents
  • Analytics
    • Analytics
    • Repository
    • Value Stream
  • Wiki
    • Wiki
  • Members
    • Members
  • Activity
  • Graph
  • Create a new issue
  • Commits
  • Issue Boards
Collapse sidebar
  • granite
  • project-collieproject-collie
  • Wiki
    • Data_pump
    • Writers
  • file

file · Changes

Page history
update: match_key,match_expr说明 authored Dec 08, 2020 by fanzx's avatar fanzx
Hide whitespace changes
Inline Side-by-side
Showing with 3 additions and 1 deletion
+3 -1
  • data_pump/writers/file.md data_pump/writers/file.md +3 -1
  • No files found.
data_pump/writers/file.md
View page @ 376d30c0
...@@ -23,7 +23,9 @@ ...@@ -23,7 +23,9 @@
|data_split| False |是否根据data中的某一列值为文件夹名来存储数据,如果需要,设为True |data_split| False |是否根据data中的某一列值为文件夹名来存储数据,如果需要,设为True
|data_key| None | 按照此列值为文件夹名来存储数据,与data_split参数一起使用,与data_split=True时,这是必填参数 |data_key| None | 按照此列值为文件夹名来存储数据,与data_split参数一起使用,与data_split=True时,这是必填参数
|date_split| False |是否根据日期来存储数据,如果需要,设为True(当data_split,date_split同时启用时,切分效果同时生效,但是data_split优先切分,即先按字段切分再按日期切分) |date_split| False |是否根据日期来存储数据,如果需要,设为True(当data_split,date_split同时启用时,切分效果同时生效,但是data_split优先切分,即先按字段切分再按日期切分)
|data_key| None | 按照此数据中列值为日期单位存储数据,不填写的话,按照系统的时间来存储数据 |data_key| None | 按照此数据中列值为日期单位存储数据,不填写的话,按照系统的时间来存储数据。可参考filter中的实现
|match_key | None | 匹配match_key定义的数据键值,其他的舍弃,优先级高于match_key。可参考filter中的实现
|match_expr | None | Python正则语法过滤数据,匹配的才会写到文件,优先级低于match_key,有match_key时不生效
|custom_time_pattern | None | 按照给的正则表达式提供的格式确定数据最小时间切分单位,比如按照小时存存储,custom_time_pattern='%Y%m%d/%H' |custom_time_pattern | None | 按照给的正则表达式提供的格式确定数据最小时间切分单位,比如按照小时存存储,custom_time_pattern='%Y%m%d/%H'
|close_file_interval|None | 默认值为None,有些文件长时间不关闭; 设置数字时为子线程定时关闭文件的时间间隔秒数。比如300,就是5分钟关闭一次文件| |close_file_interval|None | 默认值为None,有些文件长时间不关闭; 设置数字时为子线程定时关闭文件的时间间隔秒数。比如300,就是5分钟关闭一次文件|
......
Clone repository
  • README
  • data_pump
    • data_pump
    • filters
    • filters
      • bloom
    • readers
    • readers
      • file
      • kafka
      • mongodb
      • sql
    • writers
    • writers
      • file
  • dev_guide
  • dev_manual
  • Home
  • ops
    • ansible
View All Pages