Skip to content

GitLab

  • Projects
  • Groups
  • Snippets
  • Help
    • Loading...
  • Help
    • Help
    • Support
    • Community forum
    • Submit feedback
    • Contribute to GitLab
  • Sign in / Register
K
kb
  • Project overview
    • Project overview
    • Details
    • Activity
    • Releases
  • Repository
    • Repository
    • Files
    • Commits
    • Branches
    • Tags
    • Contributors
    • Graph
    • Compare
  • Issues 2
    • Issues 2
    • List
    • Boards
    • Labels
    • Service Desk
    • Milestones
  • Merge requests 0
    • Merge requests 0
  • Operations
    • Operations
    • Incidents
  • Analytics
    • Analytics
    • Repository
    • Value Stream
  • Wiki
    • Wiki
  • Members
    • Members
  • Activity
  • Graph
  • Create a new issue
  • Commits
  • Issue Boards
Collapse sidebar
  • granite
  • kb
  • Wiki
    • Data_stream
  • search_ads_optimization

search_ads_optimization · Changes

Page history
Update search_ads_optimization authored Jul 13, 2021 by 吴一博's avatar 吴一博
Hide whitespace changes
Inline Side-by-side
Showing with 17 additions and 16 deletions
+17 -16
  • data_stream/search_ads_optimization.md data_stream/search_ads_optimization.md +17 -16
  • No files found.
data_stream/search_ads_optimization.md
View page @ 777a52c5
...@@ -9,20 +9,20 @@ baidu_index 百度指数 ...@@ -9,20 +9,20 @@ baidu_index 百度指数
## 数据名称(中文) ## 数据名称(中文)
<!-- 该项数据的中文标准名称,后续沟通交流使用的规范名称,如:工商公示股东信息、失信被执行人、一般纳税人等--> <!-- 该项数据的中文标准名称,后续沟通交流使用的规范名称,如:工商公示股东信息、失信被执行人、一般纳税人等-->
### ###
```buildoutcfg ```
搜索词优化 搜索词优化
``` ```
## 数据英文名称 ## 数据英文名称
<!--英文名称,后续流程中所有涉及到英文名称均以此为准,如:partner、shixin、general_taxpayer等--> <!--英文名称,后续流程中所有涉及到英文名称均以此为准,如:partner、shixin、general_taxpayer等-->
```buildoutcfg ```
baidu_planner baidu_planner
baidu_index baidu_index
``` ```
## 采集网站(采集入口) ## 采集网站(采集入口)
<!--采集的入口地址,不能只是一个网站域名,具体到该网站的数据入口--> <!--采集的入口地址,不能只是一个网站域名,具体到该网站的数据入口-->
```buildoutcfg ```
百度规划师文档页: https://dev2.baidu.com/content?sceneType=0&pageId=100222&nodeId=null&subhead= 百度规划师文档页: https://dev2.baidu.com/content?sceneType=0&pageId=100222&nodeId=null&subhead=
百度规划师python API调用页面: https://dev2.baidu.com/debugtool?url=/json/sms/service/KRService/getEstimatedData 百度规划师python API调用页面: https://dev2.baidu.com/debugtool?url=/json/sms/service/KRService/getEstimatedData
百度规划师流量查询页面: https://fengchao.baidu.com/fc/manage/new/user/29416528/kr 百度规划师流量查询页面: https://fengchao.baidu.com/fc/manage/new/user/29416528/kr
...@@ -38,7 +38,7 @@ baidu_index ...@@ -38,7 +38,7 @@ baidu_index
### 存量更新策略 ### 存量更新策略
<!--无需更新?每天全量更新?逐条轮询更新?多久更新完一轮?或其他--> <!--无需更新?每天全量更新?逐条轮询更新?多久更新完一轮?或其他-->
```buildoutcfg ```
百度规划师: 目前启动5个进程,每次请求携带500个关键词,目前24小时可以将se_word中的关键词3400w左右数据全部获取一遍 百度规划师: 目前启动5个进程,每次请求携带500个关键词,目前24小时可以将se_word中的关键词3400w左右数据全部获取一遍
百度指数: 目前启动了100个进程,速度非常慢,一天预计只能跑完30w条关键词,有待加资源,加进程 百度指数: 目前启动了100个进程,速度非常慢,一天预计只能跑完30w条关键词,有待加资源,加进程
``` ```
...@@ -97,7 +97,7 @@ baidu_index ...@@ -97,7 +97,7 @@ baidu_index
## 任务来源 ## 任务来源
<!--说明爬虫任务的输入。如:来自某个数据库表等。如果来自某个数据库表则应该简要说明该表内的数据是如何维护的。--> <!--说明爬虫任务的输入。如:来自某个数据库表等。如果来自某个数据库表则应该简要说明该表内的数据是如何维护的。-->
```buildoutcfg ```
db_host: bdp-rds-103.mysql.rds.aliyuncs.com db_host: bdp-rds-103.mysql.rds.aliyuncs.com
db_name: aicha_ad db_name: aicha_ad
db_user: aicha db_user: aicha
...@@ -116,8 +116,8 @@ se_word数据表中任务作为初始任务 ...@@ -116,8 +116,8 @@ se_word数据表中任务作为初始任务
### 任务样例 ### 任务样例
<!--注意是爬虫拿到的完整任务,而不仅仅是task_params--> <!--注意是爬虫拿到的完整任务,而不仅仅是task_params-->
```buildoutcfg
百度规划师返回结果: 百度规划师返回结果:
```json
{ {
"header": { "header": {
"desc": "success", "desc": "success",
...@@ -206,9 +206,10 @@ se_word数据表中任务作为初始任务 ...@@ -206,9 +206,10 @@ se_word数据表中任务作为初始任务
}] }]
} }
} }
```
百度指数返回结果: 百度指数返回结果:
```json
{ {
"word": "000540", "word": "000540",
"suggest": "09对战平台", # 推荐词 "suggest": "09对战平台", # 推荐词
...@@ -224,13 +225,13 @@ se_word数据表中任务作为初始任务 ...@@ -224,13 +225,13 @@ se_word数据表中任务作为初始任务
## data_type说明 ## data_type说明
<!--可能产生的data_type说明--> <!--可能产生的data_type说明-->
```buildoutcfg ```
``` ```
## 爬虫结果的超级数据 ## 爬虫结果的超级数据
<!--包含所有字段的json数据,每个value都要有样例值--> <!--包含所有字段的json数据,每个value都要有样例值-->
```buildoutcfg
百度规划师返回结果: 百度规划师返回结果:
```json
{ {
"header": { "header": {
"desc": "success", "desc": "success",
...@@ -324,7 +325,7 @@ se_word数据表中任务作为初始任务 ...@@ -324,7 +325,7 @@ se_word数据表中任务作为初始任务
## 实际爬虫结果的数据结构 ## 实际爬虫结果的数据结构
<!--可能与超级数据一致,可能不同的data_type的爬虫结果结构不同,超级数据是把所有data_type的结果组合在一起--> <!--可能与超级数据一致,可能不同的data_type的爬虫结果结构不同,超级数据是把所有data_type的结果组合在一起-->
```buildoutcfg ```json
{ {
"header": { "header": {
"desc": "success", "desc": "success",
...@@ -417,38 +418,38 @@ se_word数据表中任务作为初始任务 ...@@ -417,38 +418,38 @@ se_word数据表中任务作为初始任务
## 爬虫运行环境 ## 爬虫运行环境
<!--udm模块?scrapy?或其他--> <!--udm模块?scrapy?或其他-->
```buildoutcfg ```
udm udm
``` ```
## 爬虫部署信息 ## 爬虫部署信息
<!--部署在哪些机器?每个机器多少进程?项目名称是什么?--> <!--部署在哪些机器?每个机器多少进程?项目名称是什么?-->
```buildoutcfg ```
10.8.6.21 baidu_index 100个进程 10.8.6.21 baidu_index 100个进程
10.8.6.23 baidu_planner 5个进程 10.8.6.23 baidu_planner 5个进程
``` ```
## Taskhub地址 ## Taskhub地址
```buildoutcfg ```
无 无
``` ```
## Taskhub调度规则说明 ## Taskhub调度规则说明
```buildoutcfg ```
无 无
``` ```
## 爬虫监控指标设计 ## 爬虫监控指标设计
<!--监控爬虫正常运行的指标是什么?报警规则是什么?--> <!--监控爬虫正常运行的指标是什么?报警规则是什么?-->
```buildoutcfg ```
无 无
``` ```
## 爬虫待采集结果目录 ## 爬虫待采集结果目录
```buildoutcfg ```
/data/baidu_planner /data/baidu_planner
/data/baidu_index /data/baidu_index
``` ```
......
Clone repository
  • README
  • basic_guidelines
  • basic_guidelines
    • basic_guidelines
    • dev_guide
    • project_build
    • 开发流程
  • best_practice
  • best_practice
    • AlterTable
    • RDS
    • azkaban
    • create_table
    • design
    • elasticsearch
    • elasticsearch
      • ES运维
    • logstash
View All Pages