... | @@ -9,20 +9,20 @@ baidu_index 百度指数 |
... | @@ -9,20 +9,20 @@ baidu_index 百度指数 |
|
## 数据名称(中文)
|
|
## 数据名称(中文)
|
|
<!-- 该项数据的中文标准名称,后续沟通交流使用的规范名称,如:工商公示股东信息、失信被执行人、一般纳税人等-->
|
|
<!-- 该项数据的中文标准名称,后续沟通交流使用的规范名称,如:工商公示股东信息、失信被执行人、一般纳税人等-->
|
|
###
|
|
###
|
|
```buildoutcfg
|
|
```
|
|
搜索词优化
|
|
搜索词优化
|
|
```
|
|
```
|
|
|
|
|
|
## 数据英文名称
|
|
## 数据英文名称
|
|
<!--英文名称,后续流程中所有涉及到英文名称均以此为准,如:partner、shixin、general_taxpayer等-->
|
|
<!--英文名称,后续流程中所有涉及到英文名称均以此为准,如:partner、shixin、general_taxpayer等-->
|
|
```buildoutcfg
|
|
```
|
|
baidu_planner
|
|
baidu_planner
|
|
baidu_index
|
|
baidu_index
|
|
```
|
|
```
|
|
|
|
|
|
## 采集网站(采集入口)
|
|
## 采集网站(采集入口)
|
|
<!--采集的入口地址,不能只是一个网站域名,具体到该网站的数据入口-->
|
|
<!--采集的入口地址,不能只是一个网站域名,具体到该网站的数据入口-->
|
|
```buildoutcfg
|
|
```
|
|
百度规划师文档页: https://dev2.baidu.com/content?sceneType=0&pageId=100222&nodeId=null&subhead=
|
|
百度规划师文档页: https://dev2.baidu.com/content?sceneType=0&pageId=100222&nodeId=null&subhead=
|
|
百度规划师python API调用页面: https://dev2.baidu.com/debugtool?url=/json/sms/service/KRService/getEstimatedData
|
|
百度规划师python API调用页面: https://dev2.baidu.com/debugtool?url=/json/sms/service/KRService/getEstimatedData
|
|
百度规划师流量查询页面: https://fengchao.baidu.com/fc/manage/new/user/29416528/kr
|
|
百度规划师流量查询页面: https://fengchao.baidu.com/fc/manage/new/user/29416528/kr
|
... | @@ -38,7 +38,7 @@ baidu_index |
... | @@ -38,7 +38,7 @@ baidu_index |
|
|
|
|
|
### 存量更新策略
|
|
### 存量更新策略
|
|
<!--无需更新?每天全量更新?逐条轮询更新?多久更新完一轮?或其他-->
|
|
<!--无需更新?每天全量更新?逐条轮询更新?多久更新完一轮?或其他-->
|
|
```buildoutcfg
|
|
```
|
|
百度规划师: 目前启动5个进程,每次请求携带500个关键词,目前24小时可以将se_word中的关键词3400w左右数据全部获取一遍
|
|
百度规划师: 目前启动5个进程,每次请求携带500个关键词,目前24小时可以将se_word中的关键词3400w左右数据全部获取一遍
|
|
百度指数: 目前启动了100个进程,速度非常慢,一天预计只能跑完30w条关键词,有待加资源,加进程
|
|
百度指数: 目前启动了100个进程,速度非常慢,一天预计只能跑完30w条关键词,有待加资源,加进程
|
|
```
|
|
```
|
... | @@ -97,7 +97,7 @@ baidu_index |
... | @@ -97,7 +97,7 @@ baidu_index |
|
|
|
|
|
## 任务来源
|
|
## 任务来源
|
|
<!--说明爬虫任务的输入。如:来自某个数据库表等。如果来自某个数据库表则应该简要说明该表内的数据是如何维护的。-->
|
|
<!--说明爬虫任务的输入。如:来自某个数据库表等。如果来自某个数据库表则应该简要说明该表内的数据是如何维护的。-->
|
|
```buildoutcfg
|
|
```
|
|
db_host: bdp-rds-103.mysql.rds.aliyuncs.com
|
|
db_host: bdp-rds-103.mysql.rds.aliyuncs.com
|
|
db_name: aicha_ad
|
|
db_name: aicha_ad
|
|
db_user: aicha
|
|
db_user: aicha
|
... | @@ -116,8 +116,8 @@ se_word数据表中任务作为初始任务 |
... | @@ -116,8 +116,8 @@ se_word数据表中任务作为初始任务 |
|
|
|
|
|
### 任务样例
|
|
### 任务样例
|
|
<!--注意是爬虫拿到的完整任务,而不仅仅是task_params-->
|
|
<!--注意是爬虫拿到的完整任务,而不仅仅是task_params-->
|
|
```buildoutcfg
|
|
|
|
百度规划师返回结果:
|
|
百度规划师返回结果:
|
|
|
|
```json
|
|
{
|
|
{
|
|
"header": {
|
|
"header": {
|
|
"desc": "success",
|
|
"desc": "success",
|
... | @@ -206,9 +206,10 @@ se_word数据表中任务作为初始任务 |
... | @@ -206,9 +206,10 @@ se_word数据表中任务作为初始任务 |
|
}]
|
|
}]
|
|
}
|
|
}
|
|
}
|
|
}
|
|
|
|
```
|
|
|
|
|
|
百度指数返回结果:
|
|
百度指数返回结果:
|
|
|
|
```json
|
|
{
|
|
{
|
|
"word": "000540",
|
|
"word": "000540",
|
|
"suggest": "09对战平台", # 推荐词
|
|
"suggest": "09对战平台", # 推荐词
|
... | @@ -224,13 +225,13 @@ se_word数据表中任务作为初始任务 |
... | @@ -224,13 +225,13 @@ se_word数据表中任务作为初始任务 |
|
|
|
|
|
## data_type说明
|
|
## data_type说明
|
|
<!--可能产生的data_type说明-->
|
|
<!--可能产生的data_type说明-->
|
|
```buildoutcfg
|
|
```
|
|
```
|
|
```
|
|
|
|
|
|
## 爬虫结果的超级数据
|
|
## 爬虫结果的超级数据
|
|
<!--包含所有字段的json数据,每个value都要有样例值-->
|
|
<!--包含所有字段的json数据,每个value都要有样例值-->
|
|
```buildoutcfg
|
|
|
|
百度规划师返回结果:
|
|
百度规划师返回结果:
|
|
|
|
```json
|
|
{
|
|
{
|
|
"header": {
|
|
"header": {
|
|
"desc": "success",
|
|
"desc": "success",
|
... | @@ -324,7 +325,7 @@ se_word数据表中任务作为初始任务 |
... | @@ -324,7 +325,7 @@ se_word数据表中任务作为初始任务 |
|
|
|
|
|
## 实际爬虫结果的数据结构
|
|
## 实际爬虫结果的数据结构
|
|
<!--可能与超级数据一致,可能不同的data_type的爬虫结果结构不同,超级数据是把所有data_type的结果组合在一起-->
|
|
<!--可能与超级数据一致,可能不同的data_type的爬虫结果结构不同,超级数据是把所有data_type的结果组合在一起-->
|
|
```buildoutcfg
|
|
```json
|
|
{
|
|
{
|
|
"header": {
|
|
"header": {
|
|
"desc": "success",
|
|
"desc": "success",
|
... | @@ -417,38 +418,38 @@ se_word数据表中任务作为初始任务 |
... | @@ -417,38 +418,38 @@ se_word数据表中任务作为初始任务 |
|
|
|
|
|
## 爬虫运行环境
|
|
## 爬虫运行环境
|
|
<!--udm模块?scrapy?或其他-->
|
|
<!--udm模块?scrapy?或其他-->
|
|
```buildoutcfg
|
|
```
|
|
udm
|
|
udm
|
|
```
|
|
```
|
|
|
|
|
|
|
|
|
|
## 爬虫部署信息
|
|
## 爬虫部署信息
|
|
<!--部署在哪些机器?每个机器多少进程?项目名称是什么?-->
|
|
<!--部署在哪些机器?每个机器多少进程?项目名称是什么?-->
|
|
```buildoutcfg
|
|
```
|
|
10.8.6.21 baidu_index 100个进程
|
|
10.8.6.21 baidu_index 100个进程
|
|
10.8.6.23 baidu_planner 5个进程
|
|
10.8.6.23 baidu_planner 5个进程
|
|
```
|
|
```
|
|
|
|
|
|
|
|
|
|
## Taskhub地址
|
|
## Taskhub地址
|
|
```buildoutcfg
|
|
```
|
|
无
|
|
无
|
|
```
|
|
```
|
|
|
|
|
|
## Taskhub调度规则说明
|
|
## Taskhub调度规则说明
|
|
```buildoutcfg
|
|
```
|
|
无
|
|
无
|
|
```
|
|
```
|
|
|
|
|
|
|
|
|
|
## 爬虫监控指标设计
|
|
## 爬虫监控指标设计
|
|
<!--监控爬虫正常运行的指标是什么?报警规则是什么?-->
|
|
<!--监控爬虫正常运行的指标是什么?报警规则是什么?-->
|
|
```buildoutcfg
|
|
```
|
|
无
|
|
无
|
|
```
|
|
```
|
|
|
|
|
|
## 爬虫待采集结果目录
|
|
## 爬虫待采集结果目录
|
|
```buildoutcfg
|
|
```
|
|
/data/baidu_planner
|
|
/data/baidu_planner
|
|
/data/baidu_index
|
|
/data/baidu_index
|
|
```
|
|
```
|
... | | ... | |