PrototypeCommune
JFanZhao/spider
使用java+httpclient+httpcleaner,多线程、分布式爬去电商网站商品信息,数据存储在hbase上,并使用solr对商品建立索引,使用redis队列存储一个共享的url仓库;使用zookeeper对爬虫节点生命周期进行监视等。
- Propriétaire
- JFanZhao (compte personnel)
- Étoiles
- Étoiles : 233
- Forks
- Forks : 149
- Langage
- Java
- Licence
- Aucune
- Création
- 2016
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang
D’autres dépôts Java
Tous les dépôts Java- FPSMasterTeam/FPSMaster-EdgeÉtoiles : 233JavaPrototype
- whwlsfb/ViewState-CrackerÉtoiles : 233JavaPrototype
- bkhtmltopdf/bkhtmltopdfÉtoiles : 233JavaPrototype
- paul-hammant/paranamerÉtoiles : 233JavaPrototype
- OpenGamma/OG-PlatformÉtoiles : 233JavaPrototype
- apache/commons-validatorÉtoiles : 233JavaPrototype